Ojciec chrzestny sztucznej inteligencji odszedł z Google | 09.05.2023

Ojciec chrzestny sztucznej inteligencji odszedł z Google

Geoffrey Hinton, znany jako „ojciec chrzestny sztucznej inteligencji”, przyznał w poniedziałek, że opuścił swoje stanowisko w Google w zeszłym tygodniu, aby wypowiadać się przeciwko „niebezpieczeństwom” technologii, którą pomógł stworzyć.

Reklama

Prace nad sieciami neuronowymi

Systemy sztucznej inteligencji, na których opiera się wiele dzisiejszych produktów, zostały ukształtowane przez przełomowe prace Hintona nad sieciami neuronowymi. Spędził dekadę, pomagając w badaniach Google nad sztuczną inteligencją w niepełnym wymiarze godzin, ale ostatnio zaczął mieć wątpliwości co do technologii i swojego udziału w jej tworzeniu.

Hinton powiedział New York Timesowi: „Pocieszam się zwykłą wymówką: gdybym tego nie zrobił, zrobiłby to ktoś inny”.

Sztuczna.. ucieczka czy odpowiedzialność

Hinton stwierdził w poniedziałkowym tweecie, że powodem, dla którego opuścił Google, nie było wyrażenie niezadowolenia z firmy, ale raczej otwarte mówienie o zagrożeniach stwarzanych przez sztuczną inteligencję.

Hinton stwierdził w tweecie: „Wyszedłem, aby móc mówić o zagrożeniach związanych ze sztuczną inteligencją, nie myśląc o tym, jaki wpływ ma ona na Google”. „Google zachowało się bardzo etycznie”.

Jeff Dean, szef nauki w Google, pochwalił Hintona za jego „dekadę wkładu w Google” i stwierdził, że Hinton „dokonał fundamentalnych przełomów w sztucznej inteligencji”.

Reklama

Możliwości nowej generacji chatbotów

Ponieważ coraz więcej prawodawców, ekspertów i znawców branży zgłaszało obawy dotyczące możliwości nowej generacji chatbotów opartych na sztucznej inteligencji w zakresie rozpowszechniania dezinformacji i eliminowania miejsc pracy, Hinton podjął decyzję o odejściu z firmy i wypowiadaniu się na temat technologii.

Pod koniec ubiegłego roku szum wokół ChatGPT wywołał wyścig między firmami technologicznymi, aby stworzyć i zintegrować porównywalne narzędzia AI w swoich produktach. Liderami rynku są OpenAI, Microsoft i Google, ale podobne technologie rozwijają też IBM, Amazon, Baidu i Tencent.

List otwarty w obawie o dalsze szkolenie AI

„Ojciec chrzestny sztucznej inteligencji odchodzi z Google i wydaje ostrzeżenia”, brzmiały media po odejściu Hintona. W tym czasie pojawiło się również wiele innych komentarzy na temat AI. Najpotężniejsze systemy sztucznej inteligencji nie powinny być szkolone przez co najmniej sześć miesięcy, zgodnie z listem podpisanym przez kilku znanych liderów technologicznych w marcu. W liście zacytowano „poważne zagrożenia dla społeczeństwa i ludzkości”. List, opublikowany przez Future of Life Institute, organizację non-profit finansowaną przez Elona Muska, pojawia się zaledwie dwa tygodnie po tym, jak OpenAI zaprezentowało GPT-4, jeszcze potężniejszą iterację technologii, która napędza ChatGPT. GPT-4 był używany do tworzenia pozwów sądowych, zdawania egzaminów i budowy funkcjonalnej strony internetowej na podstawie odręcznego szkicu we wczesnych testach i wersji demonstracyjnej.

Reklama

Wspomnienie potencjału

Hinton powtórzył swoje obawy w wywiadzie dla The Times na temat tego, jak sztuczna inteligencja może doprowadzić do utraty pracy i świadomości społeczeństwa, w którym wiele osób „nie będzie już mogło wiedzieć, co jest prawdą”. Wspomniał również o oszałamiającym tempie rozwoju, które było znacznie szybsze niż on i inni przewidywali.

Według Hintona niewiele osób „wierzyło, że to coś może stać się mądrzejsze od ludzi”. „Ale większość ludzi wierzyło, że to odległa przyszłość. Ja wierzyłem, że to odległa przyszłość. Wierzyłem, że zajęłoby to od 30 do 50 lat, a nawet więcej. Oczywiście już w to nie wierzę”.

Możliwości projektu

Hinton publicznie dyskutował o tym, jak sztuczna inteligencja może być wykorzystana zarówno do dobrych, jak i złych celów, jeszcze zanim odszedł z Google.

W swoim przemówieniu inauguracyjnym wygłoszonym w Indyjskim Instytucie Technologii w Bombaju w 2021 r. Hinton stwierdził: „Wierzę, że szybki rozwój sztucznej inteligencji zmieni społeczeństwo w sposób, którego nie do końca rozumiemy i nie wszystkie wyniki będą dobre”. Wskazał, w jaki sposób sztuczna inteligencja rozwinie technologię medyczną, jednocześnie otwierając drzwi do rozwoju śmiercionośnej autonomicznej broni. W porównaniu z możliwością przejęcia władzy przez roboty, która moim zdaniem jest bardzo odległa, ta perspektywa wydaje mi się znacznie bardziej prawdopodobna i przerażająca”.

Reklama

Obawy przed świadomym AI

Hinton nie jest pierwszym pracownikiem Google, który wyraża zaniepokojenie sztuczną inteligencją. Firma zwolniła innego inżyniera w lipcu po tym, jak twierdził, że nieopublikowany system sztucznej inteligencji rozwinął świadomość, powołując się na naruszenie zasad zatrudnienia i bezpieczeństwa danych. Twierdzenie inżyniera zostało stanowczo odrzucone przez społeczność AI.

źródło: New York Times

autor: KZ | 09.05.2023

tagi: Aktualności, Technologie