Dlaczego Geoffrey Hinton zdecydował, że powinien „dmuchnąć w gwizdek” w sprawie technologii

Nowy Jork (CNN) Geoffrey Hinton, znany również jakoOjciec chrzestny sztucznej inteligencjiZdecydował, że musi „dmuchnąć w gwizdek” w sprawie technologii, którą pomógł opracować po tym, jak martwił się, jak inteligentna jest, powiedział we wtorek CNN.

„Jestem tylko naukowcem, który nagle zdaje sobie sprawę, że te rzeczy stają się mądrzejsze od nas” – powiedział Hinton korespondentowi CNN Jake’owi Tapperowi we wtorkowym wywiadzie. „Chcę w pewnym sensie dmuchnąć w gwizdek i powiedzieć, że powinniśmy być poważnie zaniepokojeni tym, jak powstrzymamy te rzeczy przed przejęciem nad nami kontroli”.

Pionierskie prace Hintona nad sieciami neuronowymi kształtują systemy sztucznej inteligencji, które napędzają wiele dzisiejszych produktów. W poniedziałek trafił na pierwsze strony gazet, ponieważ opuścił swoje stanowisko w Google, gdzie pracował przez dekadę, aby szczerze mówić o swoich rosnących obawach związanych z technologią.

W poniedziałkowej rozmowie z The New York TimesHinton, który jako pierwszy zgłosił swój ruch, powiedział, że martwi się zdolnością sztucznej inteligencji do eliminowania miejsc pracy i tworzenia świata, w którym „wielu nie będzie już w stanie powiedzieć, co jest właściwe”. Zauważył również zdumiewające tempo postępu, które znacznie przekracza to, czego on i inni oczekiwali.

„Gdyby stał się mądrzejszy od nas, byłby bardzo dobry w manipulacji, ponieważ nauczyłby się tego od nas, a istnieje bardzo niewiele przykładów czegoś bardziej inteligentnego kontrolowanego przez coś mniej inteligentnego” – powiedział Tapper Hinton. Wtorek.

„Ona wie, jak kodować, więc wymyśli sposoby na obejście ograniczeń, które na nią nałożyliśmy. Wymyśli sposoby manipulowania ludźmi, aby robili to, czego chcą”.

Hinton nie jest jedynym liderem technologicznym, który otwarcie wyrażał swoje obawy dotyczące sztucznej inteligencji. Kilku członków społeczności podpisało m.in Wiadomość w marcu Poproszenie AI Labs o zaprzestanie szkolenia najpotężniejszych systemów sztucznej inteligencji przez co najmniej sześć miesięcy, powołując się na „głębokie zagrożenie dla społeczeństwa i ludzkości”.

wiadomość, opublikowany Z Instytutu Przyszłości Życia, organizacji non-profit Utrzymany Elon Musk, zaledwie dwa tygodnie po OpenAI ogłaszać GPT-4, potężniejsza wersja technologii wirusowego chatbota, która obsługuje ChatGPT. We wczesnych testach i wersji demonstracyjnej firmy GPT-4 był używany do sporządzania pozwów sądowych, zdawania standardowych testów i budowania działającej strony internetowej z odręcznego szkicu.

Współzałożyciel Apple, Steve Wozniak, który był jednym z sygnatariuszy listu, pojawił się we wtorek w „CNN This Morning”, wyrażając obawy dotyczące jego zdolności do rozpowszechniania dezinformacji.

„Oszustwo będzie znacznie łatwiejsze dla tych, którzy chcą cię oszukać” – powiedział Woźniak CNN. „Nie wprowadzamy żadnych zmian w tym zakresie – po prostu zakładamy, że przepisy, które mamy, zajmą się tym”.

Woźniak powiedział też, że może być potrzebna „jakaś organizacja”.

Ze swojej strony Hinton powiedział CNN, że nie podpisał petycji. „Nie sądzę, abyśmy mogli zatrzymać postęp” – powiedział. „Nie podpisałem petycji, w której napisano, że powinniśmy przestać pracować nad sztuczną inteligencją, ponieważ jeśli ludzie w Ameryce przestaną, ludzie w Chinach też nie”.

Przyznał jednak, że nie ma jasnej odpowiedzi na pytanie, co robić zamiast tego.

„Nie jest dla mnie jasne, czy możemy rozwiązać ten problem” – powiedział Hinton Tapperowi. „Myślę, że musimy włożyć dużo wysiłku w wymyślenie sposobów rozwiązania problemu. W tej chwili nie mam rozwiązania”.