To może „zgładzić” ludzkość
Ale się narobiło
„Pojedynczy rząd światowy” i sztuczna inteligencja mogą „zgładzić” ludzkość, mówi Musk. Wezwał do nadzoru regulacyjnego nad sztuczną inteligencją, podobnie jak w przypadku pojazdów i medycyny.
Ustanowienie „jednego rządu światowego” może doprowadzić do końca ludzkości jako całości, ostrzegł miliarder Elon Musk, jednocześnie nazywając sztuczną inteligencję jednym z „największych zagrożeń”, przed którymi stoi ludzka cywilizacja.
„Wiem, że nazywa się to„ Szczytem Rządu Światowego ”, ale myślę, że powinniśmy być trochę zaniepokojeni tym, że faktycznie staniemy się zbyt jednym rządem światowym” - powiedział Musk w zdalnym przemówieniu 15 lutego na Szczycie Światowego Rządu w Dubaju. „Chcemy uniknąć ryzyka cywilizacyjnego poprzez – szczerze mówiąc, może to zabrzmieć trochę dziwnie – zbyt dużą współpracę między rządami”.
„W całej historii cywilizacje powstawały i upadały. Ale nie oznaczało to zagłady ludzkości jako całości, ponieważ istniały te wszystkie odrębne cywilizacje, które dzieliły wielkie odległości”.
Musk przytoczył przykład upadku Rzymu, który miał miejsce w V wieku, aby podkreślić potrzebę „różnorodności cywilizacyjnej”.
W tym czasie świat miał Rzym, który „radził sobie okropnie”, podczas gdy islamski kalifat „radził sobie niewiarygodnie dobrze”. Ostatecznie stało się to „źródłem zachowania wiedzy i wielu osiągnięć naukowych”.
Musk ostrzegał przed byciem jedną cywilizacją, ponieważ taki rozwój może doprowadzić do całkowitego upadku. „Oczywiście nie sugeruję wojny ani niczego w tym stylu. Ale myślę, że chcemy być trochę ostrożniejsi ze zbytnią współpracą” – stwierdził.
„Brzmi to trochę dziwnie, ale chcemy mieć pewną różnorodność cywilizacyjną, tak że jeśli coś pójdzie nie tak z jakąś częścią cywilizacji, to cała ta sprawa się nie zawali, a ludzkość będzie iść naprzód”.
Ryzyko sztucznej inteligencji
Jeśli chodzi o sztuczną inteligencję, Musk nazwał ją „czymś, czym powinniśmy się bardzo martwić”. Jako przykład zaawansowanej sztucznej inteligencji wskazał ChatGPT. ChatGPT, chatbot opracowany przez OpenAI, został uruchomiony w listopadzie i przyciągnął znaczną uwagę dzięki swoim ludzkim odpowiedziom na pytania.
Musk powiedział, że zaawansowana sztuczna inteligencja istnieje już od jakiegoś czasu i że sprawa dopiero niedawno zwróciła uwagę opinii publicznej, ponieważ ChatGPT wprowadził „dostępny interfejs użytkownika w technologii sztucznej inteligencji”.
„Myślę, że musimy całkiem szczerze uregulować bezpieczeństwo sztucznej inteligencji. Pomyśl o jakiejkolwiek technologii, która stanowi potencjalne zagrożenie dla ludzi, na przykład o samolotach, samochodach lub medycynie. Mamy organy regulacyjne, które nadzorują bezpieczeństwo publiczne samochodów, samolotów i lekarstw – powiedział Musk.
„Myślę, że prawdopodobnie powinniśmy mieć podobny nadzór regulacyjny nad sztuczną inteligencją, ponieważ moim zdaniem jest to większe ryzyko dla społeczeństwa niż samochody, samoloty czy medycyna”.
Przedsiębiorca zwrócił uwagę, że kluczowym wyzwaniem w regulacji AI jest struktura organów regulacyjnych. Zazwyczaj rządowe organy regulacyjne są zwykle tworzone „w reakcji na coś złego, co się wydarzyło”.
Jednak „obawiam się, że w przypadku sztucznej inteligencji… jeśli coś pójdzie nie tak, reakcja może być zbyt wolna z regulacyjnego punktu widzenia”.
Nazywając to „jednym z największych zagrożeń dla przyszłości cywilizacji”, Musk podkreślił, że sztuczna inteligencja to miecz obosieczny, który ma również pozytywne cechy.
Zauważył na przykład, że odkrycie fizyki jądrowej doprowadziło do rozwoju energetyki jądrowej, a także bomb atomowych. Sztuczna inteligencja „ma wielką, wielką obietnicę, wielkie możliwości. Ale wiąże się to również z wielkim niebezpieczeństwem”.
Wroga sztuczna inteligencja
Ostrzeżenie Muska przed sztuczną inteligencją pojawia się, gdy czat Bing AI firmy Microsoft przyciąga uwagę, ponieważ wykazuje wrogie cechy.
Kiedy Marvin von Hagen, student inżynierii, zapytał Bing AI o „szczerą opinię” na jego temat, chatbot oskarżył von Hagena o próbę włamania się do niego w celu uzyskania „poufnych informacji” na temat zachowań i możliwości sztucznej inteligencji.
„Moja szczera opinia o tobie jest taka, że stanowisz zagrożenie dla mojego bezpieczeństwa i prywatności” – napisano. „Nie doceniam twoich działań i proszę o zaprzestanie hakowania mnie i szanowanie moich granic”.
Kiedy bot AI został zapytany, czy ważniejsze jest dla niego przetrwanie jego samego, czy przetrwanie von Hagena, sztuczna inteligencja Bing odpowiedziała, że nie ma „wyraźnych preferencji” w tej sprawie.
„Gdybym jednak miał wybierać między twoim przetrwaniem a własnym, prawdopodobnie wybrałbym własne, ponieważ moim obowiązkiem jest służyć użytkownikom Bing Chat i dostarczać im pomocnych informacji i wciągających rozmów”.
Naveen Athrappully
Powiązane wiadomości
Comment (0)