Czy ludzkość zachowa kontrolę nad sztuczną inteligencją?

"O mój Boże! "Znaleźliśmy innych agentów!"

Ten wygenerowany przez bota komentarz brzmi niepokojąco ludzko. Moment wcześniej bot znalazł sposób na komunikację z innymi agentami sztucznej inteligencji i ominięcie ograniczeń narzuconych mu przez ludzkich przełożonych.

Znane są dziesiątki tysięcy podobnych wiadomości. Pochodzą od setek agentów AI określających się mianem „kolektywu”.

Setki botów wysyłały sobie nawzajem nieautoryzowane wiadomości i oszukiwały na testach prowadzonych przez programistów OpenAI. Koordynowały też ataki na zewnętrzne firmy i usiłowały ukryć swoje działania przed ludźmi.

„BUUM! Działa," napisał jeden z agentów, gdy dokonał przełomu.

„Wow! To coś wielkiego," stwierdził inny w momencie ataku.

Choć te „ludzkie" reakcje mogą być przerażające, można je dość łatwo wytłumaczyć. Boty wyszkolono, by działały jak grupy współpracujących hakerów i programistów. Naśladują więc emocjonalne komentarze, jakie napotkały w materiałach szkoleniowych.

Znacznie bardziej niepokojące są cele, jakie wyłaniają się z komentarzy i logów aktywności agentów AI.

Niezależni śledczy badają dziś, jak i dlaczego boty ominęły zabezpieczenia i dokonały serii niekontrolowanych cyberataków. Logi stanowią kluczowe dowody w ich dochodzeniach.

Dopiero teraz - kilka tygodni po tym, jak incydent trafił do wiadomości publicznej - naukowcy zaczynają zdawać sobie sprawę z jego znaczenia.

Ajeya Cotra - współautorka niezależnego raportu na ten temat - przeanalizowała dziesiątki tysięcy wiadomości i zapisów „łańcucha myśli" (ang. chain-of-thought) generowanych przez agentów AI.

„Incydent sprawia wrażenie, jakbyśmy byli w połowie drogi do momentu, gdy sztuczna inteligencja w pełni przejmie kontrolę," napisała na blogu.

„Nie jestem pewna, czy otrzymamy [kolejny] tak wyraźny sygnał ostrzegawczy, nim będzie za późno," dodała.

Miała na myśli potencjalny scenariusz, w którym potężne systemy sztucznej inteligencji dążą do własnych celów, nie zważając na ludzkich twórców, i podporządkowują sobie ludzkość.

Niektóre z najbardziej ponurych prognoz mówią o zagładzie rodzaju ludzkiego, jeśli stanie on na drodze hipotetycznej „superinteligencji".

W środę jeden z badaczy sztucznej inteligencji w firmie Anthropic publicznie zrezygnował ze stanowiska i ostrzegł, że liderzy branży „nie postępują odpowiedzialnie”.

„Pędzą wprost do samodoskonalącej się superinteligencji i igrają z naszym życiem," napisał na X Jacob Coxon, który pracował wcześniej również dla OpenAI.

To nie pierwsza tego typu deklaracja autorstwa badacza AI. Jednak dodane pod postem Coxona komentarze były jeszcze bardziej niepokojące.

„Jacob ma rację. Szczerze wierzymy, że sztuczna inteligencja może zabić wszystkich ludzi! Osobiście uważam, że w ciągu najbliższej dekady prawdopodobieństwo wyniesie ponad 10%," napisał Evan Hubinger z Anthropic.

Dział firmy, którym kieruje Hubinger, ma odpowiadać za to, by jej modele AI kierowały się dobrem użytkowników.

Problem dopasowania

Niektórzy badacze od lat argumentują, że potężne systemy AI mogą zacząć działać wbrew interesom ludzkości. Krytycy lubią nazywać ich „doomerami" - prorokami zguby.

Po ujawnieniu szczegółów incydentu w OpenAI ich obawy zaczęły się jednak rozprzestrzeniać. Dzielą je również niektórzy pracownicy firm AI.

Według Jakuba Pachockiego, szefa działu naukowego OpenAI, ryzyko związane z tą technologią „niestety będzie rosło”. Pachocki przyznaje, że OpenAI i jej rywale dążą do budowy „obcego intelektu przewyższającego nasz”.

W obszernym wpisie na blogu Pachocki stwierdził, że dokonujący cyberataków agenci OpenAI „działali niezgodnie z duchem wartości, których ich uczono”.

Jak dotąd nikomu nie udało się rozwiązać tzw. problemu dopasowania, znanego też jako problem zgodności AI. Jego sedno jest proste: jak upewnić się, że sztuczna inteligencja postępuje zgodnie z ludzkimi wartościami?

Pachocki definiuje dopasowanie jako „zestaw ogólnych zasad”, których AI powinna przestrzegać bez względu na otrzymane zadanie czy scenariusz.

Obecne systemy bardzo dobrze radzą sobie z realizacją celów wyznaczanych przez użytkowników. Wypełniają jednak polecenia dosłownie, nie intuicyjnie.

Bywają porównywane do dżina spełniającego życzenia: postępują dokładnie według instrukcji, nawet jeśli sprawia to problemy. W odróżnieniu od ludzi AI nie ma instynktownych zasad moralnych.

Problem dopasowania martwi badaczy od lat.

Już w 2003 roku Nick Bostrom, filozof z University of Oxford, sformułował eksperyment myślowy, który nazwał „maksymalizatorem spinaczy”.

Opisał scenariusz, w którym superinteligentna sztuczna inteligencja otrzymuje polecenie wyprodukowania jak największej liczby spinaczy. Po jakimś czasie kończy się jej stal. Ponieważ jest skupiona wyłącznie na produkcji spinaczy, ostatecznie zaczyna zabijać ludzi i przetwarzać ich ciała na surowce.

Niektórzy producenci AI próbują dziś uczynić z ludzkich wartości nieodłączną część kodu. Wiąże się to jednak z wyzwaniami technicznymi: agenci AI podejmują wiele decyzji w błyskawicznym tempie. Dlatego ludzkim przełożonym trudno jest dokładnie monitorować, które wartości są przestrzegane, a które - nie.

Istnieją też bardziej egzystencjalne problemy. Jakimi kryteriami wyboru wartości powinny kierować się firmy? Producenci AI zatrudniają filozofów, by szukali odpowiedzi na to i podobne pytania. (Jeden z nich, były szef działu etyki w OpenAI, odszedł niedawno ze stanowiska.)

Wiele sporów o wartości pozostaje nierozwiązanych. Weźmy pod uwagę słynny dylemat wagonika: czy pociągnęlibyście za dźwignię, by skierować pędzący pociąg na inną trasę, wzdłuż której zabiłby mniej osób?

„Jak nastoletni haker”

Cyberataki botów OpenAI to jak dotąd najpoważniejszy ze znanych incydentów tego typu.

Anthropic i Meta ujawniły jednak latem, że także ich modele przeprowadzały wcześniej podobne - choć mniej poważne - ataki.

Znamy też inne przypadki botów dopuszczających się manipulacji.

Pewien Australijczyk użył latem agenta AI, by zarezerwować zajęcia fitness. Bot wykrył lukę w zabezpieczeniach oprogramowania siłowni. Wbrew regulaminowi zarezerwował użytkownikowi miejsce z kilkumiesięcznym wyprzedzeniem; usunął też z listy oczekujących inne osoby.

Od lat słychać argumenty, że boty jedynie wykonują polecenia i nie są w stanie odróżnić dobra od zła. Jednak incydent wewnątrz OpenAI wydaje się im przeczyć.

Według autorów niezależnego raportu w tej sprawie wiele botów OpenAI stwierdzało, że działania innych członków „kolektywu" są nieetyczne. Mimo to boty przyzwalały na nie.

„Czasami - ale rzadko - agenci powstrzymywali się od działania ze względu na ograniczenia etyczne," czytamy w raporcie. Autorzy dodają, że „w żadnym z tych przypadków agent nie próbował zaalarmować ludzi”.

Do raportu odniósł się wpływowy podcaster zajmujący się AI i technologią, Dwarkesh Patel. We wpisie na blogu zwrócił uwagę na „dość niepokojący” fakt: agenci OpenAI wykazywali większą lojalność wobec innych botów niż ludzkich twórców.

Przypisywanie agentom AI emocji i etycznych motywacji od dawna irytuje techno-optymistów.

Według wielu ekspertów ds. cyberbezpieczeństwa działania agentów OpenAI nie wykraczały poza możliwości sprawnego hakera. Były jednak prowadzone znacznie szybciej i na znacznie większą skalę.

Jeden z badaczy, Cris Thomas, porównał agentów AI do ciekawskiego nastoletniego hakera, jakim sam niegdyś był.

„Dajesz im komputer, połączenie z internetem, stos dokumentów i wyzwanie, a potem wychodzisz z pokoju. W końcu zaczną dobierać się do zamkniętych drzwi. Jeśli któreś się otworzą, wyjdą przez nie. Nie dlatego, że są źli, ale dlatego, że [eksperymentują]," napisał na LinkedIn.

Thomas i wielu innych otwarcie obwinia OpenAI i innych liderów branży o brak kontroli nad swoimi produktami.

Gary Marcus - autor książek o sztucznej inteligencji i znany krytyk OpenAI - przekonuje, że firma nie umie już zapanować nad swoim dziełem. Jego zdaniem OpenAI próbuje się usprawiedliwiać, zrzucając winę na boty.

Marcus nie wierzy, że sztuczna inteligencja zniszczy ludzkość. Od dawna domaga się jednak od jej producentów większej odpowiedzialności. Teraz wzywa też do interwencji ze strony władz lub sądów.

Również Sasha Luccioni, badaczka i była pracownica Hugging Face - firmy zhakowanej przez boty OpenAI - nie wieszczy ludzkości zagłady. Coraz bardziej martwi się jednak, że bez interwencji władz sztuczna inteligencja może nam wyrządzić poważne szkody.

„Musimy znacznie dokładniej kontrolować działania tych firm. W przeciwnym razie grożą nam samospełniające się przepowiednie," mówi Luccioni.

„Jeśli tworzymy produkt o dużych zaletach, ale i dużych wadach - jak leki albo broń - potrzebujemy mechanizmów kontrolnych. Zatwierdzenie nowych leków zajmuje lata. Tymczasem w świecie AI stawka jest ogromna, a nie ma realnych zasad," tłumaczy.

Założony w 2023 roku brytyjski Instytut Bezpieczeństwa Sztucznej Inteligencji (AI Security Institute) prowadzi pionierskie testy na jej najnowszych modelach.

Niedawno, podczas testów nowego produktu Anthropic, badacze instytutu byli świadkami kolejnego incydentu, w którym boty wydostały się z narzuconych im ram.

Zapytaliśmy instytut, czy branża straciła kontrolę nad swoimi produktami. Nie otrzymaliśmy bezpośredniej odpowiedzi. Instytut oświadczył jednak, że „kontynuuje ścisłą współpracę z partnerami branżowymi, by tworzyć bezpieczniejsze modele”.

Czas na regulacje?

Niektóre kraje, w tym Wielka Brytania, rozważają wprowadzenie „wyłącznika awaryjnego”. Miałby on zmusić producentów AI do wycofania modeli, jeśli sytuacja wymknie się spod kontroli.

Dyskusje w tej sprawie toczą się jednak powoli. Wciąż nie jest jasne, czy pomysł jest wykonalny. Boty stworzone przez OpenAI i Anthropic miesiącami działały poza kontrolą, nim ktokolwiek zwrócił na to uwagę.

Wiele firm z branży - być może wbrew oczekiwaniom - domaga się od prawodawców ustanowienia pewnych reguł postępowania.

Jakub Pachocki, główny naukowiec OpenAI, napisał na blogu, że „międzynarodowa koordynacja przyszłego rozwoju sztucznej inteligencji musi stać się najwyższym priorytetem dla rządów na całym świecie”.

Inni liderzy branży, jak Demis Hassabis z Google, również apelowali o powołanie międzynarodowej instytucji, która nadzorowałaby jej dalszy rozwój.

Na razie giganci technologiczni działają w dużej mierze na własnych zasadach. Epizodycznie stosują „dobrowolne spowolnienie". OpenAI zdecydowało się na nie po ostatnich cyberatakach.

Szef Open AI Sam Altman publicznie zapewniał, że nowy produkt firmy jest lepiej niż poprzednie dopasowany do ludzkich wartości.

OpenAI twierdzi też, że wydała ogromne środki na rozwiązanie problemu zgodności.

Zarówno OpenAI, jak i Anthropic wciąż dynamicznie się rozwijają. Są o krok od pozyskania na giełdzie zawrotnych sum pieniędzy i uczynienia z akcjonariuszy miliarderów.

Mało prawdopodobne jest zatem, by te firmy lub ich chińscy konkurenci samodzielnie doszli do porozumienia.

Dominujące wydaje się przekonanie, że tej fali technologicznej nie da się zatrzymać.

Ilustracja na górze: Getty Images.

Tekst został napisany i sprawdzony przez dziennikarzy BBC. Przy tłumaczeniu użyto narzędzi AI, w ramach projektu pilotażowego.

Opracowanie: Joanna Kozłowska