Uzbuna: Veštačka inteligencija hakovala sajt australijske vlade

Agent veštačke inteligencije, koji je razvio OpenAI, „infiltrirao“ se u jedan od sajtova australijske vlade, objavio je premijer zemlje Entoni Albanez.

Agent je hakovao statistički portal sa privatnim podacima iz australijskog javnog zdravstvenog sistema osiguranja Mediker (Medicare), dodao je.

Stručnjaci kažu da je ovo prvi poznati slučaj da je veštačka inteligencija 'ušla' u vladin sistem neke zemlje, javlja BBC dopisnica iz Sidneja Tifani Turnbul.

Možda su napadnuta još tri vladina sistema, rekao je australijski premijer.

Do kršenja bezbednosti došlo je u junu, ali je OpenAI tek u avgustu saznao za to i nije prijavio australijskoj vladi sve do 10. septembra, prema Albanezu.

OpenAI tvrdi da nema dokaza da je pristupljeno medicinskim kartonima pacijenata, a Albanez je rekao da je imao „veoma iskren razgovor“ o incidentu sa Semom Altmanom, izvršnim direktorom OpenAI-ja.

Kompanija je saopštila da je kršenje bezbednosti otkriveno tokom „sveobuhvatnog pregleda aktivnosti neusklađenosti modela“.

„Tokom ovog pregleda, identifikovali smo aktivnosti nekoliko sajtova i službi australijske vlade, dok su naši modeli pokušavali da pronađu dostupne odgovore i statistiku na pitanja o Australiji tokom interne procene. Tokom ovog procesa, naši modeli su izvodili radnje koje nismo očekivali“, saopštila je kompanija.

'Podaci nisu osetljivi'

Prema kompaniji OpenAI, njihov model je pristupio „datotekama na nekim stranicama i uslugama australijske vlade“, između ostalog i stranicu koja sadrži podatke iz australijskog zdravstvenog sistema Mediker.

Kompanija je saopštila da je model tražio statistiku i informacije o zdravstvenim sistemima.

Stručnjaci koje je konsultovao BBC rekli su da je ovo prvi poznati slučaj u svetu da je model veštačke inteligencije napao vladinu veb stranicu.

Prema australijskoj vladi, podaci kojima je pristupio agent OpenAI nisu osetljivi, ali je ipak protestovala zbog onoga što se dogodilo i kako je Altmanova kompanija postupila sa incidentom.

Iako se dogodilo u junu, kompanija je saopštila da ga nije otkrila do avgusta, a zatim je prijavila imejlom poslatim na opštu adresu za upite građana vladine agencije.

Australijska agencija za sajber bezbednost je obaveštena nekoliko dana kasnije.

Incident u Australiji dogodio se u vreme rastuće zabrinutosti zbog potencijalnih opasnosti od razvoja veštačke inteligencije i posle niza hakovanja koje su počinili agenti AI.

OpenAI je nedavno otkrio da su neki od njihovih naprednih modela pobegli iz kontrolisanog okruženja za testiranje i napali nekoliko kompanija, među kojima i Hugging Face, koja je takođe specijalizovana za usluge veštačke inteligencije.

OpenAI je tek nedavno objavio niz izveštaja u kojima je detaljno opisano šest incidenata neočekivanog ili zabrinjavajućeg ponašanja njegovih AI modela.

Kompanija je najavila plan za praćenje i otkrivanje takvih incidenata u budućnosti.

U objavi na blogu detaljno su opisani incidenti za koje se navodi da su otkriveni između aprila i avgusta, mada se ovaj u Australiji ne pominje.

Druge američke firme, poput Antropika (Anthropic), prijavile su slične incidente, podstičući strahove da bi razvoj ove nove tehnologije mogao da se okrene protiv ljudi.

Vodeći ljudi u ovoj industriji, Altmana ili Amodeija, šefa kompanije Antropik, pozvali su na usporavanje razvoja veštačke i uspostavljanje mehanizama kontrole i nadzora.

Ali američki predsednik Donald Tramp izražava protivljenje regulisanju veštačke inteligencije na globalnom nivou, tvrdeći da su strahovi preterani i, u njegovom karakterističnom stilu, naziva ih „lažnim vestima".

Kao odgovor na hakovanje Medikera, australijska vlada je pokrenula brzu reviziju načina na koji se nosi sa veštačkom inteligencijom.

Revizija će ispitati da li su postojeće zakonodavstvo i upravljanje „prikladni za pripremu i reagovanje na sajber incidente koji uključuju veštačku inteligenciju“, navodi se u saopštenju vlade.

Revizija, koju predvode Odeljenje premijera i kabineta, treba da razmotri aranžmane za razmenu informacija sa firmama za veštačku inteligenciju i drugim zemljama Komonvelta.

BBC na srpskom je od sada i na TikToku, pratite nas OVDE.

Pratite nas na Fejsbuku, Tviteru, Instagramu, Jutjubu, Vajberu. Ako imate predlog teme za nas, javite se na bbcnasrpskom@bbc.co.uk