Узбуна: Вештачка интелигенција хаковала сајт аустралијске владе

Агент вештачке интелигенције, који је развио OpenAI, „инфилтрирао“ се у један од сајтова аустралијске владе, објавио је премијер земље Ентони Албанез.

Агент је хаковао статистички портал са приватним подацима из аустралијског јавног здравственог система осигурања Медикер (Medicare), додао је.

Стручњаци кажу да је ово први познати случај да је вештачка интелигенција 'ушла' у владин систем неке земље, јавља ББЦ дописница из Сиднеја Тифани Турнбул.

Можда су нападнута још три владина система, рекао је аустралијски премијер.

До кршења безбедности дошло је у јуну, али је OpenAI тек у августу сазнао за то и није пријавио аустралијској влади све до 10. септембра, према Албанезу.

OpenAI тврди да нема доказа да је приступљено медицинским картонима пацијената, а Албанез је рекао да је имао „веома искрен разговор“ о инциденту са Семом Алтманом, извршним директором ОпенАИ-ја.

Компанија је саопштила да је кршење безбедности откривено током „свеобухватног прегледа активности неусклађености модела“.

„Током овог прегледа, идентификовали смо активности неколико сајтова и служби аустралијске владе, док су наши модели покушавали да пронађу доступне одговоре и статистику на питања о Аустралији током интерне процене. Током овог процеса, наши модели су изводили радње које нисмо очекивали“, саопштила је компанија.

'Подаци нису осетљиви'

Према компанији OpenAI, њихов модел је приступио „датотекама на неким страницама и услугама аустралијске владе“, између осталог и страницу која садржи податке из аустралијског здравственог система Медикер.

Компанија је саопштила да је модел тражио статистику и информације о здравственим системима.

Стручњаци које је консултовао ББЦ рекли су да је ово први познати случај у свету да је модел вештачке интелигенције напао владину веб страницу.

Према аустралијској влади, подаци којима је приступио агент OpenAI нису осетљиви, али је ипак протестовала због онога што се догодило и како је Алтманова компанија поступила са инцидентом.

Иако се догодило у јуну, компанија је саопштила да га није открила до августа, а затим је пријавила имејлом послатим на општу адресу за упите грађана владине агенције.

Аустралијска агенција за сајбер безбедност је обавештена неколико дана касније.

Инцидент у Аустралији догодио се у време растуц́е забринутости због потенцијалних опасности од развоја вештачке интелигенције и после низа хаковања које су починили агенти АИ.

OpenAI је недавно открио да су неки од њихових напредних модела побегли из контролисаног окружења за тестирање и напали неколико компанија, међу којима и Hugging Face, која је такође специјализована за услуге вештачке интелигенције.

OpenAI је тек недавно објавио низ извештаја у којима је детаљно описано шест инцидената неочекиваног или забрињавајуц́ег понашања његових АИ модела.

Компанија је најавила план за прац́ење и откривање таквих инцидената у будуц́ности.

У објави на блогу детаљно су описани инциденти за које се наводи да су откривени између априла и августа, мада се овај у Аустралији не помиње.

Друге америчке фирме, попут Антропика (Anthropic), пријавиле су сличне инциденте, подстичуц́и страхове да би развој ове нове технологије могао да се окрене против људи.

Водећи људи у овој индустрији, Алтмана или Амодеија, шефа компаније Антропик, позвали су на успоравање развоја вештачке и успостављање механизама контроле и надзора.

Али амерички председник Доналд Трамп изражава противљење регулисању вештачке интелигенције на глобалном нивоу, тврдећи да су страхови претерани и, у његовом карактеристичном стилу, назива их „лажним вестима".

Као одговор на хаковање Медикера, аустралијска влада је покренула брзу ревизију начина на који се носи са вештачком интелигенцијом.

Ревизија ц́е испитати да ли су постојец́е законодавство и управљање „прикладни за припрему и реаговање на сајбер инциденте који укључују вештачку интелигенцију“, наводи се у саопштењу владе.

Ревизија, коју предводе Одељење премијера и кабинета, треба да размотри аранжмане за размену информација са фирмама за вештачку интелигенцију и другим земљама Комонвелта.

ББЦ на српском је од сада и на ТикТоку, пратите нас ОВДЕ.

Пратите нас на Фејсбуку, Твитеру, Instagramу, Јутјубу, Вајберу. Ако имате предлог теме за нас, јавите се на bbcnasrpskom@bbc.co.uk