АИ хаковала сајтове државних институција у Америци

Технолошки свет поново је погођен скандалима.

Компанија OpenAI је потврдила да је обавестила „десетине" институција широм света да су њихове интернет странице потенцијално биле предмет недозвољених активности њених агената вештачке интелигенције.

Они су покушавали да прибаве информације од „влада, универзитета, јавних служби и других институција", између осталог 'инфилтирали су се' и у сајтове америчке Комисије за хартије од вредности и берзе (СЕЦ), Бироа за попис становништва и Министарства просвете, саопштено је из компаније.

Неколико дана раније, Ентони Албанезе, аустралијски премијер, саопштио је да су агенти вештачке интелигенције OpenAI приступили поверљивим документима на сајту државног здравственог система.

Бојазан због потенцијалних, па чак и по живот, опасних последица које могу настати уколико ова технологија измакне људској контроли расте од августа.

Из компаније указују да су појединим подацима приступили заправо ботови направљени и обучени да делују донекле самостално, са задатком да пронађу „релевантне изворе јавних информација".

Међутим, неки су међу њима отишли ​​и корак даље, покушавајуц́и да заобиђу безбедносне мере на тим сајтовима, додали су.

Приликом покушаја прибављања информација од Бироа за попис становништва, АИ агенти су користили алате намењене искључиво програмерима.

Сви државни подаци којима су ботови приступили су били јавно доступни, рекли су из компаније.

Ипак, информације којима су њени ботови приступили преко СЕЦ-а (агенције која регулише америчко тржиште акција и штити инвеститоре) касније су АИ агенти објавили на другој страници, али ненамерно, указали су из фирме ОпенАИ.

Било је случајева где је дошло и до инцидената, у којима је агент компаније преузео слику насталу током активности корисника ЦхатГПТ-а и пренео је на другу интернет страницу.

Корисник јесте претходно дао сагласност да ОпенАИ користи његове податке за обуку модела, али то није „прикладан начин коришц́ења тих информација", признали су из ове компаније.

До цурења корисничких слика дошло је пре увођења нових заштитних мера приликом обуке вештачке интелигенције и у току је процес уклањања свих слика корисника које су пренете трец́им странама, истичу из технолошке компаније.

О проширеним истрагама је прво известила агенција Ројтерс, а ОпенАИ је детаље писао на јавном блогу.

Агенти су у појединим случајевима „заобишли" безбедносне контроле одређених сајтова.

Било је ситуација и „неусклађености" приликом покушаја прибављања информација.

„Неусклађеност" је термин којим компаније које се баве вештачком интелигенцијом и истраживачи називају ситуације у којима је АИ агент учинио нешто за шта није био обучен.

Многи погођени субјекти су затражили да се детаљи не обелодањују, указали су из компаније ОпенАИ.

„Наш циљ је да свакој организацији пружимо чињенице, а да она одлучи да ли ц́е и када јавно говорити о инциденту", указали су.

Неки од случајева обухвац́ених овим инцидентом не престављају озбиљни безбедносни пропуст.

Многи од ових инцидената су „спам агент" што се третира као „неочекивана или забрињавајуц́а" активност попут објављивања информација на интернету.

ОпенАИ је почео озбиљније да схвата такве инциденте када је група или „рој", његових АИ агената хаковала платформу за развој вештачке интелигенције Хагинг фејс( Hugging Face), без одобрења.

Ова врста продавнице апликација за алатке које раде уз помоћ вештачке интелигенције је прва јавно говорила о инциденту.

ОпенАИ је потом преузео одговорност за њега.

„Често се питам шта би се догодило да сам одлучио да тај напад не обелоданим

„Нарочито сада када знамо да су се слични инциденти месецима раније тајно дешавали у неколико водец́их лабораторија без надзора", изјавио је Клеман Деланг, званичник компаније током седнице Савета безбедности Уједињених нација посвец́ене вештачкој интелигенцији.

Током истог састанка 23. септембра, Сем Алтман, извршни директор компаније ОпенАИ и Дарио Амодеи из ривалске фирме Антропик, позвали су међународне лидере да успоставе глобалне стандарде за безбедност вештачке интелигенције, али и начине прац́ења и пријављивања оваквих инцидената.

Погледајште шта је суоснивач Антропика рекао о вештачкој интелигенцији

Ове две компаније су претходних недеља најавиле да ће ангажовати спољне сараднике који би унтар фирми процењивали безбедност алата и модела у реалном времену, али их још нема.

„Вец́ина до сада идентификованих случајева била је ниског степена озбиљности, уз мало или нимало доказа о значајнијим последицама.

„С обзиром на обим неопходне провере и потребу да се сваки случај појединачно потврди, овај посао ц́е трајати месецима", указали су из ОпенАИ-ја.

Све је више стручњака за безведност који страхују због учесталих инцидената повезаних са вештачком интелигенцијом.

„Још нисмо у потпуности сагледали размере постојец́их инцидената, а сценарији који укључују одметнуту вештачку интелигенцију у будуц́ности могли би имати катастрофалне последице", упозорио је Дејвид Кругер, професор машинског учења на Универзитету у Монтреалу у Канади.

Овај професор и оснивач групе за безбедност вештачке интелигенције 'Evitable' позвао је на увођење „хитног и неограниченог међународног мораторијума" на развој вештачке интелигенције.

ББЦ на српском је од сада и на ТикТоку, пратите нас ОВДЕ.

Пратите нас на Фејсбуку, Твитеру, Instagramу, Јутјубу, Вајберу. Ако имате предлог теме за нас, јавите се на bbcnasrpskom@bbc.co.uk