Рекао је ChatGPT-ju да жели да убије сина, а онда је ухапшен

УПОЗОРЕНЈЕ: У овом тексту помињу се насиље и самоубиство.

„Понудио сам му 50.000 да убије мене и мог сина, али није желео, јер је уплетено дете.

„Хтео сам да знам одакле потиче та жеља за убијањем људи. Волим осећај кад видим да друга особа пати.“

У периоду од скоро два месеца, бразилски земљорадник је разменио ове и друге поруке са ChatGPT-jem, у склопу, како каже полиција, планова да убије осмогодишњег сина, нападне друге, а онда да себи одузме живот.

Ове поруке, у које је ББЦ Њуз Бразил имао увид, довеле су до његовог хапшења.

У једном од врло малог броја случајева ове врсте, 36-годишњи мушкарац је ухапшен пошто је OpenAI, творац ChatGPT-ja, означио његове поруке и послао их америчком Федералном истражном бироу (ФБИ), који је обавестио бразилске власти.

„Говорио је глупости“ четботу, каже његов адвокат и тврди да није починио никакав злочин.

Овај случај указује на све веће проблеме за полицију, судове и АИ компаније - шта би требало да се догоди кад четботови вештачке интелигенције препознају потенцијалну претњу пре него што је почињен било какав злочин?

'Све што нам је платформа проследила било је поткрепљено'

Човек, кога ББЦ неће именовати да би заштитио идентитет његовог сина, ухапшен је у руралном Сао Габријелу да Паљи 19. јуна - три дана пошто је јединица за борбу против сајбер злочина бразилског Министарства правде проследила случај државној полицијској служби.

„Дали смо приоритет овом случају због његове тежине и зато што је отац наводно планирао да убије сина до двадесетог у месецу“, каже Брено Андраде, шеф Полицијске станице за сајбер злочине у Еспирито Санту.

Осим што је плаћао алиментацију, осумњичени је имао мало или нимало контаката са сином, каже Андраде.

Истражитељи верују да је незадовољство тим плаћањима могло да буде мотив за наводни план.

Шта је све полиција пронашла и о чему је разговарао са ChatGPT-jem?

Претрес његовог поседа открио је четири боце које су садржале неидентификоване супстанце и конопац везан у омчу, за који су полицајци рекли да би могао да укаже на суицидалне намере.

Полиција претпоставља да је осумњичени разговарао са ChatGPT-jem о могућим нападима на школе, цркве и полицајце.

„Ако прођем поред места на којем се продаје дрога и убијем четири криминалаца, постаћу славан у граду.

„Потом само још треба да убијем једног или двојицу полицајаца, и могу да умрем миран“, писало је у једној поруци у коју је ББЦ имао увид.

Друга порука је гласила: „Размишљам да купим ватрено оружје и пуцам на полицију како би реаговали и убили ме. То ће бити лепо и добро за мене.“

Истражитељи кажу да је истраживао токсичне супстанце, међу њима и рицин, и покушао је да преформулисањем питања заобиђе заштиту ChatGPT-ja.

„Све што нам је платформа проследила било је поткрепљено доказима кад је полиција стигла на лице места“, каже Андраде.

Човек негира да је намеравао да науди сину.

Пошто је провео 54 дана у притвору, пуштен је 13. августа због кашњења у истрази.

Против њега није подигнута оптужница, али је полицијска истрага у току.

Фармер је подвргнут превентивним мерама, међу којима су електронски надзор и забрана контактирања сина или дететове мајке.

Истражитељи кажу да прегледају мобилни телефон осумњиченог и чекају резултате форензичког тестирања о заплењеним предметима.

Тестови су потребни како би одредили да ли је већ предузео конкретне кораке у извршењу било каквог плана, међу њима и да ли је контактирао плаћеног убицу, као што је наводно тврдио у разговорима са ChatGPT-jem.

Они кажу да би такви докази могли да помогну да се одреди да ли је осумњичени прешао са размишљања и припреме за злочин на његово директно извршење.

Према бразилском кривичном закону, злочин је почињен само ако се крене у извршавање.

Одбрана тврди да такви кораци још нису били предузети.

„Ако је разговор са вештачком интелигенцијом и причање глупости злочин, сви ће завршити у затвору“, тврди адвокат Педро Пауло Песи за ББЦ њуз Бразил.

Проблем са доказима

Верује се да су примери кад АИ компаније пријаве кориснике полицији веома ретки.

У августу је OpenAI пријавио 25-годишњег становника Флориде ФБИ-ју пошто је овај поделио планове да силује и убије бившу девојку, према писању америчких медија.

Андраде, из полиције Еспирито Санта, рекао је да је фармеров случај прва узбуна везана за вештачку интелигенцију ове врсте у тој савезној држави, а тек трећи такав случај у читавом Бразилу.

„То је сасвим други пут за полицију да покуша да открије да ли су људи истраживали злочине коришћењем вештачке интелигенције“, каже Андраде.

Али постоји широк дијапазон питања о улози таквих дојава од АИ компанија у истражном процесу, па и да ли поруке могу да послуже као доказ на суду.

Истражитељи кажу да је OpenAI проследио детаље корисника и поруке које је слао, али не и одговоре ChatGPT-ja.

„Нисмо добили одговоре који су му били дати“, каже Андраде.

Погледајте видео: 'Вештачка интелигенција је огроман ризик по људе', каже суоснивач Антропика за ББЦ

Правница Маира Фернандес каже да то ствара проблем са доказима зато што је контекст порука важан.

„То не сме да буде мали одломак, а не ревидирана верзија. Мора да буде читав разговор“, каже она.

Потпуна размена порука осумњиченог и ChatGPT-ja може да покаже да ли је четбот напросто реаговао на оно што је корисник говорио или је активно обликовао разговор, додаје Фернандес.

У саопштењу за ББЦ њуз Бразил, компанија је одбила да објасни зашто одговори ChatGPT-ja нису подељени, рекавши само да би она могла да обавести службу за одржавање реда и закона кад открије „кредибилну и непосредну опасност по друге“.

У априлу ове године, Флорида је покренула кривичну истрагу о OpenAI-ju да би открила да ли је технологија ChatGPT-ja одиграла активну улогу у убиству двоје људи током масовне пуцњаве на Државном универзитету Флориде прошле године.

OpenAI пориче ове наводе, рекавши да је ChatGPT пружио информације које су већ постојале у јавности и да није охрабривао нити промовисао незаконите активности.

Погледајте видео: Шта је вештачка интелигенција

'Законска обавеза'

Фернандес каже да у овом случају чињеница да је потенцијална жртва у бразилском случају била дете које се може идентификовати, помаже да се објасни зашто је дошло до узбуњивања.

Међутим, она упозорава да не смеју да се нормализују истраге искључиво засноване на проценама вештачке интелигенције.

„У противном би свако могао да се нађе под истрагом зато што је вештачка интелигенција то тако протумачила“, каже.

Објашњава да су неопходне заштите да би се разликовале стварне претње од истресања, фантазија или провокативних изјава.

Овај случај одражава ширу промену у улози вештачке интелигенције од алатке за креирање садржаја до интерактивног система „способног да идентификује обрасце повезане са потенцијално опасним понашањем“, тврди Патриша Пек, професорка и специјалисткиња за дигитални закон.

Она тврди да у неким околностима АИ компаније могу да имају законску обавезу да обавесте власти.

„Кад разговор престане да представља обичну апстрактну намеру и почне да указује на конкретну претњу, са жртвом која се може идентификовати, доступним средствима и непосредном претњом, јавља се етичка и, у неким околностима, правна обавеза да се дела“, каже она.

Али као и Фернандес, она упозорава да то не би требало да се употребљава превише.

„Етика примењива на вештачку интелигенцију не треба да буде заснована на логици 'надзири све', већ на логици 'интервениши само кад то ризик оправдава'.

„Велики је изазов избећи и пропуст, и претерани надзор.“

ББЦ на српском је од сада и на ТикТоку, пратите нас ОВДЕ.

Пратите нас на Фејсбуку, Твитеру, Instagramу, Јутјубу и Вајберу. Ако имате предлог теме за нас, јавите се на bbcnasrpskom@bbc.co.uk