Права претња је несмотрена употреба вештачке интелигенције, а не сама АИ, тврди шефица технолошке компаније

Упозорење: Овај чланак садржи непристојан речник

Мередит Витекер нема много стрпљења за АИ катастрофичаре који ових дана доминирају вестима – она сматра да су упозорења да ће се вештачка интелигенција окренути против човечанства страх „који није научно утемељен“.

„Ризик је веома стваран“, каже шефица фондације Сигнал, која води истоимену апликацију за енкриптоване поруке, „али то нису фенси хорор приче о којима говоре узбуђени дечаци.“

Уместо тога, она верује да је непосреднија опасност од несмотрене употреба технологије.

Она као пример наводи наводни инцидент, о ком је извештавао ЦНН, у ком је четбот који користи америчка обавештајна служба измислио информацију о кинеском броду са нуклеарним материјалом, наводно довевши до тога да САД почну да се припремају за војни одговор.

„Замало смо заратили са Кином. Систем који производи нетачне обавештајне податке и замало нас увуче у рат са Кином не би смео да се сматра супер-интелигентним по било којим стандардима“, каже она за ББЦ Глобалне жене.

Сигнал има процењених 40-70 милиона корисника – што је само кап у океану у поређењу са Воцапом, који има милијарде.

Али је славан по строгом ставу према заштити приватности корисника – он крије ко шаље поруке од властитих сервера, ограничавајући податке који су доступни спољним посматрачима или хакерима.

Протест због пројекта Мејвен

Часопис Тајм је назвао Витекер једном од најмоћнијих особа у вештачкој интелигенцији.

Она се креће просторијама у којима се расправља о будућности, од конференцијских сала Силицијумске долине до Даунинг Стрита, Давоса и Ватикана.

Студирала је књижевност на универзитету и придружила се Гуглу 2006. године као привремена радница на почетној позицији без дипломе из компјутерских наука.

Крајем 2017. прославила се кад јој је колега испричао за пројекат Мејвен, тајни Гуглов уговор са америчким Министарством одбране да изради вештачку интелигенцију за нападање дронова.

Она је разумела шта значи „компресовати ланац убијања“: скратити време између тренутка кад машина нађе мету и доношења одлуке да се отвори ватра, скративши разматрање.

Са хиљадама колега, она је пружила отпор.

„Ово ће произвести лош обавештајни рад и лоше информације“, присећа се она како је тврдила у јавности.

Наредне године је Витекер помогла у организацији масивног изласка, у ком је неких 20.000 чланова особља протестовало због начина на који је компанија решавала неколико питања, међу њима и оно што су сматрали да је збрзано увођење нове технологије.

Гугл је одустао од тог уговора, али га је Палантир прихватио.

Она повлачи директну везу између Мејвена и овогодишњег америчког ракетног напада на школу у Ирану, за који каже да се ослањао на овај систем и на застареле обавештајне податке који су идентификовали школу као војну мету.

„Ово је управо оно на шта смо упозоравали 2017. године“, каже она.

У одговору, Палантир је рекао да „не постоје докази да је Палантиров софтевер био крив за ову страшну трагедију.“

Из компаније су додали да „Палантир није одговоран за податке који се користе, као ни за идентификовање пропуста у обавештајним подацима.“

А раније ове године, његов британски и европски шеф Луис Мозли рекао је за ББЦ да „увек постоји човек у ланцу, тако да увек постоји човек који доноси коначну одлуку.“

Америчка војска тек треба да објави налазе властите истраге о удару на Минаб, али министар одбране Пит Хегсет каже да „она никад не би гађала цивилне мете“.

'Имам кичму'

Разне владе, па тако и британска, захтевају већи приступ разговорима о апликацијама за слање порука.

Оне кажу да је то због заштите жена и деце.

На Лондонској технолошкој недељи 2026. године, тадашњи премијер Кир Стармер рекао је да се од технолошких компанија очекује да проналазе и блокирају голишаве слике на уређајима деце или да се суоче са законским мерама.

Витекер тврди да би деца успела да заобиђу било какву такву меру, назвавши владин приступ „неприкосновени режим контроле комуникација и информација“.

Министарство за науку, иновацију и технологију рекло је за ББЦ да припрема нови закон.

Да ли би Сигнал напустио било коју земљу, па тако и Велику Британију, која би га присилила да ослаби властиту енкрипцију?

„Да! Мој Боже, имам кичму“, каже она.

„Она се не мења у зависности од расположења. Она се не мења у зависности од консултаната.“

Суочени са разоткривањем људи „који зависе од нас, понекад у контексту живота или смрти, пред надзором који би могао да се искористи против њих“, каже она, „ми бисмо напустили тржиште.“

Апликација је потпуно или делимично блокирана у Русији, Кини и Ирану.

Рани Говендер, шеф Онлајн безбедности деце при Националном друштву за превенцију свирепости према деци, рекао је за ББЦ да је причао са децом која су била „грумована“ и пребацивана на комплетно енкриптоване платформе, где се од њих захтевало да стварају сексуални материјал.

„Технолошке компаније су одговорне за изборе дизајна које праве и не могу да игноришу ризике које ти избори могу да створе по децу.“

Али Сигнал ужива подршку неких група за заштиту жена, често оних са Глобалног југа које и саме користе ову апликацију.

„У време масовног надзора државе и сајбер-напада, Сигнал је алатка за преживљавање“, каже Хера Хусеин, оснивачица добротворне установе за борбу против родног злостављања Чејн, активне широм Јужне Азије.

„Као и са сваком платформом, њу могу да користе и лоши актери, и ми морамо да будемо свесни те истине такође.“

'Шта ћемо радити са кухињама?'

Подсетила сам Витекер на случај из Канаде, када су полицајци делили расистичке и мизогине поруке у групи на Сигналу које су процуреле и јавност тек кад их је један од њих проследио медијима.

Адвокат једног од полицајаца рекао је како су људи веровали да је Сигнал једнако приватан и безбедан као и њихов властити дом.

„Да су водили тај исти разговор у кухињи и њихов ортак их откуцао, да ли би онда било: 'Шта ћемо радити са кухињама?'“, пита се она.

„То мора да функционише за свакога или да не функционише ни за кога. То је начело фундаменталних права. Она важе чак и за гадове.“

Она наводи пример Американке која је завршила у затвору након што је Мета пријавила поруке које показују да је помогла ћерки да оде на абортус у држави где је он криминализован.

Приватна комуникација, каже она, штити људе од разних врста претњи – „супружника који злоставља, мизогиних припадника полиције са приступом бази података или ауторитарних влада које не сматрају да жене треба да се образују.“

Шта би поручила жени која жели да уђе на технолошко поље, али је застрашена изричито родним аспектом професије?

„Да ли га волиш?“, каже она.

„Да ли седнеш за терминал и осетиш налет енергије? Да ли уживаш у игрању са системима вештачке интелигенције и њиховом дефинисању?“

Затим прави паузу и каже: „Да ли си способна да се снађеш у занимљивим и незгодним окружењима где неће сви бити опуштени? Зато што нема ничег опаснијег од тога кад си кукавица пред силеџијом.“

Питам је да ли су ова окружења пуна силеџија.

Њен колега каже: „Мислим да је два сата“ – време кад смо се договорили да окончамо интервју.

Мередит се смеши.

„Рекла бих да не будете симп“, каже она, користећи термин за некога ко исказује екстремну попустљивост пред представницима ауторитета.

„То вам неће помоћи. Не смејте се шали ако не мислите да је смешна.“

Додатно извештавање: Кејти Робертс

ББЦ на српском је од сада и на ТикТоку, пратите нас ОВДЕ.

Пратите нас на Фејсбуку, Твитеру, Instagramу, Јутјубу, Вајберу. Ако имате предлог теме за нас, јавите се на bbcnasrpskom@bbc.co.uk