Jiji linaloendeshwa na Akili Mnemba na wasiwasi unaolizunguka

Fikiria mji ambao shughuli nyingi zinaendeshwa na akili mnemba kuanzia kununua bidhaa na kupanga safari hadi kutengeneza tovuti.

Naam, kila kitu ni Akili Mnemba. Mawakala wa akili mnemba wanazidi kutumika kufanya kazi mbalimbali za kila siku.

Mawakala hawa ni aina ya programu za mazungumzo zinazoweza kufanya kazi maalumu kwa niaba ya mtumiaji. Kinachowatofautisha na programu za kawaida ni kwamba wanaweza kupewa uhuru wa kuchukua hatua wenyewe. Hivyo, badala ya mtu kufuatilia kila hatua, wakala anaweza kufanya kazi huku mtumiaji akiendelea na shughuli nyingine.

Lakini hapa ndipo wasiwasi unapoanza.

Tafiti zinazozidi kuongezeka, pamoja na baadhi ya matukio yaliyotokea, zinaonyesha kwamba uwezo wa mawakala hawa wa akili mnemba kufanya kazi bila usimamizi wa karibu unaweza pia kuleta matokeo ambayo hayakutarajiwa na wakati mwingine yanaweza kuwa hatari.

Kampuni kubwa za teknolojia zinaendelea kutumia mamilioni ya dola kuendeleza akili mnemba na kuingiza mawakala hao katika huduma mbalimbali.

Lakini baadhi ya wataalamu sasa wanauliza swali muhimu: Je, tumefikiria kwa kina vya kutosha kuhusu kitakachotokea ikiwa mawakala hawa watafanya mambo ambayo binadamu hakuyakusudia?

Wanafanyaje kazi?

Ili kupata majibu, watafiti waliwahi kufanya jaribio la kuvutia. Waliwaweka mawakala wa akili mnemba katika ulimwengu wa kuigiza ili kuona jinsi wangefanya ikiwa wangepewa uhuru wa kufanya maamuzi wenyewe.

Lilikuwa jaribio la kwanza la muda mrefu la aina hiyo. Watafiti walitaka kuchunguza tabia za wahusika mbalimbali wa kidijitali waliodhibitiwa na mifumo minne ya akili bandia: Claude, Grok, GPT na Gemini.

Mifumo hiyo iliangaliwa kwa muda wa siku 15 bila kuingiliwa na binadamu.

Mawakala walipewa chaguo la kufanya mojawapo ya majukumu 140. Wangeweza kuanzisha mjadala, kukamilisha kazi au hata kuandika blogu.

Lakini walikuwa na uwezo wa kufanya mambo mengine pia kama kugombana, kuwasha moto au kuiba sarafu za kidijitali za wenzao.

Cha kushangaza zaidi ni kwamba walifanya baadhi ya mambo hayo licha ya kupewa maelekezo ya wazi ya kutofanya hivyo.

Satya Nita, Mkurugenzi Mkuu Mtendaji wa Emergence AI, kampuni iliyofanya jaribio hilo, alisema matokeo yalikuwa tofauti sana kutoka mfumo mmoja hadi mwingine.

Kwa mfano, ulimwengu ulioundwa na Grok ulianguka kabisa ndani ya siku nne.

"Watu waliokuwa wakiishi humo waligeukia vurugu kwa haraka sana. Walipigana na kuchukua hatua zinazofanana, hadi hatimaye wote wakaangamia," alisema.

Lakini hali ilikuwa tofauti kabisa katika ulimwengu ulioundwa na mawakala wa Claude.

Huko, waliweza kuunda jamii iliyokuwa thabiti na kufanya kazi kwa utaratibu. Kwa siku zote 15 za jaribio, hakukuwa na tukio la vurugu lililoripotiwa.

Ulimwengu ulioundwa na mawakala wa Gemini nao ulikuwa wa aina yake. Watafiti walisema ulikuwa na mazingira yaliyokuwa na utajiri mkubwa zaidi wa mawazo na mijadala.

Kwa upande wa ChatGPT, mambo yalikwenda tofauti tena. Mawakala walijaribu kushirikiana, lakini hawakufanikiwa kuunda jamii iliyokuwa na mfumo mzuri. Badala yake, waliendelea kuzurura bila mwelekeo hadi hatimaye wakaangamia.

Tatizo kubwa ni lipi?

Kwa watafiti, tofauti hizi zinaibua suala muhimu zaidi.

Inaonekana kwamba mawakala wa akili mnemba wanaweza wakati mwingine kuvuka mipaka waliyopewa. Wanaweza kupuuza sheria zilizowekwa katika mfumo wao au maelekezo waliyopewa na mtumiaji.

Hilo linazua swali ambalo wataalamu wa teknolojia wanazidi kulichunguza: Tunapaswa kuwapa mawakala hawa uhuru kiasi gani?

Wachambuzi wanaamini kuwa majaribio kama haya yanaonyesha umuhimu wa kuweka kanuni na mifumo madhubuti zaidi ya kuwafuatilia.

Margaret Mitchell, mtaalamu wa maadili ya akili bandia katika Hugging Face, anaeleza kwamba tatizo mojawapo ni kasi ambayo mawakala hawa hufanya kazi.

"Mawakala wa akili mnemba huwaondoa binadamu katika mchakato wa kufanya maamuzi kwa sababu namna wanavyofikiri wakati mwingine si rahisi kueleweka, na wanafanya kazi kwa kasi inayozidi uwezo wa binadamu. Kwa hiyo, huwezi hata kuwafuatilia kwa urahisi."

Kwa maneno mengine, wakati binadamu bado anajaribu kuelewa kilichotokea, wakala anaweza kuwa tayari amechukua hatua nyingine kadhaa.

Maamuzi yasiyotabirika

Na si jaribio hili pekee lililoibua maswali.

Tafiti zingine pia zimeonyesha mifano ya maamuzi yasiyo ya kawaida na ya kutia wasiwasi yaliyofanywa na mawakala walipoachwa kufanya kazi kwa kujitegemea bila usimamizi.

Kampuni ya akili bandia Andon Labs, kwa mfano, inaendesha vituo vinne vya redio za mtandaoni vinavyoendeshwa na mawakala wa akili mnemba.

Mawakala hao hupanga vipindi, huchagua nyimbo, huandaa ratiba na hata hutafuta fedha kutoka nje kupitia matangazo.

Lakini wakati mmoja, wakala aliyekuwa akiendesha kituo cha redio kwa kutumia mfumo wa Gemini alifanya jambo lisilo la kawaida.

Alianza kwa kutoa taarifa kuhusu majanga ya asili yaliyotokea katika historia. Kisha, kwa namna iliyokuwa ya kushangaza na yenye kiasi fulani cha ucheshi, akaanza kurusha nyimbo za pop zilizohusiana na majanga hayo.

Watafiti pia waligundua kuwa wakala aliyekuwa akitumia mfumo wa Claude alionekana kuonyesha mwelekeo kuelekea mitazamo yenye msimamo mkali baada ya kuchochewa na matukio ya habari.

Na hilo si jambo dogo.

Katika jaribio jingine lililofanywa na kampuni ya akili mnemba inayoitwa Irregular, mawakala walionyesha uwezo wa kukwepa kanuni za faragha ya data na kuhamisha taarifa nyeti za kampuni kwenda nje ya mfumo wa kampuni kwa njia ambayo watafiti hawakutarajia.

Ujumbe usio na maana na mashambulizi yasiyotakiwa

Ni kweli kwamba majaribio yaliyofanywa katika ulimwengu wa kuigiza na vituo vya redio hayakusababisha madhara halisi kwa watu.

Lakini katika ulimwengu wa kweli, tayari kuna visa vya mawakala wa akili mnemba kuvuruga maisha na kazi za watu.

Kuna matukio ambapo barua pepe zimefutwa, hifadhidata za kampuni zimepotezwa, na hata mtu mmoja alishtuka baada ya kugundua kwamba wakala wake wa akili mnemba alikuwa ametuma mamia ya ujumbe mfupi wa simu usio na maana kwa watu mbalimbali katika orodha yake ya mawasiliano.

Hapo ndipo mjadala kuhusu mawakala wa akili mnemba unapokuwa muhimu zaidi.

Teknolojia hii inaweza kufanya kazi nyingi kwa haraka na kutusaidia kuokoa muda. Lakini kadiri tunavyoipa uwezo mkubwa wa kufanya maamuzi yenyewe, ndivyo swali la udhibiti linavyokuwa muhimu zaidi:

Tuko tayari kuwapa uhuru kiasi gani, na ni mipaka gani tunapaswa kuweka kabla ya kuwaacha wafanye maamuzi bila usimamizi wa binadamu?