Süni intellekt həqiqətən bəşəriyyəti məhv edə bilərmi və necə?

Süni intellektin təhlükəsizliyi ilə bağlı narahatlıqlar tədqiqatçıların texnologiyanın nəzarətdən çıxma risklərinin artdığına dair sərt xəbərdarlıqları ilə daha da alovlanıb.

Son dövrdəki ən bədbin proqnozların bəziləri süni intellektin qarşıdakı 10 il ərzində bütün bəşəriyyəti məhv etmə ehtimalının 10 faizdən çox olduğunu irəli sürür.

Lakin süni intellekt dünyasındakı bəzi şəxslər bu proqnozların reallığından şübhə edir. Onların fikrincə, əsas narahatlıq insanların süni intellekti digər insanlara qarşı istifadə edə biləcəyi ehtimalıdır.

Bu qiyamətvari mesajlar süni intellekt dünyasının, adətən, "Süni İntellekt Qiyamətçiləri" olaraq adlandırılan bir kəsimindən gəlir.

Ancaq bir çox insanın verdiyi böyük sual budur: Bir süni intellekt bəşəriyyəti necə məhv edə bilər?

Kiber məsələləri üzrə müxbir Joe Tidy tədqiqatçıların düşündüyü bəzi ssenariləri nəzərdən keçirib.

Birinci ssenari: İnfrastruktur Hücumu

İlk ssenari bu ayın əvvəllərində "OpenAI" və "Anthropic" şirkətlərində tədqiqatçı kimi fəaliyyət göstərən Jacob Coxon tərəfindən qısaca ümumiləşdirilib.

Çarpıcı açıqlamalarla istefa verən Coxon süni intellektin bəşəriyyət üçün risk yaratdığını qeyd edib və şirkətlərin "insanların həyatı ilə qumar oynadığını" söyləyib.

O, BBC-yə açıqlamasında "başgicəlləndirici irəliləyiş sürəti" səbəbindən əvvəllər elmi fantastika sahəsinə aid olan elementlərin artıq "gerçəkləşməyə" başladığını bildirib.

Coxon "konkret bir nümunə olaraq", "süni intellektin və ya süni intellektlərin dünyanın işləməsini təmin edən kritik infrastrukturlara sızması" ehtimalını göstərdi.

Bu ehtimal nəzarətdən çıxmış süni intellekt sisteminin internet provayderləri və enerji şəbəkələri kimi elementlərin kompüter şəbəkələrinə sıza biləcəyi proqnozuna əsaslanır.

Məsələn, süni intellekt hər şeyi söndürərsə, elektrik, istilik, soyutma və ya internet bağlantısının kəsildiyi xaos yaşana bilər.

Nüvə fəlakətlərinin də mümkün ola biləcəyi istiqamətində təkliflər irəli sürülüb.

İkinci ssenari: Süni intellektin ələ keçirməsi

Növbəti ssenari süni intellekt tədqiqatçılarından ibarət qrup tərəfindən 2025-ci ilin aprelində dərc edilən, ətraflı və təsirli, lakin eyni zamanda olduqca spekulyativ hesab edilən "AI 2027" adlı tədqiqat məqaləsindən qaynaqlanır.

Məqalənin, həmmüəllifi Tomas Larsen BBC-yə açıqlamasında texnologiyanın hesabatın dərc olunduğu tarixdən etibarən sürət qazandığını bildirib və ən çox qorxduğu ssenari barədə danışıb:

"Süni intellekt davamlı olaraq özünü təkmilləşdirir və süni intellekt gün gəlib iqtisadiyyatda fiziki işlərin çoxunu görən çoxsaylı robotlara çıxış əldə etməsinə qədər gedib çıxa bilər".

"Ancaq bu süni intellekt dost deyil və öz maraqlarını güdür. Sonda da bioloji silah yayır, insanların çoxunu öldürür və robot iqtisadiyyatını təkbaşına idarə etməyə davam edir, beləliklə, insanlara artıq ehtiyac qalmır".

Üçüncü ssenari: Bir hədəfə üstünlük vermək

Başqa bir ssenaridə bir səhv nəticəsində bəşəriyyətin sonu gəlir.

"Sancaq maksimizasiyası" olaraq adlandırılan bu hipotez 20 ildən çox əvvəl isveçli filosof Nik Bostrom tərəfindən irəli sürülüb.

O bunu ehtimal olunan süni intellekt sisteminin "düşüncə eksperimenti" kimi təsvir edir.

Bu ssenariyə görə, fabrikində sancaq istehsal edən bir şirkət işləri sürətləndirmək üçün süni intellekt hazırlayır. Bu süni intellektin yeganə məqsədi mümkün qədər çox sancaq stehsal etməkdir.

Süni intellekt daha çox sancaq istehsal etmək məqsədi ilə əvvəlcə onu söndürmək ehtimalı olan mühəndisləri öldürür, daha sonra dünyadakı bütün metalları sancağa çevirir, ən sonda isə insan bədənindəki dəmir belə sancaq istehsal etmək üçün istifadə olunur.

Bostrom bunu belə izah edir:

"İnsanlardan nifrət etmir və ya onlara kin bəsləmir, amma tək məqsədi sancaq istehsal etməkdir. Və bu məqsədin ardınca gedərkən, daha çox güc və ya daha çox zəka qazanmaq kimi vasitəçi alt məqsədlərə də sahib ola bilər".

"O halda, bir məqsəd güdən kifayət qədər güclü bir varlığın, ətrafda dayandıracaq insan olmadığı təqdirdə bəşəriyyətin məhv olmasına səbəb ola biləcək vasitəçi alt məqsədləri ola biləcəyi düşünülür".

Ssenari ilk dəfə təsvir edildikdən iyirmi il sonra Bostrom BBC-yə bildirib ki, "karikaturavari" hekayəsi superkəşfiyyatın bəşəriyyətə təhlükə yaratmaq üçün düşmən niyyətlərinin olmamasını göstərmək üçün nəzərdə tutulub.

O, hazırda süni intellekt məsələsində "iki od arasında" qaldığını, potensial faydalarından həyəcanlandığını, lakin təhlükəsizliyindən narahat olduğunu qeyd edib.

Dördüncü ssenari: Naməlum

Süni intellektin təhlükəsizliyi ilə bağlı başqa bir düşüncə cərəyanı da mövcuddur. Bu cərəyana görə, super zəkaya malik süni intellektin insanların bəşəriyyəti necə və nə üçün öldürə biləcəyini təxmin etməyə çalışmaq əbəs yerə vaxt itkisidir.

Bu arqument beynəlxalq qeyri-kommersiya təşkilatı olan Beynəlxalq Təhlükəsiz və Etik Süni İntellekt Birliyinin sədri Stuart Russell tərəfindən sentyabrın ortalarında BBC-yə verdiyi müsahibədə irəli sürülüb:

"Şimpanzelərə bu insanların sizi tam olaraq necə məhv edəcəyini soruşmağı xəyal edin. Buna cavab verməkdə çox çətinlik çəkərdilər, çünki bizim etdiklərimizi başa düşmürlər".

"Ssenarilər xəyal edə bilərik, amma, məncə, buradakı müzakirə, insanlardan daha ağıllı bir şey yaratdığımızda artıq baş verənlər üzərində söz sahibi ola bilməyəcəyimiz ehtimalına əsaslanmalıdır".

"Microsoft AI" şirkətinin rəhbəri Mustafa Süleyman da yaxınlarda öz hədəflərini müəyyənləşdirə bilən, pul qazana və aktivlərə sahib ola bilən süni intellekt sistemləri inkişaf etdirən firmalara qarşı xəbərdarlıq edərək müzakirələrə qoşulub.

O, BBC-yə bildirib ki, bu, "əsasən yeni silikon növünün toxumlarını səpmək" deməkdir və bu növün "bəşəriyyəti nə qədər önəmsədiyi və sevdiyindən asılı olmayaraq, resurslar uğrunda bizimlə rəqabət edə biləcəyindən" şübhə etmir.

Bütün bunların baş vermə ehtimalı nə qədərdir?

Bunların hamısı bədbin və çox elmi-fantastik görünə bilər, lakin süni intellekt sahəsində bu ssenarilərin bəzilərinin və ya hamısının real ehtimal olduğuna, lakin qaçılmaz olmadığını düşünən əhəmiyyətli və getdikcə daha çox səsi çıxan bir qrup insan var.

Son narahatlıqlar "OpenAI", "Anthropic" və "Meta"dan gələn süni intellekt alətlərinin kiberhücumlar təşkil etməsi ilə bağlı son hadisələrdən sonra ortaya çıxmış kimi görünür.

Kiber dünyada bəziləri modelləri yaradanların məsuliyyətinin vacibliyini vurğulayır.

ABŞ kiber təhlükəsizlik orqanı CISA-nın keçmiş rəhbəri və hazırda beynəlxalq kiber təhlükəsizlik konfransları təşkil edən "RSA Konfransı"nın baş direktoru Jen Easterly bildirir:

"Bu maşınların, bu yorulmaq bilməyən, amansız, hədəf yönümlü, həddindən artıq qabiliyyətli maşınların etdiyi hər şey necə qurulduqlarının bir nəticəsidir".

"Bir sözlə, əgər texnologiya istehsalçısısınızsa, təhlükəsizliyi birinci prioritet olaraq qəbul edərək qabiliyyətlərinizi dizayn etməli, inkişaf etdirməli, sınaqdan keçirməli və təqdim etməlisiniz".

Bəziləri iddia edir ki, süni intellektin riskləri əhəmiyyətli olsa da, bəşəriyyətin sonuna səbəb ola biləcək bir təbiətə malik deyil.

Alim və yazar Gary Marcus uzun müddətdir ki, böyük süni intellekt şirkətlərinin şəffaflıqdan və hüquqi qaydalardan məhrum şəkildə işləmələrini tənqid edir, lakin texnologiyanın bəşəriyyəti məhv edəcəyini düşünmür:

"Süni intellekt həqiqətən də bəşəriyyətə ağır itkilər verdirərsə - hərçənd bunu istəyib-istəmədiyi böyük bir sual işarəsidir – amma, əgər verərsə, insanlar qarşılıq verəcəklər".

Marcus hesab edir ki, hazırda məhv olma ssenarilərinə həddindən artıq çox diqqət yetirilir və insanların süni intellektdən istifadə edərək digər insanlara qarşı həyata keçirəcəyi böyük kiberhücumlar kimi daha real problemlərə kifayət qədər diqqət ayrılmır.

Qiyamət ssenarilərinin reallığa uyğun olub-olmaması ilə bağlı müzakirələr davam edərkən, "OpenAI", "Anthropic" və "Meta" kimi süni intellekt şirkətləri artıq inkişafı zəiflətməyin və təhlükəsizlik araşdırmalarına daha çox diqqət yetirməyin yollarını açıq şəkildə müzakirə edirlər.

Larsen bildirir: "Süni intellekt təhlükəsizliyinin, nəhayət layiq olduğu diqqəti görməsindən həqiqətən məmnunam. Ümid edirəm ki, bu cür genişmiqyaslı ictimai reaksiyalar riski azaltmaq üçün faydalı bir siyasi reaksiyaya səbəb olacaq".

Lakin real beynəlxalq qaydalar yaratmaq üçün ABŞ hökumətinin hərəkətə keçməsi lazım gələcək və Prezident Donald Trump süni intellekt təhlükəsizliyi ilə bağlı narahatlıqların "saxtakarlıq" olduğuna inandığını bildirib.