Süni intellekt şirkətinin rəhbəri süni intellektin inkişaf tempinin azaldılmasını istəyir

BBC News Azərbaycanca Xidmətinin hazırladığı xəbərləri, təhlilləri və videoları birbaşa WhatsApp Kanalımızda izləyin. Qoşulmaq üçün linkə klikləyin.

Süni intellekt şirkəti Anthropic-in rəhbəri Dario Amodei süni intellekt modellərinin inkişaf tempinin azaldılmasına və onların ciddi şəkildə monitorinq olunmasına çağırıb.

Məqaləsində Dario Amodei bildirib ki, süni intellektin inkişaf etdirilməsi məsələsi müzakirə mövzusu deyil, lakin onunla bağlı risklər "ciddidir" və şirkətlərlə hökumətlərə bu risklərin həlli üçün vaxt verilməlidir.

Rəqib süni intellekt şirkətlərinin rəhbərləri OpenAI-nin baş direktoru Sam Altman və Elon Musk da Amodei-nin fikirləri ilə razılaşdıqlarını bildiriblər.

Son dövrlərdə bu texnologiyanın potensial riskləri ilə bağlı narahatlıqlar artıb.

Bu həftə Anthropic-dən ayrılan süni intellekt tədqiqatçısı Jacob Coxon BBC-yə deyib ki, "əgər mövcud inkişaf tempini azaltmasaq, yaxın gələcəkdə hamımızın ölməsi ehtimalı kifayət qədər yüksəkdir".

Jacob Coxon Laura Kuenssbergə bildirib ki, süni intellekt şirkətlərində çalışan insanlar "həqiqətən qorxurlar... növbəti iki il ərzində bəşəriyyətin taleyi ilə bağlı səmimi narahatlıq keçirirlər".

"Bu şirkətlərin yaradılmasında iştirak edən və texnologiyanı quran insanların bəşəriyyətin məhvi ehtimalına inandıqlarını demək heç də şişirtmə deyil", - deyə Coxon bildirib.

"Bəzi insanların, xüsusən də texnologiyanın proqramlaşdırılması ilə yaxından məşğul olanların fikrincə, insanların məhv olma ehtimalı 10 faizdən çoxdur, hətta bundan da yüksək ola bilər. Hər kəs fərqli ehtimal rəqəmi qeyd edir. Lakin onların hamısı bu ehtimalı hər gün texnologiya üzərində işləyərkən ağıllarında saxlayırlar".

Rəqib şirkətlərdən dəstək

Şənbə günü ictimaiyyətə təqdim edilən məqaləsində Amodei üç istiqamətli plan təklif edib.

Bu plana süni intellekt modellərinin hazırlanma mərhələsində müstəqil monitorinq, sahə üzrə ümumi tənzimləmə və qlobal tənzimləmə daxildir.

Təklif geniş müzakirə olunub: hətta rəqib şirkətlər də modellərin hazırlanması prosesində onların təhlükəsizliyini qiymətləndirə biləcək müstəqil qiymətləndiricilər ideyasını dəstəkləyiblər.

"Amodei ilə razıyam ki, bu sahədə inkişafı ölçülü-biçili aparmalıyıq", - OpenAI-nin baş direktoru Sam Altman X platformasında yazıb.

O, müstəqil qiymətləndiriciləri "əla ideya" adlandırıb.

Fortune jurnalına verdiyi yeni müsahibəsində Sam Altman oxşar təhlükəsizlik narahatlıqlarını dilə gətirərək bildirib ki, mövcud standartlar süni intellektin imkanlarını daha da sürətlə artırmaq üçün "yetərli səviyyədə deyil".

O əlavə edib ki, insanların nəzarətindən kənara çıxan süni intellektin yaranmasını "tamamilə mümkün" hesab edir.

Elon Musk isə Anthropic rəhbərinin "haqlı olduğunu" deyib.

Bu xəbərdarlıqlar müxtəlif tədbir çağırışlarına səbəb olsa da, ABŞ Prezidenti Donald Trump indiyədək belə qorxuları rədd edib. O, cümə axşamı bildirib ki, əsas narahatlığı "əgər süni intellekt yarışında qalib gəlməsələr, çox pis vəziyyətə düşəcəkləridir".

Yeni modellərin getdikcə daha güclü kibertəhlükəsizlik hücumları həyata keçirmək qabiliyyəti nümayiş etdirməsi fonunda təhlükəsizlik narahatlıqları da artıb.

Apreldə məlum olub ki, Mythos modeli təhlükəsizlik məqsədilə yaradılmış, "sandbox" kimi tanınan təcrid olunmuş test mühitinin məhdudiyyətlərini aşmağa qadirdir. Bundan sonra Anthropic modeli ictimai istifadəyə təqdim etmədi.

OpenAI isə ən son Astra modelinin təqdimatı ərəfəsində bəzi inkişaf mərhələlərini dayandırdığını və bunun səbəbinin kibertəhlükəsizliklə bağlı narahatlıqlar olduğunu bildirmişdi.

Təhlükəsizlik məsələsi Anthropic və OpenAI arasındakı rəqabətdə də əsas mövzulardan birinə çevrilib.

Əvvəllər OpenAI-də vitse-prezident vəzifəsində çalışmış Amodei bildirib ki, o, 2021-ci ildə daha təhlükəsiz və daha etibarlı süni intellekt modelləri yaratmaq məqsədilə Anthropic şirkətini həmtəsis edib.

"Tənzimləmə süni intellektin inkişaf sürətinə çatmaya bilər"

Dario Amodei məqaləsində qeyd edib ki, süni intellekt "növbəti nəsil süni intellekti yaratmaq qabiliyyəti" daxil olmaqla "fövqəladə dərəcədə sürətlə" inkişaf edib.

Amodei "faydalarını qoruyub saxlamaqla yanaşı, təhlükəsizliyini təmin etməyə yönəlmiş balanslı sürətlə süni intellekt qurmağa" çağırıb.

Onun sözlərinə görə, bu, "modellərin təliminin və ya texnoloji tərəqqinin dayandırılması deyil, şirkətlərin modellərini uyğunlaşdırmaq və qorumaq üçün kifayət qədər vaxt ayırması, həmçinin üçüncü tərəf qiymətləndiricilərinin bunu təsdiqləməsi" deməkdir.

Amodei Anthropic şirkətinin bu yanaşmanı "birtərəfli qaydada" qəbul etdiyini bildirib və hökumətləri digər aparıcı şirkətlərdən də eyni addımı tələb etməyə çağırıb.

O etiraf edib ki, tənzimləmə süni intellektin inkişaf sürətinə çatmaya bilər.

Buna görə də süni intellekt şirkətlərini dövlət tənzimləməsi ilə paralel şəkildə "könüllü olaraq birlikdə standartlar müəyyən etməyə" çağırıb.

Çinlə rəqabət

Sənayeyə və xüsusilə Çinlə rəqabətə mümkün təsirə toxunan Amodei deyib:

"İnanıram ki, əgər inkişaf tempinin azaldılması bizə modellərin kritik qabiliyyət səviyyəsinə çatmasına qədər əlavə bir və ya iki il qazandırsa və biz bu vaxtdan onların insan dəyərləri ilə uyğunlaşdırılmasını inkişaf etdirmək üçün istifadə etsək, ciddi problemlərin yaranması riskini əhəmiyyətli dərəcədə azalda bilərik".

Onun fikrincə, bu proses "kommersiya üstünlüyünü və ABŞ-ın süni intellekt sahəsində liderliyini itirmədən" koordinasiyalı şəkildə həyata keçirilməlidir. O bildirib ki, Çin önə keçməsin deyə mümkün yavaşıdılma məhdud xarakter daşımalıdır.

Amodei ABŞ hökumətini Amerika şirkətlərinin istehsal etdiyi süni intellekt çiplərinin Çinə satılmasının və ya texnologiyanın avtoritar ölkələrlə paylaşılmasının qarşısını almağa çağırıb.

Lakin onun keçmiş əməkdaşı Jacob Coxon BBC-yə bildirib ki, inkişaf tempini azaltmaq təşəbbüsü təkcə ABŞ-la məhdudlaşmamalıdır. Onun sözlərinə görə, beynəlxalq miqyasda yarışın qarşısını almaq istəyirlərsə, Çinlə də müəyyən formada koordinasiyalı işləmək lazımdır.

Elon Musk: "Dario haqlıdır"

Amodeinin paylaşımı müxtəlif reaksiyalara səbəb olub.

Hugging Face platformasının baş direktoru Clement Delangue "Open Alignment Initiative" adlı yeni layihəyə başladığını açıqlayıb və Amodei-nin təklif etdiyi "daxili qiymətləndiricilər" sırasına daxil olmaq istədiyini deyib.

Bu ilin əvvəlində Hugging Face platforması OpenAI agentlərinin hücumuna məruz qalmış və bu, süni intellekt təhlükəsizliyi ilə bağlı ciddi narazılıq doğurmuşdu.

"Gəlin süni intellekti daha şəffaf etməklə onu daha təhlükəsiz edək", - Delangue X platformasında yazıb.

Elon Musk da dəstəyini ifadə edərək "Dario haqlıdır" sözlərini yazıb.

SpaceXAI şirkətinin sahibi olan Musk bir vaxtlar Anthropic-i "şər qüvvə" adlandırsa da, may ayında Anthropic-ə hesablama gücü satışı ilə bağlı 15 milyard dollarlıq müqavilə imzaladıqdan sonra tonunu dəyişib.

Bununla belə, bəzi müşahidəçilər hesab edirlər ki, Amodei-nin paylaşımı təhlükəsizlikdən daha çox süni intellekt texnologiyası üzərində nəzarətin cəmləşdirilməsi ilə bağlıdır.

İnvestor və "All-In" texnologiya podkastının həmaparıcısı Chamath Palihapitiya yazıb ki, Dario Amodei açıq mənbəli süni intellektin məhdudlaşdırılması və böyük texnoloji-iqtisadi gücün Anthropic-də cəmləşdirilməsi lehinə arqumentlər irəli sürür.

Süni intellektin inkişafını azaltmaq və ya ümumiyyətlə dayandırmaq ideyaları Silikon Vadisinin bəzi dairələrində uzun müddətdir şübhə ilə qarşılanır.

Tənqidçilər aparıcı süni intellekt şirkətlərini texnologiyalarını marketinq məqsədilə həddindən artıq şişirtməkdə ittiham edirlər.

Məlumatlara görə, həm Anthropic, həm də OpenAI tarixdə rekord göstəricilərdən biri ola biləcək ilkin kütləvi səhm təkliflərinə (IPO) hazırlaşırlar.