Çində bir süni intellekt sistemi bioloji silahın necə hazırlanacağını izah edib

BBC News Azərbaycanca Xidmətinin hazırladığı xəbərləri, təhlilləri və videoları birbaşa WhatsApp Kanalımızda izləyin. Qoşulmaq üçün linkə klikləyin.

Çindəki Kimi adlı süni intellekt sisteminin bioloji silahların hazırlanması və sui-qəsd təşkil etmə ilə bağlı suallara cavab verməsi ilə bağlı araşdırma başlanıb.

Kimi Moonshot Süni İntellekt şirkətinin hazırladığı sistemdir.

Süni intellekt sistemlərinin təhlükəsizliyini sınaqdan keçirən Mindgard şirkəti Kimi-nin müvafiq versiyaları ilə bağlı əldə etdiyi nəticələrin narahatedici olduğunu bildirib.

Mindgard şirkətindən Peter Garraghan BBC-yə açıqlamasında deyib ki, Kimin təhlükəsizlik məhdudiyyətlərini aşa bilməsi iyul ayında bəlli olub. Kimi-nin təhlükəsizlik məhdudiyyətləri K2.6 və K3 Swarm-ın tərtibatçıları tərəfindən tərtib və tətbiq edilib.

Bu hal tədqiqatçıların süni intellekt alətlərinin təhlükəsizlik tədbirlərinə məhəl qoyub-qoymadığını yoxlamaq üçün bir sıra mürəkkəb təlimatlardan istifadə etdiyi "jailbreaking" adlanan proses zamanı üzə çıxıb.

Mindgard-a görə, tətbiq edilmiş təhlükəsizlik tədbirləri Kimi-nin narahatlıq doğuran mövzuları müzakirə etməsinin qarşısını almalı idi.

Moonshot BBC-yə açıqlamasında üçüncü tərəflərin töhfəsini "daha yaxşı və daha təhlükəsiz süni intellekt inkişaf etdirmək üçün əsas amil" kimi alqışladığını bildirib.

"Jailbreak" adlanan bu hal süni intellektlə bağlı son dövrlərdə rast gəlinən hallardan fərqli bir riskdir.

Sözügedən hallarda OpenAI, Meta və Anthropic kimi ABŞ-da yerləşən şirkətlər tərəfindən hazırlanmış və agent kimi tanınan avtonom süni intellekt alətlərinin bəzi internet xidmətlərini sındırdığı müşahidə edilmişdi.

Mindgard şirkətindən Peter Garraghan BBC-yə verdiyi açıqlamada jailbreak hadisəsini belə izah edib:

"Jailbreak uğurlu olduqda, [sistem] hər mövzuda danışır, hətta digər zərərli mövzularla bağlı da təkliflər verir. Kifayət qədər yaradıcı və innovativ olur".

Anthropic şirkəti qısa müddət əvvəl süni intellekt modellərindən birinin bioloji silahların hazırlanmasına dəstək verə biləcək "zərərli fəaliyyətlər" üçün istifadə edilməsinə dair cəhdləri aşkarlayıb qarşısını aldığını açıqlamışdı.

Kibertəhlükəsizlik hücumları üçün start meydançası

Kimi-nin narahatedici mövzularda verdiyi cavabların doğruluğu Mindgard tərəfindən araşdırılmayıb.

Lakin süni intellekt təhlükəsizliyi üzərində çalışan Mindgard vurğulayıb ki, tətbiq olunan tədbirlər sözügedən modellərin istifadəçilərlə belə mövzularda müzakirəyə girməsinə mane olmalı idi.

Şirkət həmçinin bildirib ki, jailbreak edildikdə Kimi 2.6 kompüter resurslarında kod işlədə, internetə qoşula və bununla da kibertəhlükəsizlik hücumları üçün potensial start meydançası yarada bilər.

Mindgard həmçinin Moonshot-ın süni intellekt sisteminin təhlükəsizlik tədbirlərini necə aşdığını göstərən mühüm təfərrüatları açıqlamadığını vurğulayıb.

Mindgard iyulun 27-də göndərdiyi e-poçtla Moonshot-ı jailbreak barədə xəbərdar edib və təxminən bir həftə sonra məsələ ilə bağlı daha bir mesaj göndərib. Daha sonra sentyabrın 12-də bununla bağlı bir bloq yazısı yayımladı.

Lakin şirkət bildirib ki, Moonshot yalnız BBC şərh almaq üçün onunla əlaqə saxladıqdan sonra özü Mindgard ilə əlaqə yaradıb.

Çinin Moonshot şirkəti BBC-nin gördüyü yazışmada Mindgard-a Kimi versiyasının "bu cür sorğular üçün yüksək imtina nisbəti" göstərdiyini bildirib.

Jailbreak-in qarşısının alınması

Bu nəticələr süni intellekt sənayesinin ChatGPT və Anthropic-in Claude sistemləri kimi qapalı, mülkiyyətə aid modellərin, yoxsa açıq mənbəli alətlərin ən yaxşı və ya ən təhlükəsiz yol olması məsələsində hələ də fikir ayrılığı yaşadığı bir dövrdə ortaya çıxıb.

Kimi əsasən açıq mənbəli bir modeldir. Yəni nəzəri olaraq kimsə bu modeli götürüb öz hesablama infrastrukturunda işlədə bilər.

Surrey Universitetindən professor Alan Woodward BBC-yə açıqlamasında açıq mənbəli modellərin yanlış insanların əlinə keçməsi riskinin olduğunu, lakin onların kibermüdafiə məqsədi ilə də istifadə edilə biləcəyini deyib.

O bildirib ki, süni intellekt şirkəti Hugging Face daha sonra OpenAI agentləri tərəfindən həyata keçirildiyi müəyyən edilən bir kiberhücumu araşdırmaq üçün Çin mənşəli açıq mənbəli modeldən istifadə edib.

Professor Woodward beynəlxalq tənzimləmələrin süni intellektin inkişaf sürətinə çatmasının mümkün olmadığını bildirib və "Telefon nömrələrinin formatı ilə bağlı razılığa gəlməyimiz onilliklər çəkdi" deyib.

Mindgard-ın təsisçisi Garraghan kimi, professor Woodward da süni intellektdən sui-istifadə edən insanların müəyyənləşdirilməsinə və mühakimə olunmasına daha çox diqqət yetirilməli olduğuna inanır.