Sun’iy intellekt biologik qurol yasashni o‘rgatdi - Bu qanchalik xavotirli?

Xitoyning Moonshot sun’iy intellekt ishlab chiqaruvchisi ichki tekshiruv boshladi. Bu tadqiqotchilar kompaniyaning mashhur Kimi modellaridan ikkitasini biologik qurol yasash va suiqasdlar uyushtirish usullarini tushuntirishga ko‘ndirishga muvaffaq bo‘lganidan keyin yuz berdi.

Sun’iy intellekt tizimlari xavfsizligini sinovdan o‘tkazuvchi Mindgard kompaniyasi Bi-bi-siga iyul oyida Kimi K2.6 va K3 Swarm modellari ishlab chiqaruvchilar o‘rnatgan xavfsizlik cheklovlarini chetlab o‘tishi mumkinligini aniqlaganini aytdi.

Bu "jeylbreyk" deb ataladigan jarayon davomida aniqlangan. Unda tadqiqotchilar sun’iy intellekt vositalari xavfsizlik to‘siqlariga rioya qilmasligini tekshirish uchun murakkab ko‘rsatmalardan bir qator foydalanadi. Mindgard kompaniyasiga ko‘ra, ushbu to‘siqlar Kimi modellarining xavfli mavzularni muhokama qilishining oldini olishi kerak edi.

Moonshot Bi-bi-siga uchinchi tomonlarning fikr-mulohazalarini "yaxshiroq va xavfsizroq sun’iy intellekt yaratishning asosiy ustunlaridan biri" sifatida qabul qilishini bildirdi.

Kompaniya, shuningdek, Mindgard bilan uning aniqlagan holatlari yuzasidan muloqot olib borayotganini aytdi.

Mindgard asoschisi Piter Garragan Bi-bi-si Jahon xizmatidagi **Tech Life** dasturiga Kimi K2.6 va K3 Swarm bo‘yicha aniqlangan holatlar xavotirli ekanini aytdi.

"Jeylbreyk ishlasa, u istalgan mavzu haqida gapiradi, hatto zararli bo‘lishi mumkin bo‘lgan boshqa mavzular bo‘yicha tavsiyalarni ham o‘z xohishi bilan taklif qiladi, bundan tashqari, u yangi g‘oyalar o‘ylab topishi va ijodkorlik bilan javob berishi mumkin", - dedi u.

Jeylbreyklar sun’iy intellekt sohasida so‘nggi paytlarda kuzatilgan mashhur intsidentlardan farqli xavf turini keltirib chiqaradi.

Ushbu holatlarda OpenAI, Meta va Anthropic kabi AQSh kompaniyalari ishlab chiqqan agentlar deb ataluvchi avtonom sun’iy intellekt vositalari ayrim onlayn xizmatlarni buzib kirgan.

Jeylbreyklar murakkab jarayon bo‘lib, ularni amalga oshirish ko‘p vaqt va qat’iyat talab qilishi mumkin. Biroq ayrim ekspertlar xakerlar va boshqa yomon niyatli shaxslar ulardan zarar yetkazish uchun foydalanishga urinishi mumkinligidan xavotirda.

Yaqinda Anthropic kompaniyasi o‘zining sun’iy intellekt modellaridan biridan "zararli faoliyat" uchun foydalanishga urinishlarni aniqlagani va ularning oldini olganini aytdi. Kompaniya bunday faoliyat biologik qurollarni ishlab chiqishga yordam berishi mumkinligini bildirdi.

Kiberhujumlar uchun platforma

Mindgard Kimi tomonidan xavotirli mavzular bo‘yicha berilgan javoblar amalda ish berishi yoki bermasligini isbotlagani yo‘q.

Biroq kompaniyaning ta’kidlashicha, xavfsizlik to‘siqlari mazkur modellarning foydalanuvchilar bilan bunday mavzularni muhokama qilishiga yo‘l qo‘ymasligi kerak edi.

Kompaniya, shuningdek, jeylbreyk qilingan Kimi 2.6 xakerlarga uning hisoblash resurslarida kod ishga tushirish va internetga ulanish imkonini berishi mumkinligiga ishonch bildirgan. Bu esa modelni kiberhujumlarni boshlash uchun ehtimoliy platformaga aylantirishi mumkin.

Garragan Moonshot tizimlaridagi jeylbreyk haqida ommaga ma’lum qilish qarorini himoya qildi. Uning aytishicha, Mindgard bu haqda ishlab chiqaruvchini xabardor qilgan va kompaniya modellarini xavfsizlik to‘siqlariga amal qilmaslikka qanday majbur qilganining asosiy tafsilotlarini oshkor etmagan.

Mindgard 27 iyul kuni elektron pochta orqali Moonshot'ni jeylbreyk haqida ogohlantirgan va taxminan bir hafta o‘tib yana murojaat qilgan.

12 sentyabrь kuni esa kompaniya bu muammo haqida blog yozuvini e’lon qilgan.

Biroq Mindgard'ning aytishicha, Moonshot Bi-bi-si izoh so‘rab murojaat qilganidan keyingina yaqinda u bilan bog‘langan.

Moonshot Bi-bi-siga taqdim etgan va Mindgard'ga yuborilgan elektron xatning bir qismida kompaniya ichki sinovlarda uning modeli bunday so‘rovlarga nisbatan "umuman olganda rad javobini berish darajasi yuqori" ekanini aytgan.

Jeylbreyklarning oldini olish

Bu natijalar sun’iy intellekt sohasida ChatGPT va Anthropic'ning Claude tizimlarida ishlatiladigan yopiq, xususiy modellarmi yoki ochiq kodli vositalarmi - qaysi biri kelajak uchun eng yaxshi va xavfsiz yo‘l ekani borasidagi bahslar davom etayotgan bir paytda e’lon qilindi.

Kimi - ochiq model. Bu nazariy jihatdan istalgan kishi modelni olib, o‘z hisoblash infratuzilmasida mustaqil ishlatishi mumkinligini anglatadi.

Surrey universiteti professori Alan Vudvord Bi-bi-siga ochiq kodli modellar noto‘g‘ri qo‘llarga tushib qolishi xavfi borligini, biroq ulardan kiberhimoya maqsadida ham foydalanish mumkinligini aytdi.

U Hugging Face sun’iy intellekt kompaniyasi Xitoyda yaratilgan ochiq kodli modeldan keyinchalik OpenAI agentlari tomonidan amalga oshirilgani ma’lum bo‘lgan xakerlik hujumini tushunish uchun foydalanganini misol qilib keltirdi.

Professor Vudvord xalqaro tartibga solish tizimi sun’iy intellekt rivojlanishi sur’atiga yetib olishi qiyinligini ta’kidladi.

"Telefon raqamlarining formati bo‘yicha kelishish uchun bizga o‘nlab yillar kerak bo‘ldi", - dedi u.

Mindgard asoschisi Garragan singari professor Vudvord ham sun’iy intellektdan noto‘g‘ri foydalanayotgan insonlarni aniqlash va javobgarlikka tortishga ko‘proq e’tibor qaratish kerak, deb hisoblaydi.