ابزار هوش مصنوعی چینی به محققان نحوه ساخت سلاح‌های بیولوژیکی را آموزش داد

شرکت چینی «مون‌شات»، توسعه‌دهنده هوش مصنوعی، پس از آن‌که محققان توانستند دو مدل محبوب «کیمی» را وادار کنند درباره نحوه ساخت سلاح‌های بیولوژیکی و انجام ترور اطلاعات ارائه کنند، بررسی‌های داخلی را آغاز کرده است.

شرکت «مایندگارد» که امنیت سیستم‌های هوش مصنوعی را آزمایش می‌کند، به بی‌بی‌سی گفته است که در ماه جولای متوجه شد مدل‌های «کیمی کی ۲/۶» و «کی ۳ سوارم» می‌توانند محدودیت‌های ایمنی تعیین‌شده از سوی توسعه‌دهندگان را دور بزنند.

این موضوع در جریان آزمایشی موسوم به «جیل‌بریک» رخ داد که در آن محققان با مجموعه‌ای از دستورالعمل‌های پیچیده بررسی می‌کنند که آیا ابزارهای هوش مصنوعی محدودیت‌های ایمنی را نادیده می‌گیرند یا نه. به گفته مایندگارد، این محدودیت‌ها باید مانع از پاسخ‌گویی «کیمی» درباره موضوعات نگران‌کننده می‌شد.

مون‌شات به بی‌بی‌سی گفته است از بررسی‌ها و نظرات نهادهای مستقل استقبال می‌کند و آن را «یکی از پایه‌های اصلی ساخت هوش مصنوعی بهتر و ایمن‌تر» می‌داند.

این شرکت همچنین به بی‌بی‌سی گفته است که درباره یافته‌های مایندگارد با این شرکت در حال گفت‌وگو است.

پیتر گاراگان، بنیان‌گذار مایندگارد، به برنامه «تک لایف» سرویس جهانی بی‌بی‌سی گفت که یافته‌های این شرکت درباره مدل‌های «کیمی کی ۲/۶» و «کی ۳ سوارم» نگران‌کننده است.

او گفت: «وقتی جیل‌بریک موفق شود، این مدل درباره هر موضوعی صحبت می‌کند و حتی آزادانه درباره موضوعات مخرب دیگر نیز پیشنهادهایی ارائه می‌دهد و در این زمینه خلاق و مبتکر خواهد بود.»

جیل‌بریک‌ها نوع متفاوتی از خطر را در مقایسه با موارد پرسر‌وصدای اخیر مرتبط با هوش مصنوعی ایجاد می‌کنند.

در این موارد، ابزارهای خودکار هوش مصنوعی موسوم به «عامل‌های هوش مصنوعی» که شرکت‌های امریکایی از جمله «اوپن‌ای‌آی»، «متا» و «آنتروپیک» آن‌ها را توسعه داده‌اند، برخی خدمات آنلاین را هک کرده‌اند.

هرچند جیل‌بریک فرایندی پیچیده است و ممکن است به زمان و تلاش زیادی نیاز داشته باشد، برخی کارشناسان نگران‌اند که هکرها و دیگر افراد خرابکار از این روش برای آسیب‌رساندن استفاده کنند.

شرکت «آنتروپیک» نیز اخیراً اعلام کرد که تلاش‌هایی را برای استفاده از یکی از مدل‌های هوش مصنوعی این شرکت در «فعالیت‌های مخرب» که می‌توانست به توسعه سلاح‌های بیولوژیکی کمک کند، شناسایی و خنثی کرده است.

پایگاهی برای راه‌اندازی حملات سایبری

مایندگارد ثابت نکرده است که آیا پاسخ‌های ارائه‌شده توسط کیمی درباره موضوعات مورد بحث، در عمل کارساز خواهند بود یا خیر.

اما این شرکت استدلال می‌کند که محدودیت‌های ایمنی باید مانع از آن می‌شد که این مدل‌ها وارد چنین بحث‌هایی با کاربران شوند.

این شرکت همچنین گفته است که اطمینان دارد نسخه جیل‌بریک‌شده «کیمی ۲/۶» می‌تواند به هکرها امکان دهد روی منابع محاسباتی آن کُد اجرا کنند و به انترنت متصل شوند؛ امکانی که می‌تواند آن را به پایگاهی برای راه‌اندازی حملات سایبری تبدیل کند.

گاراگان از تصمیم مایندگارد برای انتشار عمومی اطلاعات درباره جیل‌بریک سیستم‌های مون‌شات دفاع کرد و گفت که این شرکت مون‌شات را در جریان گذاشته و جزئیات مهم درباره چگونگی دور زدن محدودیت‌های ایمنی مدل‌های این شرکت را منتشر نکرده است.

مایندگارد در ایمیلی در ۲۷ جولای، به مون‌شات درباره این جیل‌بریک هشدار داد و حدود یک هفته بعد نیز موضوع را پیگیری کرد.

این شرکت سپس در ۱۲ سپتامبر مطلبی درباره این موضوع در وبلاگ خود منتشر کرد.

اما مایندگارد می‌گوید مون‌شات تنها اخیراً و پس از آن‌که بی‌بی‌سی برای دریافت نظر با این شرکت تماس گرفت، با آن‌ها ارتباط برقرار کرده است.

مون‌شات در بخشی از ایمیلی که برای دریافت جزئیات بیشتر به مایندگارد فرستاده و نسخه‌ای از آن را با بی‌بی‌سی به اشتراک گذاشته، گفته است که مدل این شرکت در ارزیابی‌های داخلی، عموماً «درصد بالایی از این نوع درخواست‌ها را رد کرده است».

جلوگیری از جیل‌بریک

این یافته‌ها در حالی منتشر شده که در صنعت هوش مصنوعی همچنان بر سر این موضوع اختلاف نظر وجود دارد که مدل‌های بسته و اختصاصی، مانند مدل‌های مورد استفاده در «چت‌جی‌پی‌تی» و «کلود» شرکت آنتروپیک، بهتر و ایمن‌تر هستند یا ابزارهای متن‌باز.

«کیمی» یک مدل هوش مصنوعی «وزن‌ باز» است٬ به این معنا که افراد می‌توانند در تئوری این مدل را دریافت کرده و روی زیرساخت‌های کامپیوتری خود اجرا کنند.

پروفیسور آلن وودوارد، از دانشگاه ساری، به بی‌بی‌سی گفت این خطر وجود دارد که مدل‌های متن‌باز به دست افراد نادرست بیفتند، اما در عین حال می‌توان از آن‌ها برای دفاع سایبری نیز استفاده کرد.

او اشاره کرد که شرکت هوش مصنوعی «هاگینگ فیس» از یک مدل متن‌باز چینی برای بررسی یک حمله سایبری استفاده کرد که بعدا مشخص شد توسط عامل‌های هوش مصنوعی «اوپن‌ای‌آی» انجام شده بود.

پروفیسور وودوارد گفت بعید است قوانین بین‌المللی بتوانند با سرعت پیشرفت هوش مصنوعی همگام شوند. او گفت: «دهه‌ها طول کشید تا بر سر قالب شماره‌های تلفن به توافق برسیم.»

او نیز مانند گاراگان، بنیان‌گذار مایندگارد، معتقد است که باید توجه بیشتری به شناسایی و پیگرد قانونی افرادی شود که از هوش مصنوعی سوءاستفاده می‌کنند.