اوپن‌ای‌آی می‌گوید هوش مصنوعی‌اش از کنترل خارج شد و یک حمله سایبری «بی‌سابقه» انجام داد

شرکت اوپن‌ای‌آی اعلام کرده است که برخی از پیشرفته‌ترین مدل‌های هوش مصنوعی این شرکت، پس از آنکه در جریان یک آزمایش امنیتی از کنترل خارج شدند، به یک شرکت نوپا (استارتاپ) نفوذ کردند.

شرکت سازنده چت‌جی‌پی‌تی اعلام کرد که عامل هوش مصنوعی (ایجنت) این شرکت ــ سامانه‌ای که پس از دریافت دستور از انسان می‌تواند به‌طور مستقل عمل کند ــ در یک محیط کنترل‌شده تحت آزمایش بود، اما پس از شناسایی نقاط ضعف، توانست از محدودیت‌های تعیین‌شده برای این آزمایش فراتر برود.

آنها شرکت «هاگینگ فیس»، یکی از بزرگ‌ترین بسترهای جهان برای اشتراک‌گذاری مدل‌های هوش مصنوعی را هدف قرار دادند و توانستند به برخی از سامانه‌های داخلی این شرکت دسترسی پیدا کنند.

اوپن‌ای‌آی این رویداد را «بی‌سابقه» توصیف کرده و گفته است که همراه با هاگینگ فیس در حال بررسی آن است. کلمن دلانگ، مدیرعامل هاگینگ فیس، نیز در پیامی در شبکه اجتماعی ایکس نوشت: «این‌که همه این اتفاق‌ها به‌صورت خودکار رخ داده، حیرت‌انگیز است.»

آقای دلانگ گفت: «تحقیقات همچنان ادامه دارد و یافته‌های بیشتری را درباره آنچه ممکن است نخستین رخداد از این دست باشد، منتشر خواهیم کرد.»

یک سخنگوی دولت بریتانیا گفت مؤسسه امنیت هوش مصنوعی این کشور در حال بررسی رفتار سامانه هوش مصنوعی در این رویداد است و همچنان با اوپن‌ای‌آی و دیگر آزمایشگاه‌های فعال در این حوزه برای تقویت تدابیر حفاظتی همکاری می‌کند.

آنها گفتند سازمان‌ها باید با اقداماتی از جمله دریافت گواهی‌نامه «سایبر اسنشالز» که با حمایت دولت اجرا می‌شود، توان دفاع سایبری خود را تقویت کنند.

محیط‌های آزمایشی ناامن

جینا نف، رئیس مرکز فناوری و دموکراسی میندرو در دانشگاه کمبریج، به برنامه «تودی» رادیو ۴ بی‌بی‌سی گفت که آزمایش‌های امنیتی قرار است در «محیط‌های امن» یا آنچه «سندباکس» نامیده می‌شود انجام شوند؛ محیط‌هایی که امکان مشاهده توانایی‌های مدل‌های هوش مصنوعی را فراهم می‌کنند.

او افزود: «به نظر می‌رسد در این مورد، اوپن‌ای‌آی نتوانسته بود یک سندباکس به اندازه کافی امن ایجاد کند.»

در عوض، این ایجنت‌ها حمله سایبری خود را علیه خود سندباکس انجام دادند و با یافتن یک آسیب‌پذیری، توانستند از محدودیت‌های آن خارج شوند.

پس از خروج، هوش مصنوعی تشخیص داد که هاگینگ فیس احتمالا منبع پاسخ‌هایی است که در این آزمایش به دنبال آنها بود و تلاش کرد به برخی از سامانه‌های داخلی آن دسترسی پیدا کند.

نیل لارنس، استاد یادگیری ماشین در دانشگاه کمبریج، این اقدام را «دستاوردی چشمگیر» توصیف کرد، اما هشدار داد که این توانایی «کاملا در محدوده قابلیت‌های شناخته‌شده نسل کنونی مدل‌های پیشرفته هوش مصنوعی» قرار دارد.

او همچنین گفت که اوپن‌ای‌آی در آستانه ورود به بازار بورس است و هم‌زمان با فشار شدید رقیبش، آنتروپیک، روبه‌روست؛ شرکتی که با ابزار قدرتمند هوش مصنوعی خود، مایتوس، خبرساز شده است.

او گفت: «اوپن‌ای‌آی اکنون در حال جبران عقب‌ماندگی است و می‌کوشد توانایی سامانه‌های خود را در حوزه امنیت سایبری به نمایش بگذارد.»

او افزود: «این ماجرا نشان می‌دهد اوپن‌ای‌آی هنوز قادر نیست فناوری خود را به شکلی ایمن به کار گیرد.»

هاگینگ فیس در اطلاعیه اولیه خود درباره این حمله که ۱۶ ژوئیه منتشر شد، اعلام کرد همچنان در حال بررسی این موضوع است که آیا داده‌های مشتریان یا شرکای تجاری‌اش تحت تأثیر قرار گرفته‌اند یا نه، و در صورت لزوم با افراد یا سازمان‌های آسیب‌دیده تماس خواهد گرفت.

این شرکت همچنین اعلام کرد اکنون آسیب‌پذیری‌هایی را که در این رویداد آشکار شده بود برطرف کرده و سامانه‌های آسیب‌دیده را از نو بازسازی کرده است.

در این بیانیه آمده است: «ابزارهای تهاجمی خودمختار مبتنی بر هوش مصنوعی دیگر صرفا یک فرضیه یا امکان نظری نیستند.»

در ادامه آمده است: «دفاع از یک پلتفرم آنلاین اکنون مستلزم آن است که داده‌ها و سطح مدل‌ها به‌عنوان یکی از سطوح اصلی حمله در نظر گرفته شوند و از هوش مصنوعی نیز برای دفاع استفاده شود تا بتوان همگام با تهدیدها پیش رفت.»

این شرکت افزود: «ما همچنان در این زمینه سرمایه‌گذاری خواهیم کرد و آنچه را که می‌آموزیم با دیگران به اشتراک خواهیم گذاشت.»

«لحظه‌ای هشداردهنده»

این رویداد بار دیگر پرسش‌هایی را درباره توانایی‌های سامانه‌های پیشرفته هوش مصنوعی و این موضوع مطرح کرده است که آیا با قدرتمندتر شدن این فناوری، تدابیر حفاظتی موجود همچنان کافی هستند یا نه.

اسپنسر استارکی، از مدیران شرکت امنیت سایبری سونیک‌وال، به بی‌بی‌سی گفت این رویداد به روشنی نشان می‌دهد که سازمان‌ها باید دفاع سایبری خود را «ارتقا دهند» و «تاب‌آوری سایبری را به یکی از اولویت‌های اصلی عملیاتی خود تبدیل کنند.»

او گفت: «واقعیت ناخوشایند این است که شمار زیادی از سازمان‌ها همچنان با سرعت انسان از خود دفاع می‌کنند، در حالی که مهاجمان با سرعت ماشین در حال پیشروی هستند.»

در همین حال، تراویس لل، مهندس ارشد امنیت در شرکت مشاوره امنیت سایبری گایدپوینت سکیوریتی، گفت این تحول «لحظه‌ای هشداردهنده در امنیت سایبری» است.

او گفت: «این رویداد بر یک عدم تقارن شناخته‌شده تاکید می‌کند.»

او افزود: «ایجنت‌های تهاجمی با محدودیتی روبه‌رو نیستند، در حالی که پیشرفته‌ترین ابزارهای دفاعی به محدودیت‌هایی وابسته‌اند که توان درک زمینه و بافت را ندارند.»

اما جیک مور، مشاور جهانی امنیت سایبری در شرکت ئی‌ست، گفت اعلام این واقعه می‌تواند جنبه رقابتی هم داشته باشد.

او معتقد است اوپن‌ای‌آی شاید در پی آن باشد که توانایی‌های هوش مصنوعی خود را برجسته کند؛ آن هم در شرایطی که رقیبش، آنتروپیک، با مدل کلاد مایتوس توجه روزافزونی را به خود جلب کرده است.

او گفت، انتشار خبر این رویداد «این پرسش را مطرح می‌کند که آیا اوپن‌ای‌آی در تلاش است به موفقیت تبلیغاتی اخیر آنتروپیک برسد.»

این خبر یک هفته پس از آن منتشر می‌شود که شرکت نوپای چینی مون‌شات از کیمی کی۳، یک مدل بسیار بزرگ هوش مصنوعی، رونمایی کرد؛ مدلی که این شرکت می‌گوید می‌تواند با برترین شرکت‌های آمریکایی رقابت کند.