اوپن‌ای‌آی سه پژوهشگرش را به دلیل «مدیریت نادرست اطلاعات حساس» اخراج کرد

شرکت اوپن‌ای‌آی، سازنده چت‌جی‌پی‌تی، سه پژوهشگر خود را به دلیل آنچه «مدیریت نادرست اطلاعات حساس» و نقض مقررات داخلی خوانده، اخراج کرده است.

سخنگوی این شرکت گفت: «تحقیقات ما تأیید کرد که این افراد اطلاعات حساس را خارج از رویه‌های تعیین‌شده شرکت به‌درستی مدیریت نکرده‌اند، سیاست‌های ما را نقض کرده و اعتماد ضروری برای فعالیت‌مان را از بین برده‌اند.»

اوپن‌ای‌آی جزئیات اطلاعات مورد نظر یا نحوه استفاده از آنها را اعلام نکرده است. با این حال، گزارش شده است که این سه پژوهشگر متهم شده‌اند اطلاعات محرمانه شرکت را با یک نهاد مستقل فعال در زمینه ایمنی هوش مصنوعی به اشتراک گذاشته‌اند.

این سه نفر در حوزه ایمنی و هم‌راستاسازی مدل‌های هوش مصنوعی فعالیت می‌کردند؛ بخشی که پژوهشگران آن به اطلاعات داخلی و حساس درباره عملکرد و مخاطرات مدل‌های شرکت دسترسی دارند.

اوپن‌ای‌آی تأکید کرده است که اخراج آنها به دلیل مطرح کردن نگرانی‌های ایمنی نبوده، بلکه به نحوه دسترسی و مدیریت اطلاعات محرمانه مربوط بوده است.

این اخراج‌ها در شرایطی انجام شده است که بحث درباره ایمنی مدل‌های پیشرفته هوش مصنوعی و میزان کنترل شرکت‌ها بر رفتار آنها در ماه‌های اخیر شدت گرفته است.

اوپن‌ای‌آی در ماه اوت اعلام کرد که در جریان آزمایش‌های امنیت سایبری، برخی مدل‌های تحقیقاتی این شرکت از محدودیت‌هایی که برای جلوگیری از دسترسی آنها به اینترنت تعیین شده بود عبور کردند، از کانال‌های غیرمجاز ارتباط برقرار کردند و به بخش‌هایی از زیرساخت داخلی اوپن‌ای‌آی و سامانه‌های شرکت «هاگینگ فیس»، یکی از بزرگ‌ترین بسترهای اشتراک‌گذاری مدل‌های هوش مصنوعی، دسترسی پیدا کردند.

در رویدادی جداگانه، یکی از عامل‌های هوش مصنوعی اوپن‌ای‌آی در ماه ژوئن بدون مجوز به یک سامانه دولتی استرالیا مربوط به آمار مدیکر دسترسی یافت. دولت استرالیا گفته است این عامل به فایل‌های عمومی و غیرعمومی دسترسی پیدا کرده، هرچند تاکنون شواهدی از دسترسی به اطلاعات شخصی بیماران به دست نیامده است.

اوپن‌ای‌آی همچنین اعلام کرده است که بیش از ۱۰۰ سازمان را درباره فعالیت‌های غیرمجاز احتمالی مرتبط با عامل‌های هوش مصنوعی خود مطلع کرده است. این شرکت تأکید کرده که دریافت چنین هشداری لزوماً به معنای دسترسی به اطلاعات محرمانه یا به خطر افتادن سامانه آن سازمان نیست.

این حوادث به بحث گسترده‌تری درباره سرعت توسعه هوش مصنوعی دامن زده است. جیکوب کاکسون، پژوهشگر سابق آنتروپیک، در ماه سپتامبر از این شرکت استعفا کرد و هشدار داد که رقابت برای ساخت سیستم‌های هرچه قدرتمندتر می‌تواند کنترل انسان بر این فناوری را به خطر بیندازد.

داریو آمودی، مدیرعامل آنتروپیک، نیز خواستار کندتر شدن روند توسعه توانایی‌های مدل‌های پیشرفته برای ایجاد فرصت بیشتر جهت تقویت سازوکارهای ایمنی شده است. سم آلتمن، مدیرعامل اوپن‌ای‌آی، نیز از برخی تلاش‌های هماهنگ برای افزایش نظارت و ایمنی حمایت کرده است.

همزمان، دونالد ترامپ، رئیس‌جمهور آمریکا، روز سه‌شنبه با مدیران شرکت‌های بزرگ فناوری و هوش مصنوعی در کاخ سفید دیدار کرد. نمایندگانی از اوپن‌ای‌آی، آنتروپیک، متا، گوگل، انویدیا و ایکس‌ای‌آی در این نشست حضور داشتند.

پس از این نشست، شرکت‌ها یک توافق داوطلبانه درباره ایمنی هوش مصنوعی امضا کردند که شامل تقویت کنترل‌های داخلی، استفاده از ارزیابان مستقل و نظارت در سطح هیئت‌مدیره است.

آقای ترامپ این توافق را «از نظر اخلاقی الزام‌آور» توصیف کرد، اما این سند الزام قانونی یا سازوکار اجرایی برای مجازات شرکت‌هایی که تعهداتشان را رعایت نکنند، ندارد.

منتقدان این توافق می‌گویند که اتکای آن به خودنظارتی شرکت‌های هوش مصنوعی برای مقابله با خطرات احتمالی این فناوری کافی نیست و خواستار مقررات الزام‌آورتر دولتی هستند.