پژوهشگر آنتروپیک: بیش از ۱۰ درصد احتمال هست که هوش مصنوعی در یک دهه آینده «همه انسانها را نابود کند»
منبع تصویر، EPA/Shutterstock
یکی از پژوهشگران ارشد ایمنی هوش مصنوعی در شرکت آنتروپیک (Anthropic) هشدار داده است که با سرعت کنونی پیشرفت این فناوری، بیش از ۱۰ درصد احتمال میدهد که ممکن است هوش مصنوعی طی یک دهه آینده به نابودی همه انسانها منجر شود.
ایوان هوبینگر، محقق ایمنی هوش مصنوعی در آنتروپیک، در پیامی در شبکه اجتماعی ایکس نوشت که خطر مدلهای کنونی هوش مصنوعی را پایین میداند، اما نگران است این فناوری بهزودی به مرحلهای برسد که بتواند عملکرد خود را بهتر کند و در نهایت تهدیدی وجودی برای بشریت ایجاد کند.
او توضیح نداد که دقیقا چگونه چنین سناریویی ممکن است رخ دهد، اما اظهاراتش تازهترین مورد از مجموعه هشدارهای فزاینده درباره مخاطرات بالقوه هوش مصنوعی است؛ هشدارهایی که محور بحث را از این پرسش که «آیا هوش مصنوعی خطرناک است؟» به این موضوع تغییر دادهاند که «میزان این خطر چقدر است؟»
اظهارات آقای هوبینگر در واکنش به نوشته جیکوب کاکسون، پژوهشگر هوش مصنوعی که به تازگی از آنتروپیک استعفا داده و پیشتر در «اوپنایآی» نیز فعالیت میکرد، مطرح شد.
کاکسون نوشته بود: «هیچیک از این دو شرکت مسئولانه عمل نمیکنند.» او هشدار داد که این سیستمها بهزودی از توانایی انسان فراتر خواهند رفت و میتوانند هر سیستمی را هک کنند، در هر حوزهای تحول ایجاد کنند و به قدرت و منابع واقعی دست یابند.
شرکت اوپنایآی به درخواست بیبیسی برای اظهار نظر پاسخی نداده است. آنتروپیک نیز درباره اظهارات کارکنان خود یا گزارشهای منتشرشده اظهار نظری نکرده است.
در همین حال، وندی هال، دانشمند علوم کمپیوتر و مشاور ملل متحد در حوزه هوش مصنوعی، به بیبیسی گفت از این اظهارات «شوکه شده است.»
او افزود بخشی از این موضعگیریها ممکن است با اهداف تبلیغاتی و در آستانه عرضه احتمالی سهام این شرکتها در بازار بورس مطرح شده باشد، اما تاکید کرد اگر چنین دیدگاهی واقعا مبنای فعالیت یک شرکت باشد، سرمایهگذاران باید درباره سرمایهگذاری در آن تجدیدنظر کنند.
همچنین دارن جونز، از سیاستمداران حزب کارگر بریتانیا، در نامهای سرگشاده خواستار تدوین یک پیمان بینالمللی جدید برای توسعه ایمن هوش مصنوعی شد و گفت دولتها باید پیش از آنکه توسعه سیستمهای فوقهوشمند از کنترل خارج شود، درباره چارچوبهای مشترک همکاری کنند.
در گزارشی جداگانه، فایننشال تایمز نیز نوشت آنتروپیک جدیدترین مدل هوش مصنوعی خود را در اختیار موسسه ایمنی هوش مصنوعی بریتانیا، یکی از نهادهای پیشرو در ارزیابی خطرات هوش مصنوعی، قرار نداده است.
