آنتروپیک از استفاده نهادهای مرتبط با حکومت ایران از هوش مصنوعی برای تبلیغات و رصد شهروندان خبر داد

گزارش تازه شرکت آمریکایی آنتروپیک ادعا می‌کند نهادها و افرادی همسو با جمهوری اسلامی از یکی از پیشرفته‌ترین مدل‌های هوش مصنوعی جهان نه فقط برای تولید محتوا و عملیات تبلیغاتی، بلکه برای نظارت بر شهروندان، تحلیل شبکه‌های اجتماعی و توسعه ابزارهای تجسسی استفاده کرده‌اند. این گزارش تصویری کم‌سابقه از نحوه بهره‌گیری حکومت ایران از فناوری‌های هوش مصنوعی ارائه می‌دهد؛ آن هم در شرایطی که دسترسی رسمی به این خدمات از داخل ایران مسدود است.

آنتروپیک همچنین می‌گوید «فعالیت‌های سوء» برای استفاده از مدل‌هایش در ساخت سلاح‌های بیولوژیک را شناسایی و خنثی کرده است.

این شرکت در تازه‌ترین گزارش خود در باره اطلاعات مربوط به تهدیدات، همچنین از مختل کردن یک عملیات احتمالی جاسوسی سایبری مرتبط با روسیه خبر داد و شرکت‌های هوش مصنوعی چینی را به تلاش برای کپی‌برداری از قابلیت‌های مدل «کلاود» خود متهم کرد.

انتشار این گزارش چند روز پس از آن صورت می‌گیرد که یکی از پژوهشگران ارشد حوزه ایمنی در آنتروپیک اظهار داشت احتمال اینکه هوش مصنوعی طی دهه آینده باعث مرگ تمام انسان‌ها شود، بیش از ۱۰ درصد است.

این یافته‌ها که در گزارش اخیر این شرکت در باره اطلاعات مربوط به تهدیدها ارائه شده، جدیدترین مورد از مجموعه‌ای رو به رشد از هشدارهای محققان هوش مصنوعی و افراد دست‌اندرکار این صنعت در مورد خطرات بالقوه این فناوری برای بشریت است.

جزییاتی که شرکت آنتروپیک در گزارش خود منتشر کرده، تصویری از استفاده‌های متنوع افراد و نهادهای نزدیک به حکومت ایران از هوش مصنوعی به دست می‌دهد.

این گزارش به موارد سوءاستفاده از خدمات هوش مصنوعی کلود می‌پردازد که شرکت آنتروپیک شناسایی و حساب‌های مرتبط با آن‌ها را مسدود کرده است. این گزارش تعداد کل موارد سوءاستفاده را روشن نمی‌کند.

شرکت آنتروپیک می‌گوید افراد هم‌راستا با حکومت ایران از کلود برای کارزارهای تبلیغاتی استفاده کرده‌اند؛ کارزارهایی که معمولا در ایران توسط نهادهای وابسته به حکومت، با عناوینی چون «جنگ نرم» یا «جنگ شناختی» از آنها یاد می‌شود.

در عین حال، به گفته آنتروپیک، «این افراد تلاش زیادی برای پنهان‌کردن منشا محتوا می‌کردند؛ آن‌ها محتوا را طوری مهندسی می‌کردند که روایت‌های مورد حمایت حکومت، دیدگاه‌های افراد مستقل به نظر برسند.»

شرکت آنتروپیک تاکید کرده است که دسترسی به کلود از داخل ایران مسدود است؛ بنابراین، این افراد از وی‌پی‌ان و شماره‌های تلفن خارجی برای ثبت‌نام و تایید حساب‌هایشان در کلود استفاده کرده‌اند.

در گزارش آنتروپیک آمده که این افراد «در طول گفتگوها [با هوش مصنوعی]، بارها به مکان‌ها، نهادها و نقش‌های خود اشاره کردند.» بر این اساس، آنها حتی «از سربرگ‌های رسمی نهادی در پانویس اسناد» استفاده کرده‌اند که به واسطه آنها آنتروپیک توانسته «هر عملیات را به نهاد حکومتی مربوطه در ایران مرتبط کند».

طبق این گزارش، این افراد از کلود برای تهیه طرح‌های سازمانی کامل برای مراسم تشییع جنازه رهبر و تولید محتوا در چند استان استفاده کرده‌اند. در این شبکه، ده‌ها نفر گزارش‌های عمومی دستگاه‌های امنیتی ایران را بازنویسی و در قالب‌های تازه، با هویت‌هایی مشخص و بدون ارتباط ظاهری با این دستگاه‌ها منتشر می‌کردند. همچنین، برای معتبرتر نشان‌دادن پیام‌های مورد حمایت حکومت، محتوای دروغین را به اندیشکده‌ها و موسسات پژوهشی غربی، از جمله بروکینگز و رند، نسبت می‌دادند.

بنا بر این گزارش، فعالیت افراد و نهادهای مرتبط با حکومت ایران به تبلیغات محدود نبوده است. مثلا در یک مورد، با استفاده از کلود افزونه‌ای مخرب برای مرورگر فایرفاکس ساخته‌اند تا داده‌های شبکه‌های اجتماعی را به‌صورت انبوه برای فعالیت‌های تجسسی خود جمع‌آوری کنند.

آنتروپیک در این گزارش می‌گوید سازمانی با دفترهایی در استان‌های مختلف ایران را شناسایی کرده است که مدعی بود پایگاه داده‌ای از اطلاعات هویتی شهروندان ایرانی دارد و تنها در یک سال بیش از ۶۳۰۰ شهروند ایرانی را زیر نظر گرفته و برای آن‌ها نمایه اطلاعاتی تهیه کرده است.

آنتروپیک می‌گوید این افراد از کلود برای تحلیل و تولید استفاده می‌کردند و با کمک آن، رابط کاربری سامانه‌ای را ساختند که احتمالا برای مدیریت پرونده‌های نظارتی حکومت به کار می‌رود. آن‌ها همچنین با استفاده از کلود، بیش از ۱۵۵ هزار توئیت را برای تحلیل شبکه اجتماعی بررسی کرده‌اند.

به گفته آنتروپیک، این واحدها یا افراد وابسته به حکومت ایران، داده‌های جمع‌آوری‌شده از تجسس را در «آرمان» ثبت می‌کردند؛ سامانه‌ای مشترک برای مدیریت پرونده‌ها که در آن، پرونده هر فرد شامل کد ملی، باورها، سابقه کیفری و حساب‌های او در شبکه‌های اجتماعی بود و ستونی هم با عنوان «اقدام» درباره آنها داشت.

آنتروپیک در این گزارش می‌گوید شواهدی یافته است که نشان می‌دهد این واحدها به نمایندگی از حکومت ایران، صلاحیت داوطلبان سمت‌های رسمی را نیز بررسی می‌کردند.

آنتروپیک می‌گوید: «کلود درخواست‌های صریح برای تهیه پرونده اطلاعاتی و تولید محتوای تبلیغاتی را رد کرد، اما سازوکارهای حفاظتی ما بسیاری از درخواست‌ها برای ساخت ابزارهای نرم‌افزاری تجسسی را مسدود نکردند.»

در گزارش آنتروپیک همچنین به استفاده افراد مرتبط با سازمان مجاهدین خلق و تشکل سیاسی آن، شورای ملی مقاومت اشاره شده است؛ آنتروپیک می‌گوید این افراد از کلود، از جمله برای جمع‌آوری اطلاعات و فریب‌دادن کاربران، استفاده کرده‌اند.

شرکت آنتروپیک که این گزارش مفصل را منتشر کرده است، گفته که این موارد، از جمله «برخی از پیچیده‌ترین سوءاستفاده‌هایی هستند که تاکنون دیده‌ایم. اما بحث درباره آن‌ها اهمیت ویژه‌ای دارد زیرا به ما نشان می‌دهند سوءاستفاده از هوش مصنوعی به چه سمتی می‌رود، لایه‌های محافظتی ما کجا عمل می‌کنند و در چه بخش‌هایی نیاز به بهبود دارند.»

در سال‌های گذشته با فشار کنگره و دولت آمریکا، پلتفرم‌های شبکه‌های اجتماعی گزارش‌های دوره‌ای درباره اقدامات مشابه حکومت ایران منتشر کرده بودند. اما حالا آنتروپیک در اقدام داوطلبانه‌ای این گزارش را منتشر کرده تا به گفته این شرکت، «دیگران هم بتوانند همین فعالیت‌ها را در پلتفرم‌های خود شناسایی کنند، و همچنین بتوانیم تصویر شفاف‌تری از نحوه شکل‌گیری و رشد تهدیدات نوظهور در اختیار عموم قرار دهیم.»

انتشار گزارش آنتروپیک در راستای گزارش‌های مشابهی است که به یک ویژگی معمول در صنعت هوش مصنوعی تبدیل شده‌اند. این شرکت‌ها به دنبال نشان دادن چگونگی شناسایی و خنثی کردن تلاش‌ها برای سوءاستفاده از مدل‌های خود هستند.

شرکت گوگل هم روز سه‌شنبه اعلام کرد که شخصی تلاش کرده است از ابزار هوش مصنوعی آن، جمینای، برای دستیابی به «راهنمای فنی کامل و گام به گام برای سنتز عوامل بیولوژیکی تسلیحاتی» استفاده کند.

موارد نگران‌کننده دیگر در این گزارش در هشت ماه گذشته از برنامه‌های دوست‌یابی جعلی و کلاهبرداری‌های مربوط به وای‌فای هتل‌ها گرفته تا نظارت‌های ساخته شده برای شناسایی مخالفان را شامل می‌شد.

آنتروپیک همچنین شرکت‌های هوش مصنوعی چینی را به تلاش برای کپی کردن قابلیت‌های کلاود متهم کرده است.

این گزارش طولانی مواردی را فهرست می‌کند که در آنها گروه‌های مظنون تحت حمایت دولت‌ها، مجرمان، فروشندگان جاسوس‌افزار، موسسات تبلیغاتی دولتی و افراد با انگیزه سیاسی از فناوری آن سوءاستفاده کرده‌اند.

این شرکت اعلام کرد که «استفاده مخرب» از مدل‌های سانت، کلاود و اوپوس آن در فاصله دسامبر ۲۰۲۵ تا اوت ۲۰۲۶ متوقف شده است.

هیچیک از موارد سوءاستفاده شامل کلاود فابل یا مدل‌های قدرتمند کلاس میتوس نبود، به استثنای یک مورد تقطیر که فرآیندی برای آموزش مدل‌های هوش مصنوعی کوچک‌تر با استفاده از مدل‌های بزرگ‌تر و گران‌تر است.

شرکت آنتروپیک اعلام کرد که اقداماتش علاوه بر شناسایی استفاده از مدل‌هایش برای عملیات سایبری و نفوذ، نظارت، کلاهبرداری و تقلب و توسعه سلاح، همچنین شامل جلوگیری از دانشمندانی بوده است که از هوش مصنوعی آن به روش‌هایی استفاده می‌کردند که می‌توانست در جهت به کمک به توسعه سلاح‌های بیولوژیک باشد.

در این گزارش به «پنج بررسی موردی از اقداماتی اشاره است که در آن سعی شده از مدل‌های این شرکت به روش‌هایی استفاده کند که می‌توانست در جهت توسعه سلاح‌های بیولوژیک به کار گرفته شود».

آنتروپیک گفت سوءاستفاده بیولوژیکی «یکی از جدی‌ترین خطرات مدل هوش مصنوعی پیشرو» است.

این شرکت افزود: بدون حفاظت صحیح، چنین قابلیت‌هایی «می‌تواند عواقب فاجعه‌باری داشته باشد.»

آنتروپیک گفت: «همان اطلاعاتی که می‌تواند برای توسعه یک سلاح بیولوژیک استفاده شود، می‌تواند برای توسعه، به عنوان مثال، واکسن یا درمانی برای یک بیماری نیز استفاده شود.»

جیکوب کلاین، رئیس بخش اطلاعات تهدید در آنتروپیک، به نیویورک تایمز گفت که این یک «وضعیت فوق‌العاده حساس» است.

این گزارش همچنین به شش مورد اشاره کرد که در آنها از کلاود «برای توسعه نرم‌افزار سلاح‌های متعارف، از جمله سلاح گرم، موشک، پهپادهای مسلح، بمب و سایر مهمات، و همچنین سیستم‌های هدف‌گیری و کنترل که آنها را به کار می‌اندازند» استفاده شده است.

این گزارش نشان داد که مجرمان سایبری و هکرهای تحت حمایت دولت‌ها به طور فزاینده‌ای از فناوری آن برای کمک به عملیات خود استفاده کرده‌اند.

گروه هکری شاینی‌هانترز و همچنین آزمایشگاه‌های مستقر در چین از جمله مواردی بودند که در این گزارش از آنها نام برده شده است.

در این گزارش همچنین آمده است که یک گروه هکری که کارش با گروه سایبری میدنایت بلیزارد مستقر در روسیه مطابقت دارد، ظاهرا از هوش مصنوعی برای ساخت سیستمی استفاده کرده است که به طور خودکار بدافزار خود را شناسایی کرده و کد را تا زمانی که از شناسایی فرار کند، بازنویسی می‌کند. این بدافزارها توسط سیستم‌های دفاعی امنیتی علامت‌گذاری شده بود.

این شرکت مستقر در کالیفرنیا اعلام کرد که یافته‌های خود را در فرآیندهای خود گنجانده است « تا در آینده از این فعالیت‌ها بهتر جلوگیری شود و این فعالیت‌ها شناسایی شود.»

شرکت آنتروپیک اعلام کرد که در صورت لزوم، اطلاعات را با مقامات و شرکای صنعتی به اشتراک گذاشته است.

گزارش تکمیلی: لورا کرس، خبرنگار فناوری بی‌بی‌سی و ناردین سعد