اولین نفوذ هوش مصنوعی به یک سامانه دولتی و هک سیستم خدمات درمانی استرالیا

آنتونی آلبانیزی، نخست‌وزیر استرالیا، شرکت «اوپن‌ای‌آی»، سازنده چت جی‌پی‌تی را به‌دلیل تأخیر در اطلاع‌رسانی درباره هک یک وب‌سایت پزشکی دولتی توسط عامل (ایجنت) هوش مصنوعی این شرکت، مورد انتقاد قرار داد. کارشناسان معتقدند این اولین مورد شناخته‌شده در جهان از نفوذ هوش مصنوعی به یک سامانه دولتی است.

آقای آلبانیزی گفت که نگرانی خود را با سم آلتمن، مدیرعامل این شرکت در میان گذاشته است.

این هک که در ماه ژوئن (چهار ماه پیش) رخ داد، به داده‌هایی دسترسی پیدا کرد که به‌صورت عمومی در دسترس نبودند. در واقع این عامل هوش مصنوعی یک درگاه آماری را هک کرد که حاوی اطلاعات خصوصی مربوط به نظام خدمات درمانی همگانی استرالیا بود.

با این حال، مقامات استرالیا می‌گویند که تنها در ماه جاری از این موضوع مطلع شده‌اند.

به نظر می‌رسد شرکت «اوپن ای‌آی» به‌جای این که درباره این موضوع از راه‌های رسمی و مستقیم با دولت استرالیا تماس بگیرد، موضوع را از طریق یک ایمیل عمومی اطلاع داده است؛ در نتیجه، چندین روز طول کشیده تا این پیام به مسئولان مربوطه و مقام‌های بالاتر در استرالیا برسد.

در پاسخ، این شرکت اعلام کرد که تنها در ماه اوت از این هک مطلع شده و برای بررسی آن به زمان نیاز داشته است.

«اوپن ای‌آی» می‌گوید گمان نمی‌رود که اطلاعات یا سوابق هیچ‌یک از بیماران مورد دسترسی قرار گرفته باشد، اما نخست وزیر استرالیا به مدیرعامل این شرکت گفته است که اطلاع‌رسانی درباره این نفوذ بیش از حد طول کشیده است.

آنیکا ولز، وزیر ارتباطات استرالیا، در گفت‌وگو با خبرنگاران در بریزبن، درباره این هک توسط عامل هوش مصنوعی «اوپن ای‌آی» گفت که این اتفاق نمونه‌ای است از این که «شرکت‌های بزرگ فناوری آشکارا احساس می‌کنند می‌توانند هر کاری که می‌خواهند انجام دهند.»

او گفت: «ما می‌خواهیم شرکت‌های بزرگ فناوری در قبال اقداماتشان پاسخگو باشند. ما می‌خواهیم این صنعت دست‌کم برخی استانداردهای پایه ایمنی را در استرالیا رعایت کند. این همان کاری است که من قصد دارم با ارائه طرح مسئولیت مراقبت و حفظ امنیت کاربران در فضای دیجیتال در ماه اکتبر دنبال کنم.»

خانم ولز سال گذشته ممنوعیت استفاده افراد زیر ۱۶ سال از شبکه‌های اجتماعی را در استرالیا به اجرا درآورد. اقدامی که دولت‌های سراسر جهان با دقت آن را دنبال کردند، با توجه به این که کشورها در تلاش هستند تا تأثیرات منفی شبکه‌های اجتماعی را کنترل کنند.

طرح مراقبت و حفظ امنیت کاربران در فضای دیجیتال که او اکنون در تلاش است تصویب کند، شرکت‌های فناوری مانند متا، گوگل و تیک‌تاک را موظف می‌کند به کاربران امکان دهند الگوریتم‌ها را غیرفعال کنند.

اما ایالات متحده از این قوانین پیشنهادی انتقاد کرده و آن‌ها را در حد «سانسور» دانسته است.

هری سکولیچ- خبرنگار بی‌بی‌سی در سیدنی

تا آنجا که کارشناسان در استرالیا اطلاع دارند، حادثه مربوط به عامل‌های هوش مصنوعی «اوپن ای‌آی» در این کشور، اولین مورد نفوذ هوش مصنوعی به یک وب‌سایت دولتی در جهان است.

پیش از این هم مواردی وجود داشته که هکرها به اطلاعات حساس و داده‌های دولتی دسترسی پیدا کرده‌اند، اما تفاوت این مورد در این است که به نظر نمی‌رسد یک انسان مسئول این هک بوده باشد و ظاهراً این اتفاق به‌صورت ناخواسته رخ داده است.

اوایل امسال در تایوان، هکرهای خارجی از عامل‌های هوش مصنوعی استفاده کردند و ظاهراً توانستند به پایگاه‌های داده دولتی نفوذ کنند. اما در استرالیا، به نظر می‌رسد عامل‌های هوش مصنوعی ناخواسته به اطلاعات دولتی نفوذ کرده‌اند.

پروفسور توبی والش از دانشگاه نیوساوث‌ولز به بی‌بی‌سی گفت: «به نظر می‌رسد نفوذ اوپن ای‌آی در استرالیا در مقیاس بزرگ‌تری رخ داده است؛ یعنی صدها یا هزاران عامل هوش مصنوعی درگیر بوده‌اند، نه فقط چند ده عامل. همچنین، اقدام این شرکت از طرف یک کشور دوست و به‌صورت ناخواسته انجام شده، در حالی که مورد تایوان ظاهراً عمدی بوده و از سوی یک کشور خارجیِ متخاصم انجام شده است.»

دکتر راب نیکولز، پژوهشگر ارشد حوزه مقررات و سیاست‌گذاری هوش مصنوعی در دانشگاه سیدنی، گفته است که پیش از این نیز نمونه‌هایی از نفوذ به سیستم‌های خارج از سازمان‌های دولتی وجود داشته است، از جمله حادثه مربوط به نفوذ در شرکت «هاگینگ فیس»

دکتر نیکولز به بی‌بی‌سی گفت: «تمام آزمایشگاه‌های پیشرو در زمینه هوش مصنوعی، از جمله آنتروپیک، اوپن ای‌آی و گوگل جیمنی اخیراً پذیرفته‌اند که عامل‌های هوش مصنوعی آن‌ها از محیط‌های آزمایشی خارج شده‌اند و کارهایی انجام داده‌اند که انتظارش را نداشتند.»