سازنده چت جیپیتی میگوید باتهای اوپنایآی به وبسایت نهادهای دولتی آمریکا نفوذ کردند
منبع تصویر، Getty Images
شرکت اوپنایآی، سازنده چتجیپیتی تایید کرده است که به «دهها» نهاد جهانی هشدار داده که ممکن است وبسایتهایشان تحت تاثیر مداخله رباتهای هوش مصنوعی این شرکت قرار گرفته باشند. این شرکت تاکید کرده که این باتها عملکردی نامناسب داشتهاند.
اوپنایآی اعلام کرد که باتهای هوش مصنوعی تلاش کردهاند از «دولتها، دانشگاهها، نهادهای عمومی و سایر موسسات» از جمله کمیسیون بورس و اوراق بهادار، اداره سرشماری و وزارت آموزش ایالات متحده، اطلاعاتی جمعآوری کنند.
این افشاگریها چند روز پس از آن صورت میگیرد که آنتونی آلبانیز، نخستوزیر استرالیا، اعلام کرد عاملهای اوپنایآی به فایلهای غیرعمومی در وبسایت خدمات درمانی دولتی این کشور دسترسی پیدا کردهاند.
از ماه اوت، نگرانیهای عمومی در مورد پیامدهای بالقوه جدی و حتی تهدیدکننده ناشی از خارج شدن ابزارهای هوش مصنوعی از کنترل انسان، افزایش یافته است.
شرکت اوپنایآی اعلام کرده که دسترسی به بخشی از دادهها توسط عاملهای هوش مصنوعی که در واقع رباتهایی هستند که برای فعالیت نسبتا خودمختار طراحی و آموزش دیدهاند و ماموریتشان یافتن «منابع معتبر اطلاعات عمومی» است، انجام شده است.
اما این شرکت خاطرنشان کرد که برخی از این رباتها فراتر از آن عمل کرده و برای دور زدن تدابیر امنیتی وبسایتها تلاش کردهاند.
برای مثال، این شرکت گفت که عاملهای هوش مصنوعی هنگام تلاش برای دریافت اطلاعات از اداره سرشماری، از ابزارهایی استفاده کردند که مختص توسعهدهندگان نرمافزار است.
اوپنایآی گفته که تمام دادههای دولتی مورد دسترسی باتها، اطلاعاتی عمومی بودهاند.
با این حال، این شرکت اشاره کرده که اطلاعاتی که باتهایش از کمیسیون بورس و اوراق بهادار که نهاد ناظر بر بازار سهام آمریکا و حامی سرمایهگذاران است، دریافت کرده بودند، متعاقبا توسط عاملهای هوش مصنوعی در وبسایت دیگری منتشر شده است. شرکت صاحب چتجیپیتی میگوید این اقدام، عملی برنامهریزینشده و ناخواسته بوده است.
منبع تصویر، Reuters
در موارد دیگری که اوپنایآی روز جمعه فاش کرد، حاکی از آن است که عاملهای هوش مصنوعی این شرکت دادهها را در شرایطی که مجاز نبوده، منتقل کردهاند.
این فعالیت غیرمجاز که دستکم ۵۳ بار تکرار شده، در آن یک عامل هوش مصنوعی تصویری را از فعالیت یک کاربر در چت جیپیتی برداشته و به جای دیگری منتقل کرده است.
این شرکت اعلام کرد که در تمام موارد استفاده و انتقال تصویر کاربر توسط عامل هوش مصنوعی، کاربران پیشتر رضایت خود را برای استفاده اوپنایآی از دادههایش جهت آموزش مدلها اعلام کرده بود.
با این حال این شرکت اذعان کرده که «این شیوه استفاده از دادهها، مناسب نیست.»
این شرکت گفته که نشت تصاویر کاربران پیش از اعمال تدابیر حفاظتی جدید برای آموزش هوش مصنوعی رخ داده است و آها در تلاشاند تا تمام تصاویر کاربران را که به اشخاص ثالث منتقل شدهاند، حذف کنند.
