هشدار دانشمند ارشد اوپن ایآی در مورد هوش مصنوعی؛ آیا از خود هوش مصنوعی میشود برای کنترل هوش مصنوعی استفاده کرد؟
هشدار دوباره درباره خطرهای هوش مصنوعی؛ این بار از سوی یکی از دانمشندان ارشد شرکت اوپن ایآی؛ سازنده چت جیپیتی که میگوید باید برای پیامدهای رشد سریع هوش مصنوعی آماده شد.
جیکوب پاچوکی میگوید هیچ کس برای مقابله با پیامدهای رشد سریع هوش مصنوعی آماده نیست، و این او را نگران میکند.
او گفته اگر قرار است کنترل آینده در دست انسان باشد، باید مقررات جدیتری وضع شود و نظارت بیشتری بر هوش مصنوعی صورت بگیرد.
آقای باچوکی تاکید کرده که دنیا به سمتی میرود که ماشینها در آن بسیار باهوش هستند و گفته باید اطمینان حاصل شود که این تغییرات به نفع انسان است. در ماههای اخیر، انتشار گزارشهایی درباره رفتارهای خودسرانه برخی مدلهای هوش مصنوعی، بحثهای زیادی برانگیخته
گفت و گو با نیلوفر میرعشقالله، استادیار و عضو هیات علمی دانشگاه کارنگی ملون و محقق علوم کامپیوتر و هوش مصنوعی در سانفرانسیسکو را ببینید که تلاش می کند درباره تلاشها در سیلیکون ولی برای پیشگیری از تسلط هوش مصنوعی بر دنیایی که بر اساس هوش انسانی ساخته شده میگوید.
بیشتر بخوانید:
چندی پیش شرکت اوپنایآی اعلام کرد که برخی از پیشرفتهترین مدلهای هوش مصنوعی این شرکت، پس از آنکه در جریان یک آزمایش امنیتی از کنترل خارج شدند، به یک شرکت نوپا (استارتاپ) نفوذ کردند.
شرکت سازنده چتجیپیتی اعلام کرد که عامل هوش مصنوعی (ایجنت) این شرکت ــ سامانهای که پس از دریافت دستور از انسان میتواند بهطور مستقل عمل کند ــ در یک محیط کنترلشده تحت آزمایش بود، اما پس از شناسایی نقاط ضعف، توانست از محدودیتهای تعیینشده برای این آزمایش فراتر برود.
آنها شرکت «هاگینگ فیس»، یکی از بزرگترین بسترهای جهان برای اشتراکگذاری مدلهای هوش مصنوعی را هدف قرار دادند و توانستند به برخی از سامانههای داخلی این شرکت دسترسی پیدا کنند.
اوپنایآی این رویداد را «بیسابقه» توصیف کرده و گفته است که همراه با هاگینگ فیس در حال بررسی آن است. کلمن دلانگ، مدیرعامل هاگینگ فیس، نیز در پیامی در شبکه اجتماعی ایکس نوشت: «اینکه همه این اتفاقها بهصورت خودکار رخ داده، حیرتانگیز است.»
این رویداد بار دیگر پرسشهایی را درباره تواناییهای سامانههای پیشرفته هوش مصنوعی و این موضوع مطرح کرده است که آیا با قدرتمندتر شدن این فناوری، تدابیر حفاظتی موجود همچنان کافی هستند یا نه.
اسپنسر استارکی، از مدیران شرکت امنیت سایبری سونیکوال، به بیبیسی گفت این رویداد به روشنی نشان میدهد که سازمانها باید دفاع سایبری خود را «ارتقا دهند» و «تابآوری سایبری را به یکی از اولویتهای اصلی عملیاتی خود تبدیل کنند.»
او گفت: «واقعیت ناخوشایند این است که شمار زیادی از سازمانها همچنان با سرعت انسان از خود دفاع میکنند، در حالی که مهاجمان با سرعت ماشین در حال پیشروی هستند.»
بیشتر بخوانید:
