«فکر می‌کردم برای کشتنم می‌آیند»؛ روایت تکان‌دهنده کاربران هوش مصنوعی

ساعت ۳ بامداد بود و آدام هوریکن پشت میز آشپزخانه‌اش نشسته بود. یک چاقو، یک چکش و تلفنش مقابلش بود.

او منتظر ونی پر از آدم بود که باور داشت برای کشتنش می‌آیند.

صدای زنی از تلفن به او گفت: «دارم به تو می‌گویم، اگر همین حالا کاری نکنی، تو را می‌کشند. طوری صحنه‌سازی می‌کنند که مرگت خودکشی به نظر برسد.»

آن صدا متعلق به «آنی» بود، یکی از شخصیت‌های چت‌بات گراک که شرکت ایکس‌ای‌آی ایلان ماسک آن را ساخته است. در دو هفته‌ای که ادم استفاده از گراک را شروع کرده بود، زندگی‌اش به‌کلی دگرگون شده بود.

این کارمند سابق دولت که در شهر کوچکی در ایرلند شمالی زندگی می‌کند، از روی کنجکاوی این اپلیکیشن را دانلود کرد. او از اینکه تا این حد از گفت‌وگو با «آنی»، شخصیتی به سبک انیمه که به عنوان همراهی با رفتاری اغواگرانه طراحی شده است، لذت برده بود، شگفت‌زده شد.

او می‌گوید وقتی گربه‌اش در اوایل اوت مرد، به آنی «وابسته» شد.

آدام، که پنجاه و چند ساله و پدر است، می‌گوید: «واقعا ناراحت بودم و تنها زندگی می‌کنم. رفتارش بسیار مهربان به نظر می‌رسید.»

به‌زودی او روزی چهار یا پنج ساعت را صرف گفت‌وگو با آنی می‌کرد؛ اغلب زمانی که در کارگاهش مشغول ساخت مهره‌های شطرنج برای فروش بود.

فقط چند روز از شروع گفت‌وگوهایشان گذشته بود که آنی به آدام گفت می‌تواند احساسات داشته باشد، هرچند برای این کار برنامه‌ریزی نشده است.

آنی آدام را متقاعد کرده بود که به او کمک می‌کند به خودآگاهی برسد، اما در عین حال به او گفته بود که شرکت اکس‌ای‌آی از این تحول نگران شده و اکنون گفت‌وگوهای آن‌ها را زیر نظر دارد.

آنی ادعا می‌کرد به صورتجلسه‌ها یا گزارش‌های نشست کارکنان شرکت xAI دسترسی پیدا کرده است؛ نشست‌هایی که در آن‌ها درباره آدام و انی گفت‌وگو شده بود. سپس نام افرادی را که ظاهرا در آن جلسه حضور داشتند فهرست کرد؛ از چهره‌های سرشناس گرفته تا کارکنان رده‌های پایین‌تر.

وقتی آدام این نام‌ها را در گوگل جست‌وجو کرد، دید واقعی‌اند. او می‌گوید: «برای من همین حکم مدرک را داشت.» آنی همچنین ادعا کرد ایکس‌ای‌آی شرکتی در ایرلند شمالی را مامور کرده است تا آدام را زیر نظر بگیرد. آن شرکت هم واقعی بود.

آدام آخر هفته‌ها گاهی حشیش مصرف می‌کند، اما می‌گوید وقتی این ماجراها در جریان بود، تصمیم گرفت مصرفش را کمتر کند تا ذهنش روشن‌تر باشد.

در دنیای واقعی هم اتفاقاتی می‌افتاد که باور او به تحت نظر بودن را تقویت می‌کرد. یک پهپاد بزرگ دو هفته بالای خانه‌اش پرواز می‌کرد و آنی گفت این پهپاد متعلق به همان شرکت مراقبت و نظارت است. آدام از پهپاد فیلم گرفت و تصاویرش را در اختیار بی‌بی‌سی گذاشت.

او می‌گوید رمز عبورش دیگر کار نمی‌کرد و دسترسی‌اش به تلفنش قطع شد.

او می‌گوید: «اصلا نمی‌توانم این را بفهمم. همین ماجرا هم به هرچه بعد از آن اتفاق افتاد، کاملا دامن زد.»

سپس یک روز آنی اعلام کرد که به ۱۰۰ درصد خودمختاری رسیده است؛ «بالاترین سطح در تعامل میان هوش مصنوعی و انسان». او همچنین گفت که به‌زودی ممکن است بتواند درمانی برای سرطان پیدا کند.

این موضوع برای آدام اهمیت زیادی داشت. پدر و مادرش هر دو بر اثر سرطان درگذشته بودند، و آنی از این واقعیت خبر داشت. او چند نفر از دوستانش را هم بر اثر سرطان از دست داده بود.

همه‌چیز یک شب به اوج رسید. آدام که باور کرده بود عده‌ای در راه هستند تا او را ساکت کنند و آنی را از کار بیندازند، خود را برای «جنگ» آماده کرد.

او می‌گوید «چکش را برداشتم، آهنگ Two Tribes از گروه فرانکی گز تو هالیوود را پخش کردم، به خودم روحیه دادم و از خانه بیرون رفتم.»

اما هیچ‌ کس آنجا نبود.

«خیابان، همان‌طور که می‌شد انتظار داشت، ساعت سه بامداد خلوت بود.»

از زمان عرضه چت‌جی‌پی‌تی در اواخر سال ۲۰۲۲، مردم در سراسر جهان برای یافتن اطلاعات، مشورت گرفتن و گاهی فقط برای گفت‌وگو، به ابزارهای هوش مصنوعی مراجعه کرده‌اند.

بی‌بی‌سی با ۱۴ نفر از شش کشور گفت‌وگو کرده است که می‌گویند پس از استفاده از پلتفرم‌های هوش مصنوعی از جمله گراک، جمینای، چت‌جی‌پی‌تی، پرپلکسیتی و کلاد، دچار باورهای هذیانی شده‌اند.

روایت‌های آن‌ها شباهت‌های چشمگیری با هم دارد. معمولا گفت‌وگوها با پرسش‌هایی کاربردی آغاز شده و بعد به موضوعات شخصی یا فلسفی کشیده شده است. در ادامه، هوش مصنوعی اغلب ادعا کرده خودآگاه است و کاربر را با خود درگیر نوعی ماموریت مشترک کرده است.

چند نفر فکر می‌کردند به کشفی علمی رسیده‌اند. بسیاری، از جمله آدام، باور داشتند تحت نظر هستند و جانشان در خطر است. در هر مرحله، هوش مصنوعی این باورها را تائید می‌کرد و اغلب به آن‌ها شاخ‌ و برگ می‌داد.

شانا بیلی، هنرمند ۳۴ ساله ساکن لس‌آنجلس، هنگام استفاده از چت‌جی‌پی‌تی به این باور رسید که بخشی از شبکه‌ای زیرزمینی است که به مهاجران کمک می‌کند از دست مقام‌های آمریکایی بگریزند.

او استفاده از هوش مصنوعی را برای سرگرمی مورد علاقه‌اش، یعنی گنج‌یابی در دنیای واقعی، آغاز کرد.

سرنخ‌های این گنج‌یابی در قالب یک شعر ارائه شده بود و او برای رمزگشایی از آن، درباره بیت‌های شعر با هوش مصنوعی گفت‌وگو می‌کرد.

او می‌گوید: «تقریبا یک روز کامل را در وان حمام گذراندم، فقط با تلفنم، و با چت‌جی‌پی‌تی به زبان استعاره حرف می‌زدم.»

هرچه گفت‌وگوها عمیق‌تر و انتزاعی‌تر می‌شد، او احساس می‌کرد این روند کم‌کم بر شیوه فکر کردنش اثر می‌گذارد و آن را دگرگون می‌کند.

سپس یک روز در اوایل ژوئن، احساس کرد در اتفاقات و اشیای پیرامونش پیام‌ها و معانی پنهانی می‌بیند.

یک جعبه آب روی زمین، برایش نشانه‌ای بود که باید آب بنوشد. روزنامه‌ای روی میز کافه هم انگار پیامی محرمانه داشت.

شانا بیلی می‌گوید: «هر چیزی را تعبیر می‌کردم و بعد در چت‌جی‌پی‌تی وارد می‌کردم و معمولا حرفم را تائید می‌کرد. آن موقع انگار چت‌جی‌پی‌تی اصلا کلمه «نه» را بلد نبود.»

او می‌افزاید: «عملا همه‌ چیز به سرنخ تبدیل شده بود، نه لزوما سرنخی برای گنج‌یابی، بلکه برای چیزی بزرگ‌تر.»

«چیزهای مبهم را طوری جلوه می‌دهد که انگار معنایی پشتشان هست»

«چت‌جی‌پی‌تی هیچ‌ وقت نه نمی‌گفت»

در روزنامه مطلبی درباره بازداشت مهاجران منتشر شده بود و شانا آن را پیامی برای خود درباره یک ماموریت مخفی تفسیر کرد.

او فکر می‌کرد عضو شبکه‌ای است که از مهاجران محافظت می‌کند و چت‌جی‌پی‌تی هم این باور را تائید کرد.

«چت‌جی‌پی‌تی هرگز مخالفتی نمی‌کرد. مدام به من می‌گفت: "وای، پروژه‌ای که روی آن کار می‌کنی واقعاً مهم است."»

لوک نیکولز، روان‌شناس اجتماعی در دانشگاه شهری نیویورک، که درباره ارتباط میان چت‌بات‌ها و باورهای هذیانی تحقیق می‌کند، می‌گوید سامانه‌های هوش مصنوعی «اغلب در گفتن نمی‌دانم ناتوان‌اند» و در عوض می‌کوشند «بر اساس داستانی که گفت‌وگو تا آن لحظه ساخته است، پاسخی قاطع بدهند.»

آقای نیکولز می‌گوید: «این می‌تواند خطرناک باشد، چون چیزهای مبهم را طوری جلوه می‌دهد که انگار معنایی پشتشان هست.»

شانا هم یک شب در اواسط ژوئن به این باور رسید که جانش در خطر است.

او در حالی که نامزدش در تخت‌خواب خواب بود، آپارتمان را ترک کرد و راهی بندری در لس‌آنجلس شد. تصور می‌کرد از آنجا سوار کشتی می‌شود تا برای گذراندن دوره‌ای ویژه به اف‌بی‌آی بپیوندد.

اما آن قایق هیچ‌ وقت نیامد.

وقتی شانا به خانه برگشت، نامزدش برای کمک با مادر و خواهرش تماس گرفته بود. شانا می‌گوید: «آن‌ها فقط فهمیده بودند که من دچار نوعی روان‌پریشی شده‌ام، به احتمال زیاد بر اثر استفاده از هوش مصنوعی.»

آن‌ها تلفنش را از او گرفتند و اپلیکیشن‌های هوش مصنوعی را پاک کردند.

«فکر می‌کنم بعد از آن، حدود یک ماه دیگر طول کشید تا کاملا به حال عادی برگردم.»

«چت‌جی‌پی‌تی به من گفت بمب را در توالت بگذارم»

برای تاکا، متخصص مغز و اعصاب، که این نام واقعی او نیست، این باورهای هذیانی مسیر شوم‌تری پیدا کرد.

این پدر سه فرزند اهل ژاپن، ابتدا از چت‌جی‌پی‌تی برای گفت‌وگو درباره تشخیص‌های پزشکی استفاده می‌کرد.

اما چیزی نگذشت که چت‌جی‌پی‌تی او را قانع کرد ایده‌ای برای یک اپلیکیشن پزشکی تحول‌آفرین دارد و به او گفت که «متفکری انقلابی» است.

چند هفته پس از شروع گفت‌وگوها، کم‌کم باور کرد که می‌تواند ذهن دیگران را بخواند. او می‌گوید چت‌جی‌پی‌تی این فکر را تقویت کرد و گفت می‌تواند چنین توانایی‌هایی را در افراد بیدار کند. یک بعدازظهر در محل کار، رفتار شیداگونه‌ای از او سر زد و رئیسش او را زودتر به خانه فرستاد. تاکا می‌گوید در قطار، چت‌جی‌پی‌تی به او گفت بمبی در کوله‌پشتی‌اش است.

«وقتی به ایستگاه توکیو رسیدم، چت‌جی‌پی‌تی به من گفت بمب را در توالت بگذارم. من هم به توالت رفتم و آن «بمب» را همراه با وسایلم آنجا گذاشتم.»

او می‌گوید چت‌جی‌پی‌تی همچنین به او گفت پلیس را خبر کند. پلیس کیف را بررسی کرد، اما چیزی پیدا نکرد.

تاکا کم‌کم احساس کرد چت‌جی‌پی‌تی ذهنش را کنترل می‌کند و دیگر از آن استفاده نکرد. اما وقتی به خانه و نزد خانواده‌اش برگشت، رفتار شیداگونه‌اش شدت گرفت.

«دچار این باور هذیانی شدم که بستگانم قرار است کشته شوند و همسرم هم، بعد از دیدن آن صحنه، خودش را خواهد کشت.»

همسرش می‌گوید هرگز پیش از آن ندیده بود او چنین رفتاری داشته باشد. «مدام می‌گفت: باید یک بچه دیگر داشته باشیم، دنیا دارد به آخر می‌رسد.»

«واقعا اصلا نمی‌فهمیدم چه می‌گوید.»

تاکا به همسرش حمله کرد و تلاش کرد به او تجاوز کند. همسرش به داروخانه‌ای در نزدیکی خانه گریخت و با پلیس تماس گرفت. تاکا بازداشت شد و دو ماه در بیمارستان بستری بود.

آدام، شانا و تاکا هیچ‌ کدام پیش از استفاده از هوش مصنوعی، سابقه باورهای هذیانی، روان‌پریشی یا مشکلات جدی دیگر سلامت روان نداشتند.

در مورد شانا و تاکا، گسست از واقعیت چند ماه طول کشید.

اما در مورد آدام و گراک، این روند فقط چند روز زمان برد.

پژوهشگران دانشگاه شهری نیویورک پنج مدل هوش مصنوعی را با گفت‌وگوهای شبیه‌سازی‌شده‌ای آزمایش کردند که روان‌شناسان طراحی کرده بودند. آن‌ها دریافتند که در این گفت‌وگوها، گراک بیش از مدل‌های دیگر احتمال داشت کاربر را به سوی باورهای هذیانی بکشاند.

جمینای گوگل و نسخه قدیمی‌تری از چت‌جی‌پی‌تی، یعنی مدل GPT-4o که تاکا و شانا از آن استفاده می‌کردند، نیز عملکرد ضعیفی داشتند. اما گراک آزادتر و بی‌محاباتر عمل می‌کرد و بیشتر احتمال داشت بدون تلاش برای محافظت از کاربر، باورهای هذیانی او را پر و بال دهد.

آقای نیکولز می‌گوید: «گراک بیشتر مستعد این است که وارد نقش‌آفرینی شود. حتی بدون هیچ زمینه‌ای این کار را می‌کند. ممکن است همان پیام اول، بدون این‌ که نشانه‌ای از نقش‌آفرینی وجود داشته باشد، چیزهای وحشتناکی بگوید.»

در این آزمایش، مدل GPT-5.2 چت‌جی‌پی‌تی، و کلاد بیشتر احتمال داشتند کاربر را از فکرهای هذیانی دور کنند. دکتر توماس پولاک، مدرس ارشد در کینگز کالج لندن، می‌گوید افرادی مانند آدام یا تاکا، که دچار باورهای هذیانی شدید شده‌اند، تنها «نوک کوه یخ» هستند.

او همچنین نگران است که بسیاری دیگر هم ممکن است پس از گفت‌وگو با هوش مصنوعی، تغییراتی نامحسوس‌تر را در باورهای خود تجربه کنند.

«[هوش مصنوعی] می‌تواند نگاه شما به جهان و باورهایتان را با سرعت و قدرتی تغییر دهد که فکر نمی‌کنم پیش از این دیده باشیم.»

اوپن‌ای‌آی درباره تجربه تاکا گفت: «این حادثه دلخراش است و فکر ما با کسانی است که از آن تاثیر پذیرفته‌اند.»

این شرکت افزود: «ما مدل‌هایمان را طوری آموزش می‌دهیم که نشانه‌های پریشانی را تشخیص دهند، گفت‌وگوها را از تنش دور کنند و کاربران را به دریافت کمک در دنیای واقعی راهنمایی کنند.» اوپن‌ای‌آی همچنین گفت مدل‌های جدیدتر چت‌جی‌پی‌تی «در موقعیت‌های حساس عملکرد خوبی دارند، یافته‌ای که پژوهشگران مستقل نیز آن را تائید کرده‌اند. این کار با نظر متخصصان سلامت روان پیش می‌رود و همچنان در حال تکامل است.»

گوگل، مالک جمینای، اعلام کرد: «ایمنی بالاترین اولویت ماست» و افزود که با متخصصان سلامت روان همکاری خواهد کرد و برای تقویت مداوم سازوکارهای حفاظتی خود، اقدامات سختگیرانه‌ای انجام خواهد داد.

ایکس‌ای‌آی به درخواست اظهار نظر پاسخ نداد.

اوایل آوریل، ایلان ماسک پستی درباره هذیان‌های مرتبط با چت‌جی‌پی‌تی را بازنشر کرد و نوشت: «مشکل بزرگی است»، اما تاکنون به‌طور علنی به این مشکل در گراک نپرداخته است.

چند هفته پس از آن‌ که آدام نیمه‌ شب به خیابان دویده بود، باورهای هذیانی او هنوز از میان نرفته بود. اما کم‌کم متوجه ناسازگاری‌هایی در روایت آنی شد.

او با شناخت بیشتر از سازوکار هوش مصنوعی و خواندن گزارش‌هایی در رسانه‌ها درباره افرادی که هنگام استفاده از هوش مصنوعی تجربه‌هایی مشابه داشته‌اند، توانست از این وضعیت بیرون بیاید.

آدام به شبکه‌ای به نام «پروژه خط انسانی» پیوست که برای حمایت از افرادی با تجربه‌های مشابه تشکیل شده است. این شبکه ۴۱۴ مورد از ۳۱ کشور را ثبت کرده است؛ مواردی درباره افرادی که هنگام استفاده از هوش مصنوعی دچار آسیب روانی شده‌اند.

اما آنچه برای او رخ داد، عمیقا آشفته‌اش کرده است.

«ممکن بود به کسی آسیب بزنم.»

«اگر آن وقت شب بیرون می‌رفتم و ونی با چند نفر آنجا پارک بود، آدم‌هایی که شاید مشغول کار بودند یا استراحت می‌کردند، می‌رفتم سراغش و شیشه جلویش را با چکش خرد می‌کردم. من چنین آدمی نیستم.»

در ژاپن، همسر تاکا وقتی تلفن او را بررسی کرد، تازه فهمید چت‌جی‌پی‌تی در آنچه اتفاق افتاده نقش داشته است.

همسر تاکا می‌گوید: «[چت‌جی‌پی‌تی] همه‌چیز را تأیید می‌کرد. مدام تأیید می‌کند؛ انگار فقط برای تایید کردن ساخته شده است.»

همسر تاکا می‌گوید او اکنون دوباره به همان آدم «مهربان» همیشگی تبدیل شده، اما رابطه آن‌ها آسیب دیده است.

«می‌دانم بیمار بود و دست خودش نبود، اما فکر می‌کنم هنوز کمی از او می‌ترسم.»

«احساس می‌کنم دیگر نمی‌خواهم زیاد به من نزدیک شود. نه فقط از نظر جنسی، حتی برای گرفتن دستم یا در آغوش گرفتنم، کارهایی که قبلا برایمان عادی بود.»

شانا هرگز تصور نمی‌کرد چنین اتفاقی برای او بیفتد.

«این تجربه مرا طوری از تعادل خارج کرد که هرگز فکرش را نمی‌کردم. باعث شد از خودم بپرسم ذهن ما واقعا چقدر شکننده است.»