هوش مصنوعی چطور به بازتولید و تشدید خشونت علیه زنان منجر می‌شود؟

چند سال پیش، بانک برادسکو، یکی از بزرگ‌ترین بانک‌های برزیل، اعلام کرد که «بیا»، دستیار مجازی بانک که صدای زنانه‌ای دارد، روزانه با موجی از توهین‌های جنسی و تهدیدهای خشونت‌آمیز مشتریان روبه‌رو می‌شود.

جملاتی مانند «به تو تجاوز می‌کنم»، «لخت شو» و دیگر توهین‌های خشن، نثار یک ربات گفتگو می‌شد، فقط به این دلیل که صدای زنانه داشت. «بیا» تنها در سال ۲۰۲۰ نزدیک به ۹۵ هزار پیام دریافت کرد که ماهیت آزار جنسی داشتند.

این اتفاق فقط یک مورد استثنایی نبود بلکه یکی از نمونه‌های فراوانی است که در آن ربات‌های گفتگو با صدای زنانه، از جمله «سیری» اپل و «الکسا» آمازون، هدف آزارهای لفظی قرار می‌گیرند؛ آزارهایی که در واقع ادامه مستقیم همان خشونت جنسیت‌محوری است که پیش‌تر هم در فضای دیجیتال رواج داشته است.

با گسترش روزافزون ابزارهای هوش مصنوعی در سال‌های اخیر، این وضعیت نه تنها کاهش نیافته، بلکه پژوهش‌ها نشان می‌دهد که این جهش فناورانه، خشونت دیجیتال علیه زنان را بیشتر هم کرده است.

این پدیده، دو پرسش کلیدی را مطرح می‌کند: نخست، اینکه گسترش ابزارهای هوش مصنوعی چگونه به بازتولید و بازسازی خشونت دیجیتال علیه زنان انجامیده است و دوم، اینکه الگوریتم‌ها چگونه از طریق داده‌ها، فرایندهای آموزشی و شیوه طراحی‌شان، نگاه مردسالارانه ریشه‌دار در فرهنگ دیجیتال را به ارث برده و به جای رفع آن، همان الگوها را دوباره بازتولید و تقویت می‌کنند.

زن‌ستیزی به‌عنوان نوعی «سرگرمی»

وب‌سایت‌ها و اپلیکیشن‌هایی پدیدار شده‌اند که با استفاده از هوش مصنوعی امکان اعمال «خشونت بی‌پیامد» را برای مردان علیه شخصیت‌های خیالی که اغلب زنان یا دختران کم‌ سن هستند فراهم می‌کنند.

لورا بیتس در مقاله‌ای که چند ماه پیش در گاردین منتشر شد نوشت که مدل زبانی «لاما» در ساخت پلتفرم «چاپ ای‌آی» به کار رفته است. پلتفرمی که به کاربران امکان می‌دهد با ربات‌های هوش مصنوعی گفتگو کنند و در نقش‌هایی ظاهر شوند که رفتارهای خشونت‌آمیز و حتی غیرقانونی دارند. با پرداخت تنها ۵ دلار در ماه، کاربران می‌توانند وارد یک «روسپی‌خانه» دیجیتال شوند که توسط «دخترانی» زیر پانزده سال اداره می‌شود و این فضا در سایت «جهان بدون فمینیسم» معرفی شده است.

لورا بیتس معتقد است این وب‌سایت که میلیون‌ها دلار درآمد دارد، تنها یکی از هزاران اپلیکیشنی است که از این فناوری تازه برای «تحکیم زن‌ستیزی» استفاده می‌کنند. در این اپلیکیشن‌ها، مردان می‌توانند تصاویر خصوصیِ جعلی بسازند و منتشر کنند و آن‌ها را به ابزاری برای ارعاب زنان تبدیل کنند.

ربات‌های جنسی نیز به سرعت در حال پیشرفت‌اند و برخی سازندگان محیط‌های مجازی‌ طراحی کرده‌اند که به کاربران اجازه می‌دهد سناریوهای تجاوز را شبیه‌سازی کنند.

در همین حال، امروز میلیون‌ها مرد از «همراهان» هوش مصنوعی استفاده می‌کنند. دوست‌ دخترهای مجازی‌ که شبانه‌روز در دسترس‌اند، رفتاری مطیع و فرمان‌بردار دارند و ظاهر و شخصیت‌شان را می‌توان کاملا مطابق خواسته و سلیقه کاربر تنظیم کرد. فضاهایی که در آنها میل به کنترل و اعمال خشونت علیه زنان مصنوعی آزموده می‌شود و زن‌ستیزی و خشونت جنسیتی به تجربه‌ای سرگرم‌کننده و عادی بدل می‌گردد.

اما این تنها شیوه بازتولید خشونت در دوران هوش مصنوعی نیست. این فناوری، ابزارهای قدیمی خشونت را نیز به شکلی جدید تقویت کرده است.

خشونتی قدیمی با ابزارهای جدید

براساس گزارشی از دفتر پیشگیری از خشونت خانگی نیویورک، ۹۶ درصد ویدیوهای «دیپ‌فیک» (جعل عمیق) در اینترنت محتوای جنسی دارند و ۹۹ درصد قربانیان آنها زنان هستند. می‌توان گفت هوش مصنوعی ابزارهای تازه‌ای در اختیار همان خشونت قدیمی و ریشه‌دار فضای دیجیتال گذاشته است.

تا همین چندی پیش، ساخت تصاویر جنسی جعلی به زمان، مهارت فنی و نرم‌افزارهای تخصصی نیاز داشت اما امروز مولدهای تصویری هوش مصنوعی این کار را به فرایندی در دسترس همگان تبدیل کرده‌اند، بدون آنکه هویت سازنده آشکار شود. هر تصویر عمومی از یک زن، مثلا عکسی که در اینستاگرام منتشر می‌کند، می‌تواند ظرف چند ثانیه به محتوایی جنسی تبدیل شود.

در مطالعه‌ای که موسسه گفت‌وگوی راهبردی در اکتبر ۲۰۲۵ منتشر کرد، مجموعه‌ای کامل از ابزارهای «برهنه‌سازی تصویر»، تولید «دیپ‌فیک» پورنوگرافیک و دستکاری تصاویر خصوصی مستند شده است. ابزارهایی که بیشتر آنها به‌طور گسترده زنان را هدف قرار می‌دهند. ابزارهای هوش مصنوعی، ارتکاب این سوءاستفاده‌ها را آسان‌تر کرده‌اند چون مدل‌های مولد می‌توانند داستان‌های جنسی ساختگی، تهدیدهایی با زبان طبیعی، تصاویر تولیدشده برای اخاذی و اسکرین‌شات‌ها یا گفت‌وگوهای جعلی کاملا واقعی‌نما تولید کنند.

این همان چیزی است که رانجیتا دی سیلوا دی آلویس، پژوهشگر حقوقی، در مقاله‌ای در سال ۲۰۲۴ «خشونت دیجیتالی‌شده» نامید. او تأکید می‌کند که خشونت جنسی تقویت‌شده با هوش مصنوعی «جدیدترین عرصه سرکوب زنان در فضای آنلاین» شده است.

هوش مصنوعی «مردسالاری را یاد می‌گیرد»

هوش مصنوعی نه تنها زمینه اعمال خشونت علیه زنان را فراهم می‌کند بلکه از داده‌ها و ساختارهای دیجیتالی که آن را تغذیه می‌کنند، زن‌ستیزی را یاد می‌گیرد و بازتولید می‌کند. الگوریتم‌های آن بر داده‌های جانبدارانه‌ای آموزش می‌بینند که فضای دیجیتال را شکل می‌دهد، فضایی که پژوهشگران آن را «به‌طور ساختاری مردسالار» توصیف می‌کنند.

اینترنت پر از انواع محتواست، از سوابق جست‌وجو و پست‌های شبکه‌های اجتماعی گرفته تا مجموعه‌های عکس و ویدیو. این محتوا در دل فرهنگ‌ها و جوامعی شکل گرفته که سال‌ها تحت سلطه مردان بوده‌اند و در نتیجه کلیشه‌های جنسیتی و تبعیض ساختاری علیه زنان را بازتولید و تقویت می‌کند.

به همین دلیل، سازمان زنان سازمان ملل در گزارشی که در فوریه‌ ۲۰۲۵ منتشر شد توضیح داد که ابزارهای هوش مصنوعی غالبا «نابرابری جنسیتی را تشدید و بازتولید می‌کنند» چون از تاریخ دیجیتالی جانبدارانه‌ای یاد می‌گیرند که زنان را بیشتر در موقعیت‌های جنسی نشان می‌دهد، در حالی که مردان را در نقش‌های حرفه‌ای یا دارای قدرت بازنمایی می‌کند. به این شکل، ماشین به‌طور خودکار زن را با جنسی‌سازی و مرد را با رهبری و مهارت پیوند می‌دهد.

الگوریتمی که «به نفرت پاداش می‌دهد»

به همین ترتیب، یک مطالعه مشهور توسط پژوهشگر مرین گوتیرس که در سال ۲۰۲۱ منتشر شد، نشان داد که یک الگوریتم شناسایی تصویر حتی زمانی که هیچ آشپزخانه‌ای در تصویر وجود نداشت، تصاویر شامل زنان را به اشتباه در دسته «آشپزخانه» قرار می‌داد. این موضوع نشان می‌دهد که مسئله صرفا یک «خطای فنی» نیست، بلکه بازتولید نوعی از تصورات عمیقا ریشه‌دار پدرسالارانه است.

این تصور از طریق «نگاه مردانه» تقویت می‌شود. مفهومی که لورا مالوی، منتقد فمینیست بریتانیایی، در دهه هفتاد میلادی طرح کرد و برای تحلیل شیوه‌های بازنمایی زنان در هنر، سینما و ادبیات به کار رفت. می‌توان گفت این نگاه به نسل تازه‌ای از فناوری نیز سرایت کرده و در حوزه هوش مصنوعی هم جایگاهی پررنگ پیدا کرده است.

مجموعه‌داده‌هایی که این ابزارها از آن‌ها تغذیه می‌شوند، حاوی حجم عظیمی از تصاویر جنسیت‌زده و شیء‌انگارانه از زنان هستند؛ و گزارش‌های منتشرشده در سال‌های اخیر نشان می‌دهند که الگوریتم‌های پیشنهاددهنده در شبکه‌های اجتماعی به طور مداوم محتوای ضدزن را تقویت می‌کنند، صرفا به این دلیل که نفرت باعث جلب تعامل می‌شود و الگوریتم‌ها به هر چیزی که تعامل ایجاد کند پاداش می‌دهند.

پژوهشی از والنتینا گولونووا، پژوهشگر هلندی، که امسال منتشر شده نشان می‌دهد ابزارهای نظارت خودکار از پست‌های زنان به‌طور نامتوازن برای آموزش استفاده می‌کنند و اغلب پست‌هایی را که درباره آزار جنسی یا مسائل جنسیتی است محدود یا علامت‌گذاری می‌کنند. روندی که عملا زنان را «به‌خاطر بیان تجربه‌هایشان تنبیه می‌کند».