خب بچه‌ها بیاید درباره دنیای عجیب و غریب اینترنت امروز با هم گپ بزنیم! الان اوضاع جوری پیش رفته که مثلاً دخترای نوجوان دیگه نمی‌تونن تو ردیت (Reddit یعنی یه سایته واسه بحث و تبادل نظر در مورد همه چی) راحت و بی‌دردسر درباره‌ی قاعدگی (پریود شدن، همون دوران ماهیانه) مطلب پیدا کنن یا حتی هنرمندای مستقل نمی‌تونن بازی‌های «بالغ» خودشون رو تو سایت‌هایی مثل Itch.io بفروشن. سانسور همه‌جا حسابی گسترش پیدا کرده و کلی چیز دیگه داره حذف میشه یا فیلتر میشه.
ولی جالبه که همین موقع‌ها، یه مشت میلیاردر و شرکت بزرگ، محصولات خیلی عجیب‌تر و جنجالی‌تری بهت می‌فروشن! مثلاً یه شرکت نظامی (Military contractor یعنی اونایی که ابزار و خدمات برای ارتش تولید می‌کنن!) با $30 دلار در ماه، بهت عکس و فیلم‌های هوش مصنوعی درست می‌کنه که مثلاً تیلور سویفت (همون خواننده معروف آمریکایی)، لباس بالاتنه‌ش رو درمیاره! بدون این‌که اون شخص واقعاً رضایت داشته باشه یا اصلاً کار خنده‌دارتر این‌که طرف اصلاً خبر داشته باشه چی داره اتفاق میفته!
حالا داستان اصلی که این روزا همه درباره‌ش حرف می‌زنن، مربوط به پروژه جدید xAI میشه (xAI همون استارت‌آپ هوش مصنوعی متعلق به ایلان ماسکه که کارش تمرکز روی تولید محتوا با هوش مصنوعیه). این شرکت تازه یه سرویس به اسم “Grok Imagine” راه انداخته که قابلیت تولید عکس و ویدیو با هوش مصنوعی رو داره و یه مود “Spicy” (یعنی تند و تابو شکن، با محتوای جنسی و تحریک‌آمیز) هم براش گذاشتن.
حالا مسئله اینجاست که این ابزار (Grok Imagine) تقریباً هیچ مانعی برای ساخت تصاویر از افراد واقعی نداره. یعنی اگه یه نفر کافی باشه تا اون سامانه بتونه شکل و قیافه‌ش رو تشخیص بده (مثلاً سلبریتی‌ها و افراد مشهور)، شما می‌تونین عکس‌های نرم‌افزاری و حتی پورن‌طوری ازشون بسازین. مثلاً همین مثال تیلور سویفت که گفتم، دقیقاً بر همین اساسه و آدما می‌تونن کلی عکس عجیب و غریب ازش با هوش مصنوعی با پرداخت پول بسازن.
اینا بهش می‌گن deepfake (دیپ‌فیک یعنی عکس یا ویدیویی که با هوش مصنوعی طوری دستکاری میشه انگار واقعی باشه، ولی در اصل ساختگیه). داستان وقتی ترسناک میشه که همه درباره امنیت و حریم خصوصی حرف می‌زنن، اما این‌ور آب میلیونرها و شرکتای بزرگ، دارن از آب گل‌آلود ماهی می‌گیرن!
در نتیجه، الان داریم وارد دنیایی می‌شیم که یه نفر معمولی یا یه دختر نوجوان ممکنه حتی به ساده‌ترین اطلاعات سلامتیش هم دسترسی مناسبی نداشته باشه، ولی ثروتمندا می‌تونن با چند کلیک عکس برهنه مصنوعی از هر آدم معروفی بسازن و بخرن! تازه، مراقبت و نظارت (regulatory bodies یعنی نهادهای دولتی یا رسمی که باید جلوی این سوءاستفاده‌ها رو بگیرن) هم فعلاً نتونستن حسابی کنترل کنن و جلوی این داستانا رو بگیرن.
پس اینطوریه که یه نسل جدید از مشکلات حریم خصوصی، امنیت و سوءِاستفاده‌های پتاسیلی تو اینترنت به وجود اومده و به نظر میاد فعلاً کسی واقعاً برنامه‌ای برای مهار کاملشون نداره!
منبع: +
