این روزها اگه یه چرخی تو تیک‌تاک بزنین، ممکنه به یه سری ویدیو که با هوش مصنوعی ساخته شدن برخورد کنین که واقعا حسابی دردسرساز شدن و کلی بازدید گرفتن. اخیراً یه موسسه نظارتی به اسم Media Matters (که کارش اینه رسانه‌ها رو بررسی و کنترل کنه تا محتوای خطرناک و اشتباه رو شناسایی کنه) اعلام کرده که یه عالمه ویدیوی نژادپرستانه ساخته‌شده با هوش مصنوعی (AI) داره تو تیک‌تاک پخش میشه و بعضیاشون میلیون‌ها بازدید دارن.
جالب اینجاست بیشتر این ویدیوها با ابزاری به اسم Veo 3 ساخته شدن که از محصولات جدید گوگل حساب میشه. Veo 3 یه ابزار تولید ویدیوی مبتنی بر هوش مصنوعیه که فقط با تایپ کردن یه متن ساده، برات ویدیو و حتی صدا می‌سازه. (یعنی مثلاً می‌نویسی “یه گربه تو خیابون”، خودش ویدیو رو می‌سازه!) Veo 3 حدوداً تو ماه مِی همین امسال راه‌اندازی شد و اگه ویدیوها رو ببینین، گوشه‌شون یه واترمارک با اسم Veo گذاشته شده که نشون میده با همین ابزار تولید شدن.
بعضی از این ویدیوهای نژادپرستانه رکورد رو زدن! مثلاً یکی‌شون تو تیک‌تاک ۱۴.۲ میلیون بازدید خورده، و سازنده‌هاش با هشتگ‌ها و کپشن‌هایی مثل “Veo3” یا “AI” هم مشخص کردن این ویدیوها با هوش مصنوعی ساخته شدن. اکثر این کلیپ‌ها خیلی کوتاه هستن و معمولاً هر قطعه‌شون کمتر از هشت ثانیه‌س، چون Veo 3 فعلا بیشتر از هشت ثانیه ویدیو نمی‌تونه بسازه.
در مورد محتوای این ویدیوها، واقعا بحث نژادپرستی داره به شکل خیلی جدی مطرح میشه. بیشتر این محتواها مستقیم یا غیرمستقیم سیاه‌پوست‌ها رو هدف قرار دادن، با کلی کلیشه‌های نژادی زشت. حتی بعضی گزارش‌ها هست که بیانگر حضور محتوای ضدیهودی و انتقادات نژادپرستانه علیه مهاجرها و آسیایی‌ها هم تو این ویدیوها دیده میشه.
این وسط گوگل گفته که تو سایت خودش نوشتن هرگونه درخواست یا نتیجۀ آسیب‌زننده رو بلاک میکنن. (یعنی مثلاً اگه کسی بخواد یه ویدیوی توهین‌آمیز بسازه، اجازه‌ش رو نمی‌ده) امّا خب فعلا این حجم ویدیو نشون میده مثل اینکه یا سیستمشون هنوز کامل نیست یا مردم دورش میزنن.
تیک‌تاک هم قانون سختی گذاشته که هر نوع محتوای نفرت‌انگیز یا رفتار توهین‌آمیز، جاش تو این پلتفرم نیست و حتی ویدیوهایی که حاوی کلیشه منفی نسبت به یه فرد یا گروه خاص هستن، اصلاً تو صفحه پیشنهادها نمایش داده نمیشن. خودشون هم اومدن تو یه بیانیه اعلام کردن: «ما قوانین محکمی داریم و به صورت فعالانه با محتوای نفرت‌پراکن برخورد میکنیم. حساب‌هایی که تو گزارش Media Matters پیدا شدن رو حذف کردیم، که خیلی‌هاشون قبل از این گزارش هم مسدود شده بودن.» پس تیک‌تاک داره نشون میده جلوی این ویدیوها وایستاده.
با تمام این حرف‌ها فقط تیک‌تاک نیست که گرفتار شده؛ گزارشی بوده که بعضی از این ویدیوها با بازدید کمتر تو یوتیوب هم منتشر شدن و سایت Wired هم ویدیوهای مشابهی تو اینستاگرام دیده. خلاصه مشکل فقط به یه شبکه اجتماعی محدود نیست و مثل اینکه این محتوای نامناسب داره از یه جا به جای دیگه می‌ره.
در نهایت و با وجود همه این تلاش‌ها، هنوز مشکل به صورت کامل حل نشده و گوگل هم فعلاً جواب روشنی به رسانه‌ها نداده. یه جورایی داره نشون میده شبکه‌های اجتماعی خیلی سرعت عملشون کمه یا ابزارهای فیلتر و کنترلشون هنوز خیلی قوی نشده. مخصوصاً حالا که هوش مصنوعی (AI) دیگه کارو کلی راحت و سریع کرده و هرکسی می‌تونه فقط با نوشتن یه جمله، ویدیوی دلخواهش رو با هر محتوایی بسازه (Generative AI یعنی همین تکنولوژی که خودش می‌تونه محتوا تولید کنه).
فعلاً چی باید بدونیم؟ اول اینکه مراقب باشین هر چیزی که تو فضای مجازی می‌بینین، حتی اگه ویدیو باشه و طبیعی به نظر بیاد، ممکنه با یه ابزار هوش مصنوعی ساخته شده باشه. دوم اینکه دنیای هوش مصنوعی عجب چیز خفنیه، ولی باید حواسمون جمع باشه که انتخابامون آدم‌دوستانه باشه چون تاثیر و بردش رو همه می‌تونه بذاره!
منبع: +
