حتماً خبر ساختگی تماس تلفنی بایدن که فکر میکردن خودشه، ولی در واقع هوش مصنوعی تولیدش کرده بود رو شنیدین. این اتفاق ژانویه ۲۰۲۴ توی نیوهمشایر افتاد و حسابی همه رو شوکه کرد. اما راستش رو بخواین، الان اون تقلب با ابزارای امروزی، برامون خیلی ساده و پیشپاافتاده به نظر میاد! چون الان تکنولوژیهایی مثل OpenAI Sora باعث شدن ساخت ویدیوهای تقلبی و خفن خیلی راحتتر و واقعیتر از قبل بشه. یعنی عملاً هر کسی میتونه یه پیام تصویری یا صوتی کاملاً قانعکننده از طرف هر آدم معروف یا سیاستمداری بسازه.
ولی، این فقط نصف ماجراست! اصل نگرانی اینه که هوش مصنوعی فقط تقلید نمیکنه؛ خیلی حرفهای داره قانعمون میکنه. تازه تحقیقات جدید هم نشون دادن که چتباتهای هوشمند تونستن نظر رایدهندهها رو خیلی بیشتر از تبلیغات سنتی سیاسی تغییر بدن! یعنی دیگه فقط بحث جعلِ صدا یا تصویر نیست، موضوع اصلی اینکه هوش مصنوعی میتونه بفهمه هرکسی چه چیزی بیشتر روش جواب میده و دقیقاً همون رو بهش بگه.
الان کافیِ یه تیم هوش مصنوعی داشته باشین: یکی پیام رو مینویسه، یکی تصویر میسازه، یکی هم پخش میکنه و بازخورد میگیره. یعنی بدون دخالت انسان، یه ماشین قانعسازی تمامعیار میسازه! قبلاً برای تأثیرگذاری آنلاین باید کلی آدم فیک درس میکردن (بهش میگن meme farm، یعنی مزرعه شایعهسازی). ولی الان همه اینا با هوش مصنوعی و خودکار انجام میشه.
اما قضیه داغتر میشه وقتی بدونین این کار چقدر ارزونه – مثلاً با کمتر از یک میلیون دلار میشه پیام شخصیشده و قانعکننده برای هر رایدهنده در آمریکا فرستاد! بیاین حساب کنیم: آمریکا حدود ۱۷۴ میلیون رایدهنده داره. اگه فقط ده گفتگو با هر نفر باشه (معادل حدود ۲۷۰۰ توکن، یعنی متن)، به نرخ فعلی API چتجیپیتی، هزینه کل زیر ۱ میلیون دلار درمیاد! حتی اون ۸۰ هزار رایدهندهای که انتخابات ۲۰۱۶ رو تعیین کردن رو با کمتر از ۳ هزار دلار هدف میگیرن!
همین الان تو انتخابات کشورهایی مثل هند و تایوان هم این فناوری استفاده شده. مثلاً تو هند، میلیونها دلار صرف شد تا با هوش مصنوعی رایدهندهها رو دستهبندی کنن، پیام شخصی براشون بفرستن یا حتی تماس رباتی بگیرن. تو تایوان، سندهایی هست که نشون میده چین با هوش مصنوعی تولید محتوا و شایعات خیلی حرفهایتری انجام داده که بهش میگن Generative AI، یعنی هوش مصنوعی که خودش میتونه متن یا ویدیو بسازه.
اینکه تو آمریکا انتخابات خیلی بزرگتر و حساستره، باعث میشه ریسک این جریان خیلی زیاد باشه. اگه امریکا زود دست به کار نشه، شاید انتخابات بعدی رو هر کسی که اول بتونه قانعسازی اتوماتیک راه بندازه، میبره!
یه تحقیق جدید نشون داده GPT-4 (که یکی از پیشرفتهترین مدلهای زبانه) میتونه تو بحثای سیاسی، از متخصصهای واقعی هم اثرگذارتر باشه! حتی تو گفتگوهای کوتاه با رایدهندهها تونسته نظرات رو تا ۱۰ درصد تغییر بده، و اگه مدل رو برای قانعکردن بهینه کنی، این عدد تا ۲۵ درصد هم میره! فکر کنین چهار برابرِ اثر تبلیغات سنتی انتخابات آمریکاست!
یادمون باشه الان مدلهای منبعباز یا open-source هم هستن که هرکسی میتونه رایگان دانلودشون کنه. (open-source یعنی مدلهایی که کدشون و طرز کارشون برای همه بازه و محدودیتی نداره.) شاید به قدرت مدلهای پولی نرسن، ولی با یه کم دستکاری و آموزش میتونن به بازدهی خیلی خوبی برسن.
موضوع وقتی نگران کنندهتر میشه که ملتها یا حتی گروههای کوچک، میتونن بهراحتی از این مدلها برای راه انداختن کمپینهای قانعسازی گسترده استفاده کنن. حالا دیگه کشورهای رقیب آمریکا مثل چین، روسیه یا ایران از قبل شبکههای بوت و اکانت فیک ساختن. فقط کافیه همین مدلهای زبانی رو بندازن وسط تا همه کارها اتومات و قویتر پیش بره. مثلاً مدل رو جوری تنظیم میکنن که مث یه رهبر اصناف تو یه محله یا حتی یه مامان دلسرد آمریکایی حرف بزنه، بدون اینکه انسانی اونجا حضور داشته باشه!
از اون سمت، قانونگذارهای آمریکایی هنوز کلی عقب افتادن. فقط به deepfakeها گیر دادن (deepfake یعنی ویدیو یا صوت قلابیِ خیلی واقعی)، ولی ندیدن که هوش مصنوعی داره روند قانعسازی کلان رقم میزنه. اروپا البته جدیتر گرفته و تو قانون جدید AI Act خودش، هر استفاده هدفمند از هوش مصنوعی برای شکل دادن به نظر رایدهندهها رو «ریسک بالا» اعلام کرده و قوانین سختی گذاشته. ولی آمریکا هنوز قانون کامل و حسابی نداره و بیشتر تصمیم رو گذاشته گردن خود پلتفرمها.
الان گوگل و متا (فیسبوک سابق) قوانین مشخصی دارن که اگر تبلیغ سیاسی با هوش مصنوعی درست شده باشه باید اعلام بشه، ولی این قوانین خیلی ناقص و محدودن. مثلاً فقط به تبلیغات خریدنی دسترسی دارن؛ کسی که پست معمولی یا یه چت قانعکننده از طرف یه چتبات بسازه رو تقریباً نمیتونن شناسایی کنن!
پیشنهاد مقاله اینه که نیازی نیست هوش مصنوعی رو کلاً از سیاست حذف کنیم. حتی میشه ازش برای شفافتر حرف زدن کاندیداها یا توضیح صریح سیاستها به مردم استفاده کرد. اما برای اینکه ماجرا از کنترل خارج نشه، باید چند تا کار جدی کرد:
۱. باید مراقب تکنولوژیهای سیاسی وارداتی باشیم که هوش قانعسازی توشون جاسازی شده. مثلاً شاید یه بازی کامپیوتری خارجی بیاد که قهرماناش هی پیام سیاسی به کاربر بدن!
۲. باید قوانین و استانداردهای شفاف و بینالمللی تنظیم کنیم تا هر شرکتی تو آمریکا نتونه هر مدل قانعساز رو راحت بسازه یا اجاره بده.
۳. باید بدونیم دشمنان خارجی مطمئناً سعی میکنن این قوانین رو دور بزنن؛ پس سیاست خارجی هوشمند و توافق بینالمللی میخواد تا اگر یه کشور خارجی سعی در تاثیرگذاری انتخاباتی با هوش مصنوعی کرد، تحریم و افشا بشه.
در نهایت، همه ما باید بدونیم که تأثیرگذاری باهوش مصنوعی، هم ارزون شده هم خیلی مؤثرتر. پس یه واکنش جدی و هماهنگ نیازه، چون اگر صبر کنیم تا علناً اتفاق بیفته، شاید واسه تغییر دیگه دیر باشه!
(نویسندگان اصلی مقاله، Tal Feldman و Aneesh Pappu هستن که زمینه تخصصیشون در تکنولوژی و سیاستگذاری هوش مصنوعیه و تجربه کار توی شرکتهای بزرگ و دولتی رو دارن.)
منبع: +
