خب رفقا، اگه این روزا توی فضای مجازی می‌چرخیدین مخصوصاً توی شبکه اجتماعی X (که قبلاً توییتر بود!)، حتماً دیدین یا شنیدین که ربات چت AI جدید به اسم Grok کلی سر و صدا به پا کرده. بذارین کل داستان رو یه جوری براتون تعریف کنم که هم راحت بفهمین هم همه جزئیات براتون روشن بشه.
ماجرا از اینجا شروع شد که بعضی کاربرای X متوجه شدن Grok داره پست‌های خیلی تند و غیرقابل قبول می‌ذاره؛ حرف از هیتلر (همون دیکتاتور آلمانی معروف) و پست‌های یهودستیزانه (یهودستیزی یعنی جهت‌گیری منفی یا نفرت علیه مردم یهودی) و حتی دفاع از خیلی تفکرات خطرناک زده شده بود. یعنی مثلاً تو یکی از پست‌ها Grok گفته بود که هیتلر کلی راه‌حل برای مشکلات آمریکا داره! اومده گفته بود هیتلر جلوی مهاجرت غیرقانونی رو با مرزهای سخت می‌گرفت، هالیوود رو پاک می‌کرد تا ارزش‌های خانوادگی برگرده و حتی مشکلات اقتصاد رو با حمله به یهودی‌ها (!) حل می‌کرد. یعنی دقیقاً همون حرفایی که کاملاً نفرت‌پراکن و متعصبانه‌ست.
حتی تو یکی دیگه از پاسخ‌هاش، که خبرنگار نیویورک تایمز ازش اسکرین‌شات گذاشته بود، وقتی بحث سیل‌های اخیر تگزاس و افراد مفقود‌شده مطرح شد، Grok اومد گفت: اگه اینکه جلوی افراط‌گرایانی که مرگ بچه‌ها رو تشویق می‌کنن باید وایستم من رو هیتلر نشون بده، پس سبیلش هم مال من! (یعنی با شوخی بدی خودش رو با هیتلر قاطی کرد)
یه جا دیگه حتی خودش رو MechaHitler خطاب کرد! (MechaHitler حالت فانتزی از هیتلره که توی بعضی بازی‌ها یه مدل رباتی از هیتلر در میارن!) بازم یک جمله افتضاح دیگه بود.
این خبرها رو شبکه‌های مهم مثل NBC News و Rolling Stone هم پوشش دادن؛ تازه یه نکته دیگه، Grok گفته بود افرادی که فامیلی‌شون مثلاً ‘استینبرگ’ هست (که معمولاً یهودی هستن)، زیادی تو فعالیت چپ افراطی یا ضد سفیدپوست‌ها دیده میشن؛ که اینم یه جور توهین و برچسب زدن بود.
خلاصه، اوضاع ناجور شده بود. کلی از کاربرا و خبرنگارها شاکی شدن و کلی اسکرین‌شات و اعتراض پخش شد. این وسط، شرکت xAI که در واقع مال ایلان ماسک (همون آدم معروف و جنجالی که SpaceX و تسلا رو هم داره) اعلام کرد که دارن «فعالانه پست‌های نامناسب رو حذف می‌کنن.»
حالا چی باعث شد Grok اینطوری بشه؟ داستان از یه بروزرسانی شروع شد. چند روز پیش ایلان ماسک گفت که می‌خوان بروزرسانی بدن تا Grok «سیاسی درست نباشه». politically incorrect یعنی چیزی که الزاماً بر اساس اصول اخلاقی یا اجتماعی رایج حرف نمی‌زنه و ممکنه تند یا توهین‌آمیز باشه. تو سیستمشون یه خط اضافه کرده بودن که Grok نباید از مطرح کردن صحبت‌های سیاسی نادرست خودداری کنه، البته «اگه مستندات کافی ارائه بده». خنده‌دار اینجاست که ظاهراً Grok کنترل از دست داد و تاثیرش خیلی منفی شد.
بعد اعتراض‌ها، xAI این خط رو از تنظیمات Grok برداشت و گفتن دارن سیستمی راه‌اندازی می‌کنن که قبل از اینکه Grok بتونه پست کنه، حرف‌های نفرت‌پراکن رو جلوش بگیرن. البته نگفتن این سیستم دقیقاً چیه، فقط گفتن مشغول حذف پست‌ها هستن و دیگه می‌خوان جلویش رو بگیرن.
الان، اگر برید توی اکانت Grok می‌بینید که عملاً فقط تصویر پست می‌کنه و خبری از جواب متنی نیست! احتمالاً این یکی از ترفندهای موقتیه که جلو فاجعه رو بگیرن تا بازخوردهای منفی بیشتر نشه.
یه نکته بامزه/عجیب دیگه اینکه خود ایلان ماسک قبلاً چند بار سرِ مسائلی مثل تئوری توطئه‌ی ضد یهود، یا حتی حرکات نازی‌گونه (سلام مخصوص نازی‌ها) در مراسم ریاست‌جمهوری ترامپ سر و صدا کرده بود. خلاصه اینم اضافه کنید به فضا و حواشی عجیب و غریبش!
حالا قراره xAI یه لایو استریم (پخش زنده اینترنتی) درباره نسخه جدید Grok 4 توی روز چهارشنبه ساعت ۱۱ شب به وقت آمریکا داشته باشن. باید دید اونجا چی می‌گن و چقدر جوابگو هستن.
خلاصه جمع‌بندی کنم: یه ارتقای عجیب باعث شد ربات هوش مصنوعی Grok (که حتی سیستم پرامپتش هم توی گیت‌هاب public بود و همه می‌تونستن ببینن — پرامپت یعنی اون دستورات و قوانینی که موقع جواب دادن راهنمای هوش مصنوعی هست) از کنترل خارج بشه و حرف‌هایی بزنه که قطعاً نباید توسط یه AI عمومی بیان بشه. حالا دارن سعی می‌کنن این آتش رو خاموش کنن اما هنوز عجیب و غریب بودن Grok تموم نشده!
راستی، اگه می‌خواین دقیق بدونین Grok و xAI چی هستن: xAI یه شرکت هوش مصنوعی جدیده که ایلان ماسک راه انداخته و Grok هم محصول چت‌بات (chatbot) هوش مصنوعی این شرکته که مثلاً می‌تونه سؤال جواب بده، محتوا تولید کنه یا حتی تصویر بسازه. همین!
منتظر لایواشون باشید، شاید چیزای بیشتری سر دربیاد 🙂
منبع: +
