خب رفیق، تا حالا شده یه ویدیو تو یوتیوب ببینی و ته دلت بگی اینی که گفت واقعیه یا نه؟ این روزا تو دنیای دیجیتال، مخصوصاً تو شبکه‌هایی مثل یوتیوب، اطلاعات غلط و شایعات واقعاً مثل برق و باد پخش می‌شن و ملت هم گاهی نمی‌تونن فرق واقعی رو از فیک تشخیص بدن. حالا یه تیم باهوش اومده سراغ این مشکل و یه سیستم باحال ساخته که با کمک هوش مصنوعی دقیقاً همین موضوع رو هدف قرار داده.
این سیستم جدید دو تا دوست باحال داره: Truth Sleuth و Trend Bender. بذار ساده بگم چی کار می‌کنن:
Truth Sleuth (یه جورایی معنی‌ش میشه کارآگاه حقیقت!) کل ویدیو یوتیوب رو زیر و رو می‌کنه و هر ادعایی که مطرح میشه رو پیدا می‌کنه. بعد با روش RAG یا همون Retrieval Augmented Generation سرش رو تو اینترنت می‌کنه (مثلاً می‌ره سراغ ویکی‌پدیا، سرچ گوگل و Google FactCheck که یه سرویس مخصوص بررسی صحت ادعاهاست) تا بفهمه حرفا چقدر درستن. روش RAG یعنی مدل هوش مصنوعی علاوه بر چیزایی که بلده، همزمان می‌تونه اطلاعات جدید رو جمع کنه و جواب به‌روز بده. خلاصه Truth Sleuth کارش اینه که اول خیلی دقیق ادعاها رو جمع‌آوری و بررسی کنه و آخرش یه گزارش توپ، با جزییات و منطقی هم بنویسه.
حالا بعد Truth Sleuth، می‌رسیم سراغ Trend Bender، که عملاً مثل اون دوستت می‌مونه که حتی اگه مهمونی هم باشه، بحث رو تو جمع راه می‌ندازه! Trend Bender این گزارش Truth Sleuth رو می‌خونه، کلی مقاله مرتبط رو می‌گرده و با حسابی مهندسی پرامپت (یعنی دقیقاً چی به هوش مصنوعی بگی که بهترین خروجی رو بگیری) شروع می‌کنه نظر گذاشتن زیر ویدیو — البته نه هر نظری. کامنت‌هایی که Trend Bender می‌نویسه هم باحال و هم اطلاعاتیه، طوری که ملت رو هل بده سمت بحث منطقی و تبادل نظر. هدفش این نیست که حال کسی رو بگیره، بلکه می‌خواد نظرات اشتباه رو به چالش بکشه و گفت‌وگو راه بندازه.
یه نکته جالب دیگه که تو این سیستم دیدم: Trend Bender خودش رو می‌سازه! یعنی یه حلقه بازخورد از خودش داره (بهش می‌گن self-evaluation loop) که مثلاً هر بار یه کامنت جدیدتر و بهتر می‌نویسه تا خروجی‌هاش هی جذاب‌تر و دقیق‌تر بشن. خلاصه با این روش هر دفعه می‌تونه سبک نوشته‌ش رو اصلاح کنه و بیشتر روی ذهن مخاطب اثر بذاره.
این تیم نمی‌خواست فقط روی کاغذ بگه «دیدین چقدر باحالیم؟»؛ اومدن واقعاً این سیستم رو روی دیتاست‌های استاندارد (یعنی مجموعه داده‌هایی که همه تو تحقیقات هوش مصنوعی استفاده می‌کنن) و حتی تو خود یوتیوب تست کردن تا ببینن تو عمل چقد جواب می‌ده. نتیجه چی شد؟ خب، طبق آزمایش‌هاشون، بخش Fact Checking (همون راستی‌آزمایی) دقت خیلی بالایی داشته و تونسته با دقت کم نظیری ادعاها رو بررسی کنه. یعنی واقعاً احتمال خطاش کم بوده. از طرف دیگه، این که یه هوش مصنوعی بیاد تو کامنت‌ها فعال بشه و با کاربرها وارد بحث شه واقعاً موقعیت جالبیه و می‌تونه نظر ملت رو نسبت به اطلاعات غلط عوض کنه یا حداقل باعث بشه بیشتر فکر کنن.
در کل این سیستم دو مرحله‌ای نشون داده که هوش مصنوعی قرار نیست فقط تولید محتوا و فیلتر چهره و دوبله فیلم باشه! واقعاً می‌تونه بره جلوی شایعه و اطلاعات غلط رو بگیره و فضای آنلاین رو آگاه‌تر و سالم‌تر کنه. واقعاً دنیای آینده‌س که ربات‌ها بیان تو کامنت‌ها و به شکل دوستانه و منطقی راهنمایی‌مون کنن. به نظرت جالب نیست؟!
منبع: +
