حتماً زیاد شنیدین که تو دنیای امروزی، مخصوصاً تو بخش مالی و سرمایهگذاری، اخبار جعلی چقدر میتونن دردسر درست کنن. مثلاً یکی عمداً یه خبر دروغ درباره یه شرکت بزرگ میزنه و تاثیر مستقیم رو بازار سهام میذاره! این روزها با پیشرفت هوش مصنوعیهای مولد (مثلاً Generative AI یعنی همون هوش مصنوعیهایی که خودشون متن یا عکس تولید میکنن)، این مشکل خیلی جدیتر شده و پخش کردن اخبار جعلی راحتتر از قبل شده.
ولی یه نکته جالب و مهم هست: هنوز دیتابیسهای آزاد و برچسبخوردهای که مخصوص اخبار جعلی مالی باشن کم پیدا میشه. این یعنی مدلهای هوش مصنوعی که میخوان اخبار جعلی مالی رو شناسایی کنن، با کمبود داده خوب مواجهان و خیلی وقتها خوب آموزش نمیبینن یا اشتباه میکنن.
حالا یه تیم اومده یه راهکار جدید معرفی کرده به اسم “FinFakeBERT”. این اسم رو که میبینین، خودش ترکیبی از “Financial” (مالی)، “Fake News” (اخبار جعلی) و “BERT” (یکی از معروفترین مدلهای زبانی هوش مصنوعی گوگل که کارش تحلیل متنه) هست.
توی این پروژه اومدن یه سری داده مخصوص اخبار جعلی مالی رو جمع کردن و مدلی ساختن که میتونه این خبرها رو خیلی خوب تشخیص بده. مثلاً اول مدل رو با دیتای بزرگی از خبرهای جعلی مختلف (نه فقط مالی، بلکه هر موضوعی) آموزش دادن، بعد دوباره با یه سری اخبار مالی واقعی و نهایتاً با یه تعداد اخبار جعلی مالی واقعی، مدل رو ریزتر آموزش دادن (این کار رو تو هوش مصنوعی بهش میگن Fine-tuning، یعنی مدل رو دقیقتر روی موضوع مورد نظر تنظیم و تقویت میکنن).
حالا چرا این روش جواب داده؟ چون اول مدل یه دید وسیع نسبت به کلیت اخبار جعلی گرفته و بعدش با دادههای مخصوص مالی و متخصصتر دقیق شده. نتیجه چی شده؟
نتایج نشون داده FinFakeBERT تونسته فقط ۲.۱٪ اخبار مالی واقعی رو اشتباهی به عنوان جعلی تشخیص بده. حالا مقایسه کنین با بقیه مدلهای معروف تشخیص خبر جعلی که نرخ خطای اونها بین سه تا ده برابر بیشتره! یعنی اونا به نسبت FinFakeBERT خیلی بیشتر اخبار واقعی رو اشتباهی جعلی اعلام میکنن و این برای بازار مالی اصلاً خوب نیست.
کلاً این پروژه نشون میده با ترکیب دیتای درست و مدلهای هوشمند، میشه یه قدم بزرگ واسه مقابله با اخبار جعلی برداشت. مخصوصاً تو حوزه مالی که حتی یه شایعه کوچیک، میلیاردها دلار جابهجا میکنه!
در کل اگر دوست دارین خیالتون راحتتر باشه که خبرهایی که میخونین، واقعیه یا نه، بدونین تکنولوژیهایی مثل FinFakeBERT دارن کمکم راهشون رو به دنیای واقعی باز میکنن!
منبع: +
