اگه اهل شبکه‌های اجتماعی مخصوصاً تیک‌تاک باشی، احتمالاً با کلی ویدیوی سبک بدنسازی و تناسب‌اندام روبه‌رو شدی. اما میدونستی بین اینا یه سری محتواها هستن که خیلی خطرناکن؟ مخصوصاً ویدیوهایی که خیلی مخفیانه به اسم تناسب‌اندام و سلامتی دارن یه جور وسواس خطرناک نسبت به عضله‌ای شدن رو تبلیغ می‌کنن. یه اسم جالب دارن بهش: «بیگورکسیا» یا همون اختلالِ علاقه‌ی بیمارگونه به عضله‌ای بودن، که معمولاً پسرای نوجوان بیشتر باهاش درگیر می‌شن.
حالا مشکل چیه؟ این محتواها طوری ساخته شدن که نرم‌افزارهای تشخیص محتوای مضر به راحتی نمی‌تونن پیداشون کنن. چرا؟ چون فقط یه متن ساده نیستن! طرف مثلاً یه کلیپ باحال با موزیک انگیزشی و ادبیات رمزگذاری‌شده و رمزگذاری‌شده تولید می‌کنه که بیشتر شبیه دمبل‌بازی و سلامت‌پروری می‌مونه تا تبلیغ یه اختلال. برای همین، الگوریتم‌هایی که فقط متن رو چک می‌کنن کلاً گیج می‌شن!
ولی خب یه تیم باهوش دست‌به‌کار شدن و یه چیز خفن ساختن به اسم BigTokDetect. این یه مدل هوش مصنوعی خیلی پیشرفته‌س که راه افتاده مخصوصاً برای همین چالش! مدلشون کاملاً “کلینیکی-محور” هست، یعنی پشتش کلی روانشناس و روانپزشک بودن که دقیقاً می‌دونستن دنبال چی باید بگردن.
قضیه اینه که تیم BigTokDetect اومدن و یه دیتاست باحال درست کردن به اسم «BigTok». مثلاً دیتاست یعنی یه مجموعه داده که توش پر از اطلاعاته. اینها بیشتر از ۲۲۰۰ تا ویدیوی تیک‌تاک رو جمع کردن و دادن به کارشناسا تا با دقت برچسب بزنن — مثلاً این ویدیو درباره «تصویر بدن» (یعنی همون حس و برداشتی که هر کسی نسبت به بدن خودش داره)، اون یکی درباره «تغذیه»، یکی درباره «ورزش»، یه سری هم درباره مکمل‌ها، و دسته آخر هم درباره «مردانگی» بود.
این مدل، اومده و روی این دسته‌ها کار کرده، یعنی با دقتی نزدیک به ۸۳٪ تونسته تشخیص بده هر ویدیو درباره چیه (توی دسته اصلی‌ها). حتی تو تشخیص دسته‌بندی‌های ریزتر هم حدود ۶۹٪ موفق بوده — که برای تشخیص خودکار توی همچین موضوع سختی، انصافاً درصد خوبی به حساب میاد!
یه نکته جالبش اینه که این مدل فقط به متن بسنده نکرده. اومدن تصاویر و ویدیوها رو هم وارد ماجرا کردن — به این کار میگن “مولتی‌مدال” یعنی چندرسانه‌ای. یعنی مدل بجای اینکه فقط توضیحات یا کپشن‌ها رو چک کنه، سراغ تصویر کلیپ و حتی حس‌وحال موزیکش هم می‌ره! با این روش ترکیبی، تا ۱۰ درصد بهتر از روش‌هایی که فقط متن رو می‌خونن عمل کرده. آزمون و خطاهاشون نشون می‌ده که اطلاعات تصویری (یعنی اون چیزی که تو خود ویدیو می‌بینی) از همه بیشتر کمک کرده برای تشخیص درست.
در نهایت چی شد؟ الان BigTokDetect نه فقط یه ابزار برای شناسایی این نوع ویدیوهاست، بلکه یه چارچوب جدید ساختن که می‌تونه به خیلی از حوزه‌های سلامت روان تو فضای مجازی کمک کنه. این یعنی ناظرهای اینترنتی (Regulatory bodies – همون سازمان‌هایی که برای کنترل محتوای خطرناک فعالیت می‌کنن)، می‌تونن با ابزارهای به‌روزتری وارد عمل بشن.
خلاصه اگه یه روزی دیدی یه ویدیوی خیلی خفن و مشکوک درباره بدنسازی تو تیک‌تاک دست به دست می‌شه و فکر کردی شاید پشتش چیزی بیشتر از یه توصیه معمولی باشه، بدون هوش مصنوعی‌ها با BigTokDetect دارن مثل شرلوک هولمز دنبال سرنخ‌های پنهان می‌گردن تا از سلامت جوون‌ها محافظت کنن!
منبع: +
