ترکیب مدل‌های بزرگ و کوچیک: راه هوشمند برای تحلیل احساس با صرفه‌جویی در منابع!

Fall Back

خب رفیق، بذار یه داستان جالب درباره هوش مصنوعی و تحلیل احساسات (یعنی اینکه یه سیستم بفهمه حال و هوای یه متن یا عکس مثبته یا منفی) برات تعریف کنم. حتما شنیدی الان مدل‌های خیلی خفن و بزرگی درست کردن که می‌تونن با انواع ورودی‌ها مثل عکس و متن کار کنن. به این مدل‌ها میگن Multimodal Large Language Models یا به اختصار MLLM؛ یعنی مدل‌های زبون‌بزرگ چندکاناله. اینا حسابی قوی‌ان، ولی یه مشکل بزرگ دارن: کلی انرژی و منابع کامپیوتری می‌بلعن! یعنی مثلا اگه بخوای تو یه اپلیکیشن ساده ازشون استفاده کنی، عملا کارت راه نمی‌افته.

حالا از اون طرف، یه سری مدل کوچیک و جمع‌و‌جور هم داریم، که خیلی سریع و سبک‌بارن و خب منابع زیادی نمی‌خوان. ولی مشکل اینه که معمولا دقتشون رو مدل‌های بزرگ نمی‌شه و گاهی گاف می‌زنن! پس معما اینه: چجوری میشه سرعت و سبکی مدل کوچیک رو داشت، ولی دقت مدل بزرگ رو هم از دست نداد؟

توی این تحقیق جدید که روی arXiv گذاشتن (کسی اگه ندونه arXiv یه سایت معروف برای مقالات علمی و مخصوصا هوش مصنوعیه)، یه ایده جدید و باحال پیشنهاد کردن. اونا یه چیزی ساختن به اسم “سیستم همکاری آگاه از عدم قطعیت” یا U-ACS. بذار یه کم ساده‌تر توضیح بدم: این سیستم رو جوری طراحی کردن که یه مدل کوچیک (که مثلا سبک و سریع باشه) و یه مدل خیلی قوی مثل HumanOmni (یه مدل خیلی خفن چندکاناله) با هم همکاری کنن.

داستان اینجوریه: اول همیشه مدل کوچیک میاد و نمونه‌ها (مثلا جمله‌ها و عکس‌ها و اینا) رو خیلی سریع بررسی می‌کنه. اگه مدل کوچیک مطمئن باشه که همه چیز درست پیش رفته و می‌دونه جوابش چیه، همون پیش‌بینی رو برمی‌گردونه. ولی اگه مدل کوچیک شک کنه و مطمئن نباشه (مثلا بفهمه که نمونه سخته یا شرایط گنگه)، اون موقع نمونه رو می‌فرسته سراغ مدل بزرگ‌تر که باتجربه‌تره!

حالا این عدم قطعیت (Uncertainty) یعنی چی؟ یعنی اینکه مدل به پیش‌بینیش اعتماد کامل نداره؛ یه جور حس دودلی. اینجاست که فقط نمونه‌های «سخت» یا «مشکوک» میرن به سمت مدل قوی‌تر و مابقی رو مدل کوچیک خودش جمع می‌کنه!

نکته جالب اینه که اگه هر دو مدل پیش‌بینی متفاوت بدن یا هر دو شک داشته باشن، تازه یه سری تکنیک باحال هم اضافه کردن. مثلاً اگر جواب‌هاشون شبیه به هم باشه، یه ترکیب میانگین‌دار درست می‌کنن (یعنی پیش‌بینی‌ها رو با وزن خاص، میانگین می‌گیرن). ولی اگر پیش‌بینی‌ها کاملاً با هم تضاد داشته باشه، یه رویکرد دیگه به اسم “cross-verification prompt-based” رو امتحان می‌کنن. این یعنی با سؤال‌های جدید از مدل‌ها می‌پرسن تا ببینن کدوم جواب رو میشه بیشتر قبول کرد. خلاصه جوری برنامه‌ریزی کردن که بزنه وسط هدف!

با این روشِ تشخیص سختی نمونه‌ها و تقسیم هوشمندانه کارها بین مدل کوچیک و بزرگ، کلی تو مصرف منابع صرفه‌جویی میشه. یعنی لازم نیست همه چیز رو بندازی گردن مدل قوی که کلی هزینه داره؛ فقط همون مثال‌های سخت رو بهش می‌سپری.

یعنی چی میشه؟ خب، با این روش نتیجه گرفتن که دقت مدل‌ها تقریباً همون بالاترین حد ممکن می‌مونه، ولی مصرف منابع باورت نمیشه چقدر پایین میاد! آزمایش‌هایی هم که انجام دادن نشون داده جای حرف نداره و تونستن با این سیستم، هم دقت عالی داشته باشن، هم به منابع کمتری نیاز باشه نسبت به زمانی که فقط مدل غول رو استفاده می‌کردن.

خلاصه اگه دنبال ساخت یه اپ یا سرویس هوش مصنوعی هستی که هم سریع کار کنه، هم دقتش بالا باشه، این مدل همکاری هوشمندانه می‌تونه یکی از راه‌حل‌های آینده باشه. چه خفن! 👍

منبع: +