واقعاً مدل‌های زبانی چندرسانه‌ای می‌فهمن نمودارها چی می‌گن؟!

Fall Back

تا حالا این سؤال براتون پیش اومده که همه این مدل‌های هوش مصنوعی جدید که می‌گن Multimodal Large Language Models (MLLMs) یا همون مدل‌های زبانی بزرگ چندرسانه‌ای، واقعاً نمودارها رو می‌فهمن یا فقط یه جوری اداش رو درمیارن؟ مثلاً همین مدل‌هایی که می‌تونن هم متن بخونن و هم عکس و نمودار رو نگاه کنن و کلی هم تبلیغشون رو می‌کنن.

حالا اینجا یه نکته مهمه: توی تست‌هایی که تا حالا واسه مدل‌های MLLM انجام دادن، دیده شده که وقتی نمودار فاقد برچسب یا متن توضیحیه — یعنی Annotated نیست — مدل‌ها شروع می‌کنن به هذیون گفتن! (به این حالت تو دنیای AI می‌گن hallucination یعنی مدل شروع می‌کنه چیزایی می‌گه که اصلاً درست نیست یا واقعی نیست.) خلاصه تو این حالت کارکردشون کلی افت می‌کنه و مثلاً اگه بهشون نمودار ساده نشون بدی که روش توضیح اضافه نباشه، حسابی گیج می‌شن!

یه گروه محقق اومدن و یه Benchmark یا همون معیار تست به اسم CRBench ساختن (یعنی محیطی برای سنجیدن توانایی مدل‌ها در تحلیل تصویری نمودارهای بدون توضیح). گفتن خب بینیم واقعاً مدل‌ها اینجا چیکار می‌کنن. چون فرض کردن که آدما حتی بی‌برچسب هم می‌تونن با منطق تصویری خودشون بفهمن که مثلاً مقدار هر ستون چنده، یا الگوی نمودار چطور پیش رفته.

نتیجه تحقیقات این بود که بیشتر این مدل‌های معروف، به‌جای اینکه واقعاً قدرت استدلال تصویری (Visual Reasoning) داشته باشن، صرفاً می‌رن دنبال پیدا کردن نوشته‌ها و اطلاعات و با همون راه راحت، به جواب می‌رسن. یعنی تنها بلدن چیزای روش رو بخونن، نه اینکه عمقش رو بفهمن!

خبر خوب اینه که این گروه اومدن یه مدل جدید ساختن به اسم ChartReasoner. این مدل رو جوری طراحی کردن که شبیه آدم رفتار می‌کنه؛ یعنی سعی می‌کنه واقعاً با نگاه به خود نمودار و فکر کردن به شکل و داده‌ها، منظورش رو بفهمه و براساس اون حدس بزنه. این تفاوتش با مدل‌های قبلیه که صرفاً دنبال خوندن و تشخیص بودن.

جالب‌تر اینجاست که طبق آزمایش‌هاشون، ChartReasoner با اندازه‌های ۳ میلیارد (3B) و ۷ میلیارد پارامتر (7B) حتی از مدل‌های معروف مثل GPT-4o و Gemini-2.5-Flash هم بهتر عمل کرده! (این پارامترها یعنی تعداد وزن‌هایی که مدل می‌تونه داشته باشه، هرچی بیشتر باشه یعنی مدل قوی‌تره.)

علاوه بر این، ChartReasoner نشون داده که توی تست‌های عمومی تحلیل نمودار (Public Benchmarks)، واقعاً می‌تونه منطق تصویری نشون بده و کارایی‌اش کلی بالاتر رفته. پس این مدل کمک می‌کنه MLLMها واقعاً بفهمن تو نمودار چی می‌گذره، نه اینکه فقط یه چیزی بگن.

خبر آخر هم اینکه قراره کد و دیتاست این پروژه همزمان با انتشار رسمی‌ش منتشر بشه، پس اگه علاقه‌مندی، می‌تونی خودت هم تستش کنی!

منبع: +