یه خبر باحال براتون دارم! یه پروژه جدید اومده به اسم Mentalic Net که واقعاً همه رو هیجانزده کرده. داستان از اونجایی شروع میشه که مدلهای زبانی خیلی بزرگ یا همون Large Language Models (LLMs) شروع کردن دنیا رو تکون دادن. منظورم همون هوش مصنوعیهای باحالیه که میتونن مثل آدم باهات حرف بزنن و هرچی ازشون بپرسی جواب بدن.
حالا، کلی آدم اومدن گفتن اینها کلی امکانات دارن، ولی خب دردسر و چالش هم کم ندارن! پس یه تیم خفن تصمیم گرفت با استفاده از این تکنولوژی یه چتبات مخصوص مشاوره روانی بسازه که اسمش رو گذاشتن Mentalic Net.
هدفشون این بود که این چتبات کنار مشاور و دکترای واقعی کار کنه و کمک کنه، نه اینکه جای اونارو بگیره. یعنی یه جور مکمل واسه مشاوره حرفهای. این پروژه خیلی روش حساسیت دارن و فقط دنبال این نبودن که یه چیزی بسازن، مثلاً تأکید زیادی داشتن روی اینکه هوش مصنوعیشون امن و کاربردی باشه و حرف درست بزنه.
واسه این کارشون هم یه چارچوب خاص استفاده کردن به اسم RAG یا Retrieval-Augmented Generation. حالا یعنی چی؟ این یعنی هوش مصنوعیشون وقتی میخواد جواب بده، فقط از ذهن خودش کمک نمیگیره؛ میره سراغ اطلاعات جدید و مطمئن، جمعآوری میکنه و بعد یه جواب هوشمندانه، تازه و قابل اعتماد میسازه.
موضوع خفن دیگهای که روش کار کردن، چیزی به اسم Prompt Engineering بود؛ یعنی بلد بودن چطوری خیلی درست و دقیق سؤال رو از هوش مصنوعی بپرسی تا جواب خوب بگیری. تازه، مدلشون رو روی یهسری داده تازه و خاصتر که خودشون آماده کرده بودن، به اصطلاح Fine-tune کردن، یعنی یه آموزش اضافه بهش دادن که حتی بهتر جواب بده.
ولی خب فقط ساختن مهم نبود. یه عالمه آزمایش و ارزیابی هم کردن تا مطمئن بشن:
- دقت جوابها بالاست
- پای همدلی وسطه (یعنی جوابها با احساس و همدردیان)
- بشه بهش اعتماد کرد
- حریم خصوصی آدمها حفظ میشه
- هیچ تعصبی یا Bias تو جوابها نباشه (Bias یعنی هوش مصنوعی نسبت به یک گروه یا موضوع غرض نداشته باشه)
نتیجهش چی شد؟ چتباتشون تو BERT Score شده 0.898 (BERT Score یکی از روشهاییه که میسنجن چقدر جوابهای هوش مصنوعی به جواب ایدهآل شبیهن). بقیه معیارها هم گفتن توی محدوده قابل قبوله و اوکی بوده.
آخرش هم میگن بچهها، این تکنولوژیها خیلی قدرت دارن، ولی خودمون باید همیشه حواسمون باشه و آدمها هنوز باید تو روند مشاوره حضور داشته باشن (به این میگن Human-in-the-loop یعنی آدمها هم کنارش باشن و کنترلش کنن). خلاصه، نباید این ابزارها رو همینجوری ول کنیم چون اگه درست مدیریت نشن، دردسر درست میکنن.
در کل، Mentalic Net قراره کلی زندگی رو تغییر بده، ولی خودشون روی مسئولیتپذیری تأکید دارن و دنبال راه درازمدت و درست پیش رفتن با این تکنولوژیها هستن. خلاصه، یه گام جدید و جالب تو حوزه هوش مصنوعی و سلامت روان برداشته شده!
منبع: +
