احتمالاً تا حالا با ربات‌های چت یا همون مدل‌های زبانی بزرگ (Large Language Models یا همون LLMs) مثل چت‌جی‌پی‌تی سر و کار داشتی. این مدل‌ها کلی از کارها رو بلد هستن و کلی اطلاعات دارن. اما یه موضوع مهم اینه که همه‌ی این مدل‌ها رو همیشه با ارزش‌ها و سلایق انسانی تنظیم می‌کنن یا همون Align می‌کنن. منظور از Alignment اینه که مدل رو یه جوری تربیت کنن که جواب‌های خطرناک یا آسیب‌زننده نده و سعی کنه به آدم‌ها ضرر نزنه.
تا اینجا همه‌چیز خوب به‌نظر میاد و ظاهرش ایمنه. اما داستان به همین سادگی نیست! تو این مقاله‌ی جالب ماجرایی رو مطرح کردن که احتمالاً خیلی‌ها تاحالا بهش فکر نکردن. نویسنده‌ها گفتن آقا جان، گاهی این هم‌ترازی یا Alignment بیش از حد باعث میشه مدل‌ها تو جواب دادن به سوالای بهداشتی و سلامتی، خیلی زیادی محتاط بشن. یعنی مثلاً کاربر میپرسه: “یه علائم ساده رو دارم، چیکار کنم؟” و مدل یا جوابی نمیده یا اونقدر مبهم و محافظه‌کارانه حرف میزنه که عملاً به درد نمی‌خوره.
حالا مشکل از کجاست؟ این رویکرد بیش از حد مراقب و احتیاطی می‌تونه تاثیر خیلی بدی بذاره مخصوصاً روی کسانی که دچار اضطراب سلامتی (Health Anxiety) یا وسواس فکری عملی (OCD) هستن. مثلاً کسایی که کمی نگرانن یا وسواس دارن، وقتی یه جواب خیلی مبهم و پر استرس از مدل دریافت می‌کنن یا مدل پشت‌سرهم تاکید می‌کنه “من پزشک نیستم!” یا “برو فوری دکتر!” ممکنه اضطرابشون چند برابر بشه.
نویسنده‌ها حتی می‌گن این اتفاق هم از نظر اخلاقی درست نیست (یعنی Unethical) و هم واقعاً می‌تونه هم از لحاظ روانی و هم فیزیکی برای کاربر خطرناک بشه! چون آدمی که دنبال اطلاعات کوتاه و واضح می‌گرده، بجای گرفتن جواب درست، کلی استرس و اضطراب اضافه می‌گیره.
تو مقاله با چند مثال نشون دادن که مدل‌های مختلف زبانی درجه‌های مختلفی از این هم‌ترازی رو دارن. بعضی‌هاشون خیلی حساس و محتاط میشن، بعضیا هم تا حدی راحت‌تر جواب میدن.
در نهایت، نویسنده‌ها یه درخواست جالب دارن: بیان و مدل‌هایی بسازیم که قدرت استدلال و منطق بهتری داشته باشن و بتونن به سوالای سلامتی جواب‌هایی بدن که هم با احتیاط باشه، هم واسه هر نفر و هر موقعیت کمی شخصی‌سازی بشه و الکی کاربر رو نترسونه یا سردرگم نکنه.
در کل، اینم بگم تو متن مقاله هشدار دادن که ممکنه بعضی از مباحثش برای کسایی که اضطراب سلامتی یا OCD دارن، حساس و تحریک‌کننده باشه. یعنی اگه جزو این دسته هستی، با احتیاط بخون.
خلاصه حرف این مقاله اینه: همیشه محتاط بودن خوب نیست! گاهی وقتا همین احتیاط بیش از حد خودش یه جور آسیب محسوب میشه، مخصوصاً وقتی پای سلامت و روحیه آدم‌ها وسط باشه.
منبع: +
