تا حالا شده فکر کنی این سیستمهای هوش مصنوعی که هی دارن وارد دنیای پزشکی میشن، چطوری باید قابل اعتماد باشن؟ مخصوصاً وقتی بحث بیماریهای مزمن مثل نارسایی قلبی وسطه که واقعاً جون خیلیها بسته به تصمیمات پزشکهاست و تعداد مراجعهها و بستریهای دوباره رو هم زیاد میکنه. تازه فشارش هم رو دوش سیستم درمانی و به خود بیمارا میافته!
تو سالهای اخیر با پیشرفت هوش مصنوعی و مخصوصاً بحث “تله-مونیتورینگ” (یعنی نظارت از راه دور بیمارا با کمک تکنولوژی)، یه امیدی به وجود اومده که شاید بشه زودتر مشکلات رو تشخیص داد و جلوی بدتر شدن اوضاع رو گرفت. اما یه مشکل اساسی هست: خیلی از این مدلهای هوش مصنوعی حکم “جعبهسیاه” رو دارن، یعنی همهچی توشون مبهمه و پزشکها دقیق نمیدونن چطور به این نتیجه رسیدن. خب طبیعتاً این واسه پزشکها اعتماد رو سخت میکنه. اینجاست که بحث “هوش مصنوعی توضیحپذیر” یا همون XAI وارد معرکه میشه— منظورش اینه که هوش مصنوعی اونقدر شفاف توضیح بده که همه بفهمن چطور به این تصمیم رسیده.
یه تیم پژوهشی اومدن بررسی کنن پزشکهای قلبی (تو آلمان) دقیقاً چی از توضیحات این مدلهای هوش مصنوعی میخوان. اونا یه سناریوی هشدار زودهنگام برا اینکه اگه بیماری قلبی داره بدتر میشه از رو دادههای آزمایشگاهی (یعنی دادههای جدولطور از جواب آزمایشا)، مدل بالاخره چه توضیحی بده که پزشک راضی باشه. برای تست هم سه نوع توضیح معروف رو آورده بودن:
-
SHAP = SHapley Additive Explanations: این روش بازم یه مدل ریاضی داره، ولی خلاصهش اینه که به شکل تصویری نشون میده چه عواملی تو تصمیم مدل بیشترین نقش رو داشتن. پزشکها باهاش راحتتر بودن، چون گرافیکی و قابل درک بود.
-
CFEs یا Counterfactual Explanations: این یعنی میاد میگه “اگه یکم این پارامتر تغییر میکرد، نتیجه مدل تغییر میکرد”. مثلاً میگه اگه پتاسیم خون بیمار یکم کمتر بود، پیشبینی بدتر شدن بیماری دیگه داده نمیشد. پزشکها اینو دوست داشتن چون انگار راهحل عملی نشون میده، ولی گفتن باید خیلی مراقب بود که اینا رو درست تفسیر کنن و محدودیتاش رو بدونن.
-
Anchors یا لنگرها: این روش تقریباً خلاصهترین حالت توضیحه، مثلاً میگه “بهخاطر این تست و اون علامت به این تصمیم رسیدم”. پزشکها گفتن خیلی سطحیه و کافی نیست خب!
بعد از مصاحبه با ۱۵ تا پزشک متخصص قلب مشخص شد که هیچکدوم از این روشها کامل رضایتبخش نبود؛ هر کدوم یه بخشی از نیازا رو جواب میدن. توی عمل بهترین حالت اینه که مثلاً یه طراحی لایهلایه داشته باشیم: اولش یه توضیح سریع و دمدستی برای وقتی عجله داری، بعد اگه خواستی عمیقتر بشی، جزئیات بیشتری برات قابل دسترس باشه. این باعث میشه پزشکها هم حس کنترل کنن هم به مدل اعتماد کنن.
در کل اگر قراره تو کار پزشکی، مخصوصاً نارسایی قلبی که داستانش حساسه، از هوش مصنوعی استفاده بشه، باید مدل واقعاً بلد باشه خوب توضیح بده که چرا همچین چراغ خطری داده یا چرا این تصمیم رو گرفته. خلاصه، شفافیت تو مدلهای هوش مصنوعی نه فقط یه آپشن، که یه الزام اساسیه، مخصوصاً وقتی حرف جون آدمهاست!
منبع: +
