حالا فرض کن رفتی واسه وام یا شغل یا پذیرش دانشگاه و یه سیستم هوش مصنوعی (AI یعنی همون مغز کامپیوتری که این روزا همه‌جا دارن ازش استفاده می‌کنن!) بدون اینکه بفهمی چرا، جوابتو رد میکنه. خیلیا این روزا از این مشکل شکایت دارن، چون تصمیم‌هاش مثل یه جعبه سیاهه: “چرا من؟ دلیلش چیه؟ چی می‌تونستم تغییر بدم که نتیجه متفاوت باشه؟” اینجاست که ایده «algorithmic recourse» وارد میشه. یعنی چی؟ یعنی بهمون یه مسیر نشون بده که اگه یه سری چیزای کوچیک (مثلاً معدل یا مهارتمون) رو تغییر می‌دادیم، سیستم رو راضی می‌کردیم که جواب مثبت بده.
اما داستان به همین سادگی که فکر می‌کنیم نیست. اکثراً فقط آخرِ مسیر رو نشون میدن: «اگه این امتیازتو عوض کنی، قبول میشی.» ولی خب، اون گام‌های بین راه چی میشه؟ شاید بعضی از این تغییرات اصلاً عملی نباشه یا شرایط زندگیِ ما رو به هم بریزه. واقعیت اینه که آدما معمولاً دقیق نمیدونن از کجا شروع کنن یا چطوری به شکل واقع‌بینانه قدم به قدم پیش برن. بعضی وقتا دنبال یه راه میان‌بر می‌گردن و ممکنه برسن به تصمیم‌هایی که سال‌ها براشون مشکل درست کنه.
برای همین یه تیم با همکاری کلی آدم کاربلد تو حوزه هوش مصنوعی و یادگیری ماشین (این یادگیری ماشین همون مدلیه که AI باهاش خودش رو آموزش میده و دائم بهتر میشه)، یه سیستم شفاف و تعاملی طراحی کردن به اسم ReVise. کاری که این ابزار انجام میده اینه که مسیر تغییر رو تیکه تیکه و قابل فهم نشونت میده. یعنی بهت گزینه‌ها و قدم‌های کوچیک رو نشون میده که مثل انتخاب توی بازی، می‌تونی با سلیقه و شرایط واقعی زندگی خودت انتخابشون کنی.
این ابزار تصویرسازیه (visual analytic workflow یعنی یه روند بصری که همه‌چیز رو ساده و واضح نشون میده). مثلا اگه بگه واسه یه شغل باید مهارت خاصی رو یاد بگیری، پیشنهاد میکنه تو چه بازه زمانی، چطور، و با چه اولویت‌هایی پیش بری. تازه سعی میکنه محدودیت‌های واقعی تو زندگیت (مثلاً پول، وقت، یا علاقه شخصی) رو هم در نظر بگیره تا تصمیم منطقی و بدون دردسر بگیری.
جالب اینه که یه گروه از دانشجویان ارشد رو هم آوردن و سیستم رو با داده‌های واقعی تست کردن. شرکت‌کننده‌ها بازخورد دادن و نشون دادن که این روش واقعاً کمک میکنه تا آدما بهتر راهشونو انتخاب کنن و از مسیر اشتباه دور بمونن. خلاصه اگه یه روزیا تصمیمت به دست AI بیفته، با ReVise می‌تونی بفهمی که دقیقاً کدوم مسیر بهتره، کجا باید صبر کنی یا چه چیزهایی رو تغییر بدی تا به نتیجه‌ای که می‌خوای برسی.
در کل، این ابزار می‌خواد به جای اون حس سردرگمی که معمولاً می‌دونی AI رو داری ولی نمیدونی چرا قبولت نکرده، یه مسیر روشن و قابل فهم پیش پات بذاره. با این روش دیگه فقط ته قصه رو نمی‌بینی، بلکه قدم به قدم و بجا می‌تونی راه آینده‌تو بچینی؛ اون‌جوری که هم شدنی باشه، هم برات مفید باشه و هم دستت به جایی بند باشه!
منبع: +
