حتماً این روزها خیلی بحث در مورد بی‌عدالتی‌هایی که هوش مصنوعی (AI) نسبت به بعضی گروه‌ها نشون می‌ده رو شنیدین. منظورم اون سیستم‌های کامپیوتریه که قراره برات تصمیم بگیرن و بعضی وقتا با آدم‌ها یا گروه‌هایی ناعادلانه برخورد می‌کنن. این موضوع آنقدر جدی شده که کلی آدم دارن می‌گن: «وقتشه واسه این سیستم‌ها قانون گذاشته بشه و کنترلشون کنیم.» حتی تو آمریکا هم هم کنگره و هم چندتا از ایالت‌های بزرگ شروع کردن به پیشنهاد قانون‌هایی برای این کار.
ولی خب، این وسط یه عالمه چالش و مشکل هست که باعث شده قانون‌گذاری تو این حوزه اصلاً کار راحتی نباشه. یکی از مسئله‌های اصلی اینه که باید دقیق مشخص بشه “عدالت توی الگوریتم‌ها” یعنی چی. الان متخصصای AI خودشون هنوز سر اینکه دقیقاً الگوریتم منصف چیه و چه ویژگی‌هایی باید داشته باشه، هم‌نظر نیستن و هرکدوم تعریف خودشونو دارن! مثلاً می‌بینی لیست تعاریف عدالتی که ارائه می‌شه داره هر روز بیشتر و بیشتر می‌شه و خیلیاشم پیچیده و تکنیکی هستن، طوری که حتی خود قانون‌گذارها هم احتمالاً سر در نمیارن.
واسه قانون‌گذاری درست، باید بگیم دقیقاً دنبال چه نوع انصاف و عدالتی هستیم. اما این کار آسون نیست چون خیلی از تعاریف با هم جور در نمیان (یعنی می‌گن این تعریف با اون یکی قابل جمع شدن نیست) و این موضوع یه دردسر بزرگه—خصوصاً اگه بخوای تو ایالات یا کشورهای مختلف، استانداردهای متفاوت اعمال کنی. مثلاً تعریف عدالت فلان ایالت با تعریف عدالت یه ایالت دیگه فرق کنه؛ اونوقت همه چی قاطی‌پاطی می‌شه و ممکنه برای یه سیستم هوش مصنوعی در آمریکا، یه جا بگن منصفه و یه جا بگن بی‌انصاف!
یه مشکل دیگه اینه که کلی قانون قدیمی‌تر هم هست که جلوی تبعیض علیه گروه‌های خاص رو گرفته (مثلاً قوانین ضد تبعیض نژادی یا جنسیتی). این قانون‌ها خودشون چارچوبی واسه عدالت دارن، ولی شاید اصلاً مناسب ارزیابی الگوریتم‌های پیشرفته امروزی نباشن. چون این الگوریتم‌ها خیلی پیچید‌ه‌‌ان و با اون قالب‌های قدیمی جور در نمیان.
حالا راه‌حل چیه و چطور می‌شه این قانون‌گذاری رو منطقی و کاربردی‌تر کرد؟ چند تا پیشنهاد هست؛ مثلاً می‌گن بهتره هم متخصصین فنی تو کار باشن و هم قانون‌گذارها آموزش ببینن تا با این مفاهیم تکنیکی (مثل همون تعریف‌های انصاف الگوریتمی) آشنا بشن. یا شاید لازم باشه یه تعریف مشترک و قابل استفاده درست کنیم که هم قابل فهم باشه و هم منعطف باشه.
در کل، این داستان ثابت می‌کنه “منصف کردن هوش مصنوعی” فقط به کد نوشته شده ربط نداره، بلکه یه موضوع پیچیده و چند بعدیه که باید از همه جهت روش فکر کرد و نمی‌شه با یه قانون کلی همه‌ی مشکلاتشو حل کرد. خلاصه، هوش مصنوعی رو باید همزمان با همت همکاری متخصصا و سیاست‌گذارها کنترل کرد تا خیالمون راحت‌تر باشه که قراره همه آدم‌ها باهاش منصفانه برخورد بشن.
منبع: +
