بیاین یه موضوع جالب رو با هم بررسی کنیم: وقتی شرکت‌ها یا سازمان‌ها می‌خوان با کمک هوش مصنوعی (همون AI که خودش مغز داره برای تصمیم‌گیری‌های مختلف، مثلاً انتخاب بهترین آدم‌ها بین کلی رزومه کاری) تصمیم بگیرن، ممکنه بدون اینکه خودشون بخوان، یه تبعیضی رخ بده. مثلاً AI تصمیم بگیره رزومه آدم‌هایی از یه قومیت خاص رو رد کنه، در حالی که کلاً هدف کارفرما چیز دیگه‌ای بوده و نمی‌خواسته تبعیض نژادی بذاره.
حالا این وسط یه مشکل بزرگ هست، مخصوصاً تو اروپا. می‌پرسین چیه؟ قانون GDPR (که همون قانون حفظ اطلاعات شخصی تو اروپاست و تو سال‌های اخیر حسابی هم سر و صدا داشته) اومده یه سری داده‌ها رو حساس اعلام کرده! مثلاً اطلاعات مربوط به قومیت، دین، یا حتی گرایش جنسی (هرچی که به خودمون خیلی ربط داره و نمی‌خوایم همه بدونن)، جزو این داده‌هاست. این قانون در حالت عادی به سازمان‌ها اجازه نمی‌ده این اطلاعات رو جمع‌آوری یا استفاده کنن.
حالا فرض کنین یه شرکت واقعاً می‌خواد چک کنه که AIش داره تبعیض می‌ذاره یا نه ولی مجاز نیست قومیت افراد رو بدونه! چون اگر بخواد از این داده‌های حساس استفاده کنه، سر و کارش با GDPR می‌افته و دردسرهای حقوقی. یه جورایی یه دوراهی پیش میاد: از یه طرف حفظ حریم خصوصی و از طرف دیگه جلوگیری از تبعیض.
اخیراً کمیسیون اروپا پیشنهاد داده که یه قانون جدید به اسم AI Act اضافه بشه که به سازمان‌ها اجازه بده واسه بررسی و حسابرسی (یا همون audit که یعنی چک کنن آیا سیستمشون درست کار می‌کنه) از این داده‌های حساس استفاده کنن و اگه تبعیضی هست، پیداش کنن. اما اینجا بحث اینه که آیا قانون فعلی GDPR به خودی خود مانع مبارزه با تبعیض توسط AI میشه یا نه؟ و اگه آره، آیا لازمه واسش یه استثنا قائل بشیم؟ یعنی اجازه بدن فقط برای جلوگیری از تبعیض از این اطلاعات حساس استفاده شه؟
توی این مقاله همین سوال مطرح شده و هم دلایل موافق و هم مخالف رو زیر ذره‌بین گذاشته. مثلاً یه عده میگن اگه به سازمان‌ها اجازه بدیم به این داده‌های فوق‌خصوصی دسترسی داشته باشن، امنیت و حریم خصوصی کلی به خطر می‌افته. مثلاً ممکنه از این داده‌ها سوءاستفاده بشه. اما از اون ور بعضی‌ها میگن بدون داشتن این اطلاعات اصلاً نمی‌تونیم بفهمیم سیستم AI کجاها داره بی‌دلیل مردم رو رد می‌کنه و در نتیجه، نمی‌شه با تبعیض مقابله کرد.
جالبه بدونین این موضوع فقط مختص اروپا نیست. چون الان کلی کشور دیگه هم هستن که دوست دارن هم حریم خصوصی شهروندها رو حفظ کنن و هم کاری کنن AIها تبعیض‌آمیز رفتار نکنن. خلاصه هنوز بین سیاست‌گذارها، حقوقدونا و فناورهای دنیا کلی بحث و جدله سر اینکه راه درست چیه: حریم خصوصی مهم‌تره یا مبارزه با تبعیض؟ شاید یه استثنا تو GDPR بتونه تعادل رو برقرار کنه. حالا باید دید چی پیش میاد!
منبع: +
