بیا یه کم در مورد اینکه مدیریت الگوریتمی چطور می‌تونه آزادی ما رو محدود کنه گپ بزنیم. اولش یه توضیح کوتاه: مدیریت الگوریتمی یعنی بجای اینکه مدیر آدم باشه و تصمیم بگیره، یه برنامه کامپیوتری (همون الگوریتم) میاد همه چیز رو مدیریت می‌کنه. فکر کن همون الگوریتم‌هایی که تو اپ‌های تاکسی اینترنتی یا کارهای فریلنسری تصمیم می‌گیرن کی چه کاری بگیره یا بره سراغ چه مشتری‌ای.
حالا موضوع اصلی چیه؟ وقتی حرف از آزادی می‌زنیم، منظورمون این نیست که هر کاری دلمون خواست بکنیم، بلکه منظور اینه که بتونیم آینده خودمون رو پیش‌بینی و انتخاب کنیم. یعنی بتونیم بدونیم اگه فلان کار رو بکنیم، چه اتفاقی می‌افته و بعد تصمیم بگیریم. اینو تو نظریه‌های فمنیستی آزادی هم پیدا می‌کنیم که تاکیدشون روی «انتخاب‌گر بودن» فرده.
حالا وقتی مدیریت دست الگوریتم می‌افته، یه مشکل مهم پیش میاد. من اسمش رو میذارم “مشکل به خطر افتادن توان پیش‌بینی” (foresight endangerment problem). یعنی دیگه اون‌جوری که باید و شاید نمی‌تونیم بفهمیم تصمیم بعدی سیستم چی میشه و اگر کاری بکنیم، نتیجه‌ش دقیقاً چی می‌افته. این موضوع دو تا وجه داره: فنی و اجتماعی.
وجه فنی ماجرا اینه که الگوریتم‌های پیشرفته خودشون قاطی و پیش‌بینی‌ناپذیر عمل می‌کنن. مثلاً یه روز می‌بینی تو پلتفرم‌های کار اینترنتی (مثل اوبر، اسنپ، یا سایتای فریلنسری) الگوریتم آخرش اصلاً معلوم نیست به چه دلیلی یک نفر رو انتخاب می‌کنه و یکی دیگه رو نه. قضیه رو بااسم “تناقض پایداری-پیش‌بینی‌پذیری” هم می‌شناسن. یعنی هرچی الگوریتم‌ها قوی‌تر میشن، نتیجه‌هاشون هم پیش‌بینی‌ناپذیرتر میشه چون دیگه قلق کار کردنشون رو حتی سازنده‌هاشون هم دقیق نمی‌دونن! پس آدمایی که تحت مدیریت این الگوریتم‌ها کار می‌کنن، واقعاً نمی‌تونن برنامه‌ریزی کنن که چطور کارشون رو بهتر کنن یا از فرصت‌ها درست استفاده کنن.
یه مثال خیلی دم‌دستی: تو پلتفرم‌های کار آنلاین خیلی‌ها می‌گن یه روز بدون هیچ دلیلی کارشون قطع شده یا ناگهان امتیازشون پایین اومده. این تصمیمات عجیب و غریب رو نمی‌تونن پیش‌بینی یا حتی بهش اعتراض کنن؛ چون دیگه مدیر واقعی وجود نداره، همه‌چی دست یه برنامه است.
وجه اجتماعی ماجرا هم جذابه. تا قبل از اینکه مدیریت بیفته دست نرم‌افزارها، آدم‌ها بالاخره با مدیر انسانی سر و کله می‌زدن. یعنی ارتباطات انسانی وجود داشت: می‌تونستی بفهمی مدیرت کی خوشحاله، کی ناراحته، قضایاش چیه، کی بهتره حرف بزنی یا سکوت کنی. خلاصه کلی راه و ابزار داشتی برای اینکه مثلاً حدس بزنی تصمیم بعدی مدیرت چیه یا چجوری روی نظرش تاثیر بذاری. این میشه “فرآیندهای پیچیده تعامل اجتماعی”. اما حالا که مدیرت یه برنامه است، دیگه ارتباط اجتماعی از بین میره و همه چی آدم-نرم‌افزاری میشه. پس نه می‌فهمی تصمیم بعدی چیه، نه اصلاً راهی داری تاثیر بذاری، چون پشتش آدم نیست!
نتیجه‌اش اینه که اختیار ما برای انتخاب‌های آینده‌مون ضعیف‌تر میشه. دیگه نمی‌تونیم با اطمینان بگیم اگه فلان کار رو انجام بدیم، نتیجه‌ش برای ارتقای شخصی‌مون یا رسیدن به اهدافمون فلان خواهد بود. انگار مدیریت رفته تو دل یه جعبه سیاه که هر بار یه خروجی عجیب و غریب می‌ده و ما فقط منتظریم ببینیم شانس با ما یار هست یا نه.
درکل، باید حواسمون باشه که وقتی مدیریت میره سمت الگوریتم‌ها، شاید بعضی چیزا سریع‌تر و بی‌طرفانه‌تر بشه، اما آزادی و اختیار انتخاب و پیش‌بینی آینده‌مون هم به خطر می‌افته؛ یه موضوعیه که کم‌کم باید جدی‌تر در موردش فکر کنیم.
منبع: +
