خب رفقا بیاید یه بحث جالب و شاید کمی ترسناک رو با هم داشته باشیم. یکی از کلهگندههای دنیای هوش مصنوعی، یعنی داریو آمودی (مدیرعامل شرکت Anthropic، همونایی که Claude رو ساختن)، اومده گفته:
«به نظرم ۲۵ درصد احتمال داره کار با هوش مصنوعی فاجعهبار بشه!»
حالا این یعنی چی؟ یعنی از هر چهار بار یکی ممکنه واقعاً وا بده! این رو داریو توی یه همایش مربوط به هوش مصنوعی و سیاستگذاری بیان کرد و جالب اینجاست که اصلاً هم استرس نداشت. گفت بیشتر دلش به اون ۷۵ درصد شاد، که اوضاع خیلی خیلی خوب پیش میره!
اینجا منظورش از “واقعاً خیلی بد پیش رفتن” هم اصلاً این نیست که گوشیمون به جای “duck” یه چیز عجیب برامون تایپ کنه؛ نه، داره درباره اتفاقات بزرگی حرف میزنه که ممکنه کل جامعه یا حتی بشریت رو تهدید کنه. مثلاً خطرات وجودی یعنی خطراتی که میتونن به نابودی یا آسیب جدی تمدن منجر بشن. یا حالتی که هوش مصنوعی یه جوری از کنترل خارج بشه که نشه جمعش کرد!
به نظرم این حرف رو اگه هر کسی میزد خیلی جدی نمیگرفتیم، اما وقتی مدیرعامل شرکتی مثل Anthropic که خودش رو خط مقدم ساخت این تکنولوژیهاست و واقعاً داره باهاشون سروکله میزنه همچین چیزی بگه، قضیه فرق میکنه. خود داریو و تیمش دارن این سیستمها رو میسازن و خودش میگه “دارم روی تراژدی احتمالی کار میکنم!”
خیلیها شاید فکر کنن اگه احتمال ۲۵٪ هست که ماشین هر بار روشن میشه بترکه، اصلاً نباید سوارش بشیم. اما داریو انگار میشه گفت نقش مکانیک رو بازی میکنه: اول میره ماشین رو وارسی میکنه، بعد سوار میشه. اون معتقده اتفاقاً باید بیشتر بدونیم و ایمنتر پیش بریم، نه اینکه کلاً بیخیال بشیم.
این اولین بار هم نیست که ایشون درباره خطرات هوش مصنوعی زنگ خطر رو به صدا درمیاره. یه بار گفته بود این سیستمها ممکنه باعث حذف نیمی از شغلهای اداری سطح پایین (همون entry-level white-collar یعنی کارای دفتری و اداری ساده) بشن! حتی نسبت به صادرات چیپهای پیشرفته آمریکا به چین هم هشدار داده؛ چیپ پیشرفته یعنی تراشههایی که مغز کامپیوترها و هوش مصنوعی هستن و قدرت پردازششون خیلی بالاست.
اما نکته باحال حرفاش اینجاست: اون ۷۵٪ احتمال باقیمونده یعنی کلی فرصت. از درمان بهتر و کارخونههای پیشرفته گرفته تا شاید حتی مقابله با بحرانهایی مثل تغییر اقلیم (اینجا هم باید بگم تغییر اقلیم یعنی همون گرم شدن زمین و مشکلات محیطزیستی که بخاطر فعالیت بشر پیش اومده). فقط مشکل اینجاست که خود این هوش مصنوعیها برای اجرا شدن کلی انرژی مصرف میکنن و خود این یه مسئله جداست!
سه چهارم احتمال خوب بازم نمیشه بیخیال خطرها شد. داریو معتقده باید خیلی جدی درباره راهکارهای ایمنی و همینطور قوانین و نظارت (Regulation یعنی مجموعه قوانین و نهادهایی که روی یه تکنولوژی یا صنعت نظارت و کنترل دارن) برنامهریزی کنیم. چون یه آینده عالی با یه احتمال کوچیک بدی، اصلاً نباید شوخی گرفتش.
در نهایت، ما به عنوان آدمها و جامعه باید حواسمون باشه که چطور وزن آینده رو میذاریم سمت خوبیها، نه بدبختیها!
راستی اگه کنجکاوید بیشتر بدونید: تیم Anthropic قبلاً گفته باشی با هوش مصنوعی بخواید بمب هستهای طراحی کنید، حتماً جلوتون رو میگیرن! تازه این همه بحث درباره ترس و احتیاط در دنیای هوش مصنوعی رو همه قبول ندارن؛ بعضیها اون رو بزرگنمایی میدونن و میگن نباید بیش از حد نگران باشیم. خلاصه، جنگ بین امید و ترس درباره هوش مصنوعی تازه شروع شده!
منبع: +
