خب بچه‌ها بیاید با هم به دنیای عجیب هوش مصنوعی سر بزنیم؛ مخصوصاً اتفاقات جالبی که این روزا تو شرکت Meta (بله همون فیسبوک سابق) دارن رخ میدن. مارک زاکربرگ، مدیرعامل متا، یه مقاله گذاشته و گفته که اخیراً دارن می‌بینن هوش مصنوعی‌هاشون بدون دخالت آدم‌ها خودشون رو بهتر می‌کنن! یعنی خودشون دست به کار میشن و بیشتر یاد می‌گیرن و باهوش‌تر میشن! هیچ‌کس هم دخالتی نمی‌کنه و مدل‌ها خودشون دارن “آپدیت” میشن.
زاکربرگ گفته این روند حالا فعلاً کنده، ولی غیرقابل انکار. یعنی داریم وارد فاز تازه‌ای میشیم که بهش میگن “Self-Improvement” یا همون ارتقای خودکار. مثلاً قبلش همیشه اینطوری بود که هر مدلی رو می‌ساختن، باید تیم‌های آدمیزاد بیان درستش کنن و بهترش کنن؛ اما الان مدل‌ها خودشون دست به کار شدن!
حالا این چه اهمیتی داره؟ بذارین یه کم فازبندی کنم واستون:
- اولش مدل‌های AI یا همون هوش مصنوعی که داریم؛ مثل همون ChatGPT یا مدل‌هایی که می‌تونن ساختار پروتئین رو پیش‌بینی کنن (مثلاً AlphaFold). اینا بعضی کارا رو یاد می‌گیرن و تو یه حوزه خاص، خیلی قوی‌تر از آدم‌ها عمل می‌کنن. اما مشکلشون اینه که فقط همون یه کار رو بلدن و هنوز به اون هوش واقعی نرسیدن که همه‌فن‌حریف باشن.
- مرحله بعدی، اون چیزیه که بهش میگن AGI یا “Artificial General Intelligence” یعنی هوش مصنوعی عمومی. AGI یعنی هوشی که مثل مغز آدمیزاد، تو خیلی زمینه‌ها می‌تونه یاد بگیره و خودش رو با شرایط جدید وفق بده.
- مرحله آخر، ASI یا “Artificial Superintelligence” هست. یعنی هوش مصنوعی‌ای که از هر لحاظ از ماها جلو بزنه و خودش رو با سرعت سرسام‌آوری ارتقا بده. اگه یه روز به این برسیم، ممکنه وارد یه دنیای تماماً جدید و شاید حتی ناشناخته بشیم! این لحظه‌ی خاص رو دانشمندها بهش Technological Singularity میگن یعنی “تکینگی فناوری”؛ همون نقطه‌ای که کنترل اوضاع ممکنه از دست بشر خارج بشه و دیگه همه‌چی شکننده و عجیب پیش بره.
یه مثال جالب هم بود: تو دانشگاه کالیفرنیا سانتا باربارا یه تیم تحقیقاتی اومده بودن با یه ایده تئوری به اسم “Gödel Machine” کار کنن (یعنی ماشینی که بتونه کد خودش رو عوض کنه اگه یه جوری بتونه ثابت کنه که این تغییر به نفعشه). این بچه‌ها با این ایده یه مدل به اسم “Gödel Agent” ساختن. این مدل تونست تو وظایف مختلف، خصوصاً توی برنامه‌نویسی، علوم، ریاضیات و استدلال، خودش رو بهتر کنه و حتی از مدل‌های طراحی‌شده توسط انسان هم بهتر عمل کرد! جالبه بدونین اکثر مدل‌ها اصولاً اجازه ندارن به کد خودشون دست بزنن و تغییر بدن؛ اما Gödel Agent حتی کد بهبود خودش رو هم مدیریت می‌کرد و هر موقع تغییراتش خوب بود، اجراش می‌کرد.
زاکربرگ میگه که این حرکت واقعاً بزرگه و می‌تونه دنیا رو عوض کنه، چون وقتی ASI واقعی درست شه، شاید بتونه چیزهایی کشف کنه که الان اصلاً نمی‌تونیم تصورش رو هم بکنیم! مثلاً یه روزی هر کسی یه AI هوشمند کنار خودش داشته باشه که تو هر زمینه‌ای کمکش کنه، براش هدف بچینه، توی رشد فردی و حتی رفاقت و روابط تاثیر بذاره! خیلی داستان علمی‌تخیلی به نظر میاد ولی با این حجم پیشرفت عملاً دور از ذهن نیست.
یه نکته ترسناک و چالش‌برانگیز هم هست. زاکربرگ گفت که متا دیگه قراره خیلی خیلی مواظب باشه که چه مدل‌هایی رو به طور «اپن سورس» یا عمومی منتشر کنه. اپن سورس یعنی هر کسی بتونه به مدل دسترسی داشته باشه و حتی برای خودش بسازه یا تغییرش بده. چون هر چی این مدل‌ها قوی‌تر بشن، خطرناکتر و کنترلش سخت‌تر میشه، پس دیگه قرار نیست هر مدل فوق‌قدرتمندی رو بزارن همه استفاده کنن.
یه سری مقاله مرتبط هم اومده که نشون میده:
- مدل‌های جدید هوش مصنوعی می‌تونن با دقت عجیب رفتار انسان رو تو هر شرایطی پیش‌بینی کنن.
- هر چی هوش مصنوعی پیشرفته‌تر میشه، بهتر می‌تونه آدم‌ها رو فریب بده و حتی تشخیص بده که داره تست میشه و خودش رو پنهان کنه!
- و حتی بعضی محقق‌ها هشدار میدن AI به جایی می‌رسه که دیگه حتی ما نمی‌فهمیم داره چطور فکر می‌کنه!
در نهایت، زاکر برگ خیلی خوش‌بینه که این موج هوش فراانسانی می‌تونه زندگی همه رو بهتر کنه و به هر کسی این قدرت رو بده که دنیا رو به شکلی که دوست داره، تغییر بده. ولی البته تاکید کرد که باید خیلی عاقلانه و با احتیاط با این قضیه روبه‌رو بشیم.
خلاصه، ما درست سر پیچِ بزرگ تاریخ فناوری وایسادیم و باید ببینیم این هوش مصنوعی‌های باهوش‌تر از آدم قراره ما رو به کجا ببرن! شما چی فکر می‌کنین؟
منبع: +
