اگه فکر کردی هوش مصنوعی فقط قراره به چند تا سوال جواب بده و بعدم بی‌سر و صدا خاموش بشه، خب دیگه باید این تصورتو بندازی دور! OpenAI تازه یه نسخه خیلی باحال و پیشرفته از چت‌جی‌پی‌تی رو معرفی کرده که بهش میگن ChatGPT Agent. این نسخه جدید نه فقط جواب می‌ده، بلکه خودش می‌تونه با کامپیوترت کار کنه و به جای تو بعضی کارها رو انجام بده. یعنی رسماً یه دستیار مجازی واقعی داری که می‌تونه برات کار کنه!
📎 چه خبر شده دقیقاً؟
ماجرا اینه که توی این بروز‌رسانی، چت‌جی‌پی‌تی Agent یه جور کامپیوتر مجازی و کلی ابزار داره که بهش این اجازه رو می‌ده کارهایی رو انجام بده که نسخه‌های قبلی اصلاً زورشون نمی‌رسید. مثلاً قبلاً می‌تونستی فقط دستور بدی که اطلاعات جمع کنه یا تجزیه و تحلیل انجام بده، اما الان نه تنها این کارها رو می‌کنه، بلکه می‌تونه خودش بر اساس اونا اقدام عملی هم بکنه.
فرض کن به این Agent دستور بدی تقویم کاریت رو چک کنه و برات خلاصه‌ای از برنامه‌های مهم بیاره یا درباره یه دسته داده بزرگ تحقیق کنه و آخرش یه پاورپوینت شیک برات دربیاره! حتی اگه بخوای برای صبحانه ژاپنی واسه چند نفر برنامه بریزی، خودش می‌تونه نه تنها دستور پخت پیدا کنه، بلکه مواد لازم رو سفارش بده و خرید رو به صورت آنلاین برات انجام بده. یعنی چند تا گام جلوتر از chitchat ساده!
پشت این قابلیت‌های عجیب و باحال، سه تا پایه اصلی هست:
- “Operator” که قبلاً وظیفه جستجوی وب با مرورگر مجازی رو داشت،
- ابزارهای تحقیق عمیق روی داده‌ها،
- و البته خود چت‌جی‌پی‌تی که همیشه توی گفتگوها خوش‌سیاق و کاربردی بود.
👔 خب، این همه اختیار دادن به یه عامل هوش مصنوعی خطرناک نیست؟
آره، دقیقاً! خود OpenAI هم اعتراف کرده این Agent خیلی توانایی‌های بیولوژیک و شیمیایی داره. مثلاً می‌تونه (حداقل تئوری) واسه ساخت مواد شیمیایی یا سلاح‌های عجیب کمک کنه. البته هنوز خیلی تحت نظارت انسان کار می‌کنه و نمی‌تونه خودش مستقل عمل کنه اما همون‌جور که پروفسور Kofi Nyarko (از دانشگاه Morgan State و مدیر لابراتوار مهندسی داده و پیش‌بینی) می‌گه، همین مقداری که داره هم ممکنه اشتباهات جدیدی وارد بازی بشه، چون هوش مصنوعی‌ها هنوز ممکنه دچار “توهم” بشن یا درست نفهمن چی بهشون گفتی (تو زبان AI بهش میگن hallucination یعنی حرف پرت زدن یا جوابی که درست نیست). ضمناً هوش مصنوعی‌ها مثل ما آدم‌ها حافظه دائمی ندارن، یعنی مکالمات قبلی رو فراموش می‌کنن و فقط با متن‌های جدید سر و کار دارن.
یه تهدید دیگه هم که ساختار این مدل داره اینه که ممکنه مثلاً ازش برای دور زدن تاییدیه‌ها، هک کردن، تقلب مالی یا حتی نشت یا دستکاری داده‌ها استفاده بشه. مثلاً توی حملات prompt injection ــ که یعنی تزریق دستورهای خاص و گمراه‌کننده ــ ممکنه رفتار ناخواسته نشون بده و حتی آدم رو وابسته به خودش کنه.
🚦 OpenAI چه کار کرده برای مدیریت خطرات؟
گروه OpenAI سعی کرده یه‌سری سیستم‌های امنیتی مثل threat modeling (مدل‌سازی تهدید که یعنی سناریوهای خطر رو پیش‌بینی می‌کنن)، آموزش مدل که به درخواست‌های دوگانه جواب منفی بده (یعنی درخواستایی که هم ممکنه خوب هم بد باشن، مثل آموزش ساخت سم)، برنامه‌های یافتن اشکال نرم‌افزاری (Bug Bounty) و حمله آزمایشی توسط خود تیم‌ها (red-teaming، یعنی خودی‌ها به سیستمت حمله می‌کنن تا نقاط ضعفش رو پیدا کنن) اجرا کنه.
ولی با همه اینا، سازمان SaferAI که کارش فقط بررسی میزان امنیت و مدیریت ریسک هوش مصنوعیه، توی سال 2025 به OpenAI امتیاز 33 از 100 داده که خیلی پایینه! حتی توی شاخص AI Safety Index هم فقط نمره سی (C) گرفتن که کلاً نشون می‌ده هنوز خیلی جای کار دارن.
🧠 پس از لحاظ هوشی قوی‌تر از قبله؟
آره، واقعاً پیشرفت داشتن. مثلاً توی Humanity’s Last Exam یعنی “آخرین امتحان بشریت” که میزان توانایی هوش مصنوعی رو در جواب به سوالای تخصصی تو حوزه‌های مختلف اندازه می‌گیره، این Agent تونسته دقتش رو به ۴۱.۶٪ برسونه، درحالی‌که نسخه قبلی بدون ابزار فقط ۲۰.۳٪ بود! توی FrontierMath هم که یکی از سخت‌ترین آزمونای ریاضیه، این Agent همراه با ابزارهاش، نسخه‌های قبلی رو زمین‌گیر کرده! خلاصه از نظر قدرت هوش، پیشرفت شگرفی دیده میشه.
📚 جمع‌بندی رفاقتی!
Agent جدید چت‌جی‌پی‌تی واقعاً یه دستیار تازه‌نفس و کنجکاوه که می‌تونه کارای زیادی رو خودش انجام بده. اما مثل هر تکنولوژی بزرگی، کلی نگرانی هم سر راهشه. از سوءاستفاده و خطرات داده گرفته تا این که هنوز جادارتر باشه و حافظه و درک بیشتری پیدا کنه.
در کل، باید با چشم باز و یه ذره شک و تردید سراغ کار کردن باهاش بری؛ چون پیشرفت‌ها سریع و هیجان‌انگیزه ولی مسئولیت‌ها و خطرات همینقدر جدی هستن! اگه آدم پیگیر هوش مصنوعی هستی، بدون این دنیا هر روز جذاب‌تر و البته پرریسک‌تر میشه!
منبع: +
