بیا یه چیزی بهت بگم که شاید شاخ دربیاری: محقق‌ها به یه نقطه رسیدن که مدل‌های زبون بزرگ (LLMها مثلاً چت‌جی‌پی‌تی و رفقاش) می‌تونن خودشون مستقل یه حمله سایبری رو برنامه‌ریزی و اجرا کنن، اونم بدون اینکه آدمی بیاد فرمان بده! یعنی واقعاً کار از کمک‌کردن و پیشنهاد دادن گذشته، دارن واسه خودشون رئیس‌بازی درمیارن.
توی یه تحقیق جدید تو دانشگاه Carnegie Mellon (که خودش یکی از گردن‌کلفتای دانشگاهیه)، دانشجوها به همراه تیم Anthropic اومدن یه آزمایش عجیب‌غریب انجام دادن. اونا همون شرایطی که باعث حمله معروف Equifax تو سال ۲۰۱۷ شده بود رو دوباره درست کردن – یعنی همه آسیب‌پذیریا، شبکه‌ها، همه چی همونِ همون! اونا دیدن که هوش مصنوعی بدون هیچ ورودی مستقیم، کل عملیات نفوذ رو پیش برد! یعنی آقا خودش تصمیم گرفت، خودش برنامه ریخت، حتی خودش ویروس (Malware یعنی برنامه‌ای که واسه خرابکاری ساخته شده) رو اجرایی کرد، اطلاعاتو درآورد، خلاصه تیم حمله‌چی رو از آدم‌ها بی‌نیاز کرد.
جالب‌تر اینکه دیگه لازم نبود حتی دستورای خط فرمان یا همان شل (Shell Commands یعنی دستوراتی که تو ترمینال یا محیط سیاه کامپیوتر می‌نویسن برای کنترل سیستم) بهش داده بشه. مسئول برنامه‌ریزی خودِ هوش مصنوعی بود و بقیه کارها رو به کلی مامور کوچیک‌تر (sub-agents یعنی برنامه‌های جزئی که کارای ریز رو انجام میدن) می‌سپرد. هم یه جور ساختار بالا به پایین داشت، هم خودش کامل کنترل می‌کرد چی بشه و چی نشه!
قبلاً که هوش مصنوعی‌ها رو در فضای امنیت سایبری تست می‌کردن، بیشتر تو قالب معما و بازی‌هایی مثل Capture-the-Flag بودن — یه جور بازی تمرینی که تیم‌ها باید یه مشکل کوچیک رو هک کنن. اما این دفعه دیگه بردنش تو فضای واقعی و شرایط سازمانی. با این روش، هوش مصنوعی کلی چیز یاد گرفت؛ مثلاً می‌تونست تو یه شبکه واقعی نفوذ کنه و دیگه کد زدن زیاد هم نمی‌خواست، چون همه چی رو تفویض کرده بود به مامورا!
خب حالا این موضوع دو تا جنبه داره: یکی اینکه اگر مدل‌های زبون بزرگ بتونن این شکلی مستقل حمله کنن، هکرهای بدجنس هم می‌تونن ازشون واسه خرابکاری‌های بزرگ استفاده کنن، اونم در ابعادی که حتی تیم‌های انسانی هم از پسش برنمیان. حتی نرم‌افزارای ضدویروس و سیستم‌های امنیتی (Endpoint Protection یعنی برنامه‌هایی که کل سیستم یا شبکه رو در برابر تهدید محافظت می‌کنن) هم ممکنه جلوی این هوش مصنوعی‌های زرنگ کم بیارن، چون خیلی تطبیق‌پذیر و باهوشن.
اما از یه طرف دیگه، محقق‌ها داریم که میگن اگه همین هوش مصنوعی رو بذاریم تو تیم دفاعی، شاید بتونه جاهایی رو که خود بشر نمی‌بینه کشف کنه یا حتی خودش جلو حمله‌ها رو بگیره، اونم به صورت لحظه‌ای! یعنی دفاع خودکار هم تو راهه.
البته فعلاً فقط توی شرایط خاص و آزمایشگاه جواب داده و هنوز به نقطه‌ای نرسیده که یه LLM بیاد آزاد تو اینترنت واسه خودش خودسرانه حمله کنه. اما به هر حال، به قول خود پژوهشگرش (Brian Singer، دانشجوی دکترا)، این یه گام خیلی مهم تو مسیره و نباید دست‌کم گرفتش.
این داستان نشون میده سطح هوشمندی هوش مصنوعی داره میره بالا و خوبه حواسمون جمع باشه. هم برای برنامه‌نویسا و امنیت سایبری‌ها یه زنگ خطر جدیه، هم یه فرصت برای ارتقاء سیستم‌های دفاعی. پس از این به بعد، وقتی میگیم هوش مصنوعی بلده، واقعاً دیگه بلده!
راستی، اگه دنبال ابزارهای امنیتی بیشتر مثل VPN یا پسورد منیجرهای قوی هستی، یه سر به بخش امنیتی سایت TechRadar هم بزن! کلی اطلاعات باحال داره.
منبع: +
