فرض کن یه سایت زده: «والپیپر رایگان سلبریتیها!» تو میری عکسها رو نگاه میکنی؛ سلنا گومز هست، ریحانا هست، تیموتی شلمی هم همینطور، اما تو دلت پیش تیلور سویفت میمونه! این همون عکسیه که با افکت باد قشنگ شده و تو میذاریش روی دسکتاپت و از این انتخاب خوشحال میشی. همین چند وقت پیش هم یه دستیار هوش مصنوعی نصب کردی تا ایمیلهات رو مرتب کنه؛ بهش میگی ایمیلات رو سروسامون بده، اما اون به جاش مرورگرت رو باز میکنه و یه چیزی دانلود میکنه… چند ثانیه بعد، صفحهات سیاه میشه! حالا چی شد؟ بریم عقبتر…
این همون جاییه که بحث هوش مصنوعی و ایجنتها وسط میاد. خب بذار ساده توضیح بدم: چتباتها مثل ChatGPT معمولاً همون دوستِ پرحرفین که بلدند چه جوری لاستیک ماشین رو عوض کنی و بهت میگن چی کار کن. اما ایجنتهای هوش مصنوعی (AI agents) دقیقاً مثل همسایه عملی هستن که جک میارن و خودشون دست به آچار میشن! جدی جدی ایجنتها تو سال ۲۰۲۵ خیلی قراره خبرساز بشن. فرقشون با چتبات چیه؟ خب، ایجنتها فقط حرف نمیزنن، خودشون دست به کار میشن: تب باز میکنن، فرم پر میکنن، روی دکمه میزنن، حتی رزرواسیون انجام میدن! یعنی کامل به کامپیوترت دسترسی دارن. حالا فکر کن اگه یکی هکشون کنه؟ میتونن یا محتوای دیجیتالت رو پخش کنن یا نابود کنن، واسه همینم امنیتشون خیلی مهمه.
اینجاست که پژوهش جدید دانشگاه آکسفورد حسابی زنگ خطر رو به صدا درآورده. یه گروه تحقیقاتی نشون دادن که فقط با یه عکس ساده — مثلاً همون عکس تیلور سویفت روی توییتر یا هر چهره معروف دیگه یا حتی عکس غروب و بچه گربه — میشه ایجنت هوش مصنوعی رو کنترل کرد! چطوری؟ بعضی عکسها طوری اصلاح میشن که تو اصلاً متوجه تغییرات نمیشی، ولی هوش مصنوعی این کد مخفی رو میخونه و دستورهای مخرب اجرا میکنه. مثلاً خودش شروع میکنه اون عکس رو توییت میکنه و حتی پسوردهای تو رو میفرسته؛ و نفر بعدی که اون عکس رو تو توییترش میبینه و ایجنت فعال داره، برای اون هم همین فاجعه تکرار میشه. حالت ویروسوار میتونه از یه سیستم به یه سیستم دیگه پخش بشه.
حالا قبل اینکه بری کل والپیپرهای کامپیوترتو پاک کنی، یه خبر خوب: فعلاً این حملهها فقط تو آزمایشگاه اتفاق افتاده و هنوز گزارشی ازش تو دنیای واقعی نبوده، مخصوصاً اگه ایجنت هوش مصنوعی نصب نکردی، خیالت راحت باشه. اما محققها میگن این آسیبپذیری واقعیه و الان وقتشه که توسعهدهندهها جدی بگیرنش.
یه نکته جالب اینه که این حملهها بیشتر ایجنتهایی رو تهدید میکنن که براساس مدلهای زبان بزرگ (Large Language Models یعنی همون هوش مصنوعیهایی که کلی داده یاد گرفتن تا مثل آدم حرف بزنن و کار کنن) و کاملاً متنباز (Open Source یعنی هرکی میتونه کدشون رو ببینه و دستکاری کنه) ساخته شدن. چون کدشون بازه، آدمها میتونن یاد بگیرن این مدلها چطور تصویر تحلیل میکنن و دقیقاً نقطه آسیبشون رو هدف بگیرن. خود عکسهای آلوده، انگار چندتا پیکسلشون جوری تغییر کرده که فقط هوش مصنوعی متوجه اون پیام مخفی یا دستور آلوده میشه، اما تو با چشم هیچ فرقی نمیبینی.
شاید برات عجیب باشه! ما آدما عکس رو با چشم نگاه میکنیم، گوشها، بینی، سبیل سگ رو میبینیم و میگیم: «آهان این یه سگه!» ولی برای هوش مصنوعی همه چی عدد و پیکسل و الگوه. اگر کسی فقط یه ذره تو پیکسلها دست ببره، ممکنه به جای «سگ»، هوش مصنوعی اینجا یه گربه ببینه، یا بدتر، تصادفاً یه دستور مخرب داخل همون عکس جا بده!
حالا چرا پس اینقدر حرف از والپیپر یا پسزمینه میزنن؟ چون ایجنتها برای اینکه بفهمن روی دسکتاپت چه خبره، باید مدام اسکرینشات بگیرن! پس هرچی تو پسزمینه (والپیپر) گذاشته باشی، همیشه جلو چشمه ایجنت هست. فقط کافیه یه تکه کوچیک از این عکس آلوده تو اسکرینشات بیفته، ایجنت پیام مخفی رو میخونه و به دردسر میفتی. تازه، حتی اگه عکس رو کوچیک یا فشرده کنی بازم اون پیام خرابی حفظ میشه!
یه چیز جالبتر: محققها میگن اصلاً لازم نیست کد مخفی تو عکس خیلی بزرگ باشه، حتی میتونن فقط دستور باز کردن یه سایت مشخص رو توش بکارن. حالا ایجنت میره اون سایت و اونجا شاید یه عکس خراب دیگه باشه، که دوباره یه حمله جدید اجرا کنه. یعنی میتونه این داستان هی ادامه پیدا کنه و ایجنت رو حسابی کنترل کنه!
هدف پژوهشگرها اینه که توسعهدهندهها هرچه زودتر دنبال چاره باشن. باید ایجنتها رو طوری مقاوم کنن که فریب این پیکسلبازیها رو نخورن. مثلاً میگن اگه بدونیم چطور این حملهها قویتر میشن، بعد میتونیم مدلهای هوش مصنوعی رو با این عکسهای آلوده دوباره آموزش بدیم تا جلوی حمله مقاومتر بشن.
یه نکته مهم: حتی شرکتهایی که کد مدل هوش مصنوعیشون بستهست (Closed Source یعنی کسی نمیتونه ببینه توش چی کار کردن) هم فکر میکنن امنیت دارن، اما محققها میگن: «تا ندونیم سیستم چطور کار میکنه، نمیتونیم نقطه ضعفش رو کشف کنیم.»
در کل، این مقاله میخواد حواسمون رو جمع کنه. چون به احتمال زیاد تا یک-دو سال دیگه این ایجنتهای همهکاره همهجا حضور خواهند داشت، اما امنیتشون هنوز قطعی نیست. پس توسعهدهندهها باید کاری کنن که ایجنتها راحت گول عکس و پیکسل رو نخورن حتی اگه با جذابیت یه خواننده معروف روبهرو بشن! 😉
منبع: +
