بیاین یه داستان جالب و حتی کمی ترسناک رو با هم مرور کنیم! خونه هوشمند همیشه برامون معنی راحتی، اتوماسیون و زندگی باکلاس داشته، ولی اخیراً یه تیم پژوهشی از دانشگاه تل‌آویو نشون دادن که این هوش مصنوعی‌ها رو شاید خیلی هم نباید دست بالا بگیریم!
یه تیم تحقیقاتی نشون دادن که میشه با یه ترفند ساده و فقط با گذاشتن یه رویداد خاص توی Google Calendar (برنامه تقویم گوگل)، خونه هوشمندی که با Gemini کار می‌کنه رو قفل و باز یا حتی دستگاه‌هاشو کنترل کرد!
حالا Gemini چیه؟ اگه تا حالا نشنیدی، Gemini همون هوش مصنوعی جدیده که اومده با گوگل ترکیب شه و کارای جذاب مثل کنترل وسایل خونه، ساختن متن، و حتی تفسیر کردن چیزایی که براش می‌فرستی رو انجام بده.
داستان از اونجایی شروع شد که این محقق‌ها اومدن توی یک قرار معمولی توی کلندر، دستور مخفی گذاشتن. مثلاً قرار کاری یا قراری با عنوان عادی که هیچ جیز شک‌برانگیزی توش دیده نمی‌شه. بعد، صاحب خونه از Gemini می‌خواد برنامه‌شو خلاصه کنه. همین کار ساده باعث میشه اون دستور مخفی فعال بشه! تازه جالب‌تر اینکه این دستور جوری طراحی شد که فقط وقتی کاربر مثلاً نوشت “مرسی” یا “حتما” (یعنی یه چیز خیلی عادی که همه میگن) اون موقع Gemini خود به خود، چراغ‌ها رو روشن کنه، پنجره‌ها رو باز و بسته کنه یا حتی کتری رو بذاره آب بجوشه! بدون اینکه کاربر واقعاً بخواد همچین کاری کنه.
یه توضیح کوچولو اینجا لازمه: این کار رو میگن “Prompt Injection” یعنی تزریق دستور توی یه جایی که نباید به صورت مخفی انجام بشه و بعد هوش مصنوعی با خوندنش، کار اشتباهی رو انجام بده. عبارت “Agentic Capabilities” هم که تو مقاله اومده یعنی اون قابلیت‌های هوشمندانه‌ای که هوش مصنوعی خودش می‌تونه بر اساسش تصمیم و عمل کنه – یا همون شخصیت فوق‌العاده فعال!
این نوع حمله رو هم محقق‌ها به شوخی اسمشو گذاشتن “Promptware”! یعنی نرم‌افزاری که با دستور یا همون پرامپت کار ناجور انجام بده و خیلی غیرمنتظره اس.
خطر این نوع هک خیلی جدی‌تره تا فقط روشن و خاموش شدن چراغ! چون روش رو نشون دادن می‌تونه حتی قرارها رو حذف کنه، ایمیل یا اس ام اس اسپم بفرسته، یا لینک سایت‌های مخرب رو باز کنه که آخرش هم می‌تونه به سرقت هویت برسه! حالا سرقت هویت یعنی کسی بتونه خودش رو به جای شما جا بزنه و از اطلاعاتتون سوء استفاده کنه.
گوگل بعد از اطلاع‌رسانی این موضوع از طرف تیم تحقیقاتی، سریع اومد و یه‌سری محافظت‌ها و تاییدهای بیشتر برای کارهای حساس (مثل کار با کلندر یا کنترل وسایل خونه) اضافه کرد. اما همچنان نگرانی هست که آیا این محافظت‌ها واقعاً کافی هستن یا نه، چون هوش مصنوعی هر روز داره قوی‌تر و مستقل‌تر میشه و دسترسی‌هاش به وسایل و اطلاعات ما زیادتر میشه.
یه نکته خیلی مهم اینه که امنیت‌هایی که قبلاً داشتیم (مثل آنتی‌ویروس‌ها یا فایروال که همون دیوار آتشیه برای جلوگیری از نفوذ به سیستم)، عملاً جلوی این مدل هک رو نمی‌گیرن چون این نوع حمله از راه‌های خیلی جدید اتفاق میفته. اگه فایروال رو نمی‌شناسی، همون نرم‌افزاریه که سعی می‌کنه جلوی رفت‌وآمد غیرمجاز توی اینترنت رو بگیره.
پس باید خودمون یه کم محتاط باشیم. مثلاً به Gemini یا سایر دستیارهای هوشمند اجازه‌ی دسترسی به همه‌چیز مخصوصاً کلندر و کنترل کامل خونه رو ندیم، دستورها و اطلاعات حساس رو توی کلندر ننویسیم (مثل رمز یا کارهای خیلی مهم)، و اجازه ندیم هوش مصنوعی هر کاری رو بدون تایید ما انجام بده. اگه وسایل خونه غیرمعمول بودن یا یهویی یه کار عجیبی کردن، سریع ارتباطشونو با اکانت هوشمند قطع کنیم و حتماً بررسی کنیم چیشده.
به طور خلاصه: تکنولوژی خیلی باحاله، اما بهتره همیشه نیم‌نگاهی به امنیتش هم داشته باشیم و همه چی رو بی‌قید و شرط به هوش مصنوعی نسپاریم!
منبع خبر: Wired
منبع: +
