حتماً این روزها زیاد شنیدین که هوش مصنوعی داره کمکم از سرورهای غولپیکر و دیتاسنترها میاد تو گوشیها، ماشینها و حتی وسایل خونههامون! ولی خب، برای اینکه این مدلها بتونن رو این دستگاههای کوچیک اجرا بشن، حسابی رژیمشون میگیرن؛ یعنی بخشهایی ازشون رو حذف میکنن تا سبکتر بشن و انرژی کمتری مصرف کنن.
مشکل از همینجا شروع میشه! چون تو این فرایند لاغرکردن، همیشه چیزهایی که حذف میشن «تزیینی» نیستن؛ خیلی وقتا همون قسمتهای مهم که جلوی حرفهای خطرناک یا بیادبی هوش مصنوعی رو میگرفتن، حذف میشن یا ضعیف میشن. مثلاً مدلهای پرحاشیه اوپنسورس (Open-source یعنی مدلهایی که همه میتونن مجاناً دانلود و دستکاریشون کنن) بیشتر در معرض این هستن که به خاطر نبودن نظارت جدی، افراد بتونن اونها رو دستکاری کنن یا برای کارهای ناشایست به کارشون ببرن.
یه تیم از دانشگاه کالیفرنیا ریورساید یه تحقیق خیلی جالب کرده بودن که نشون داد فدای مصرف کمتر حافظه و سرعت بیشتر شدن، باعث میشه بخشهایی مثل فیلترهای ضدکلمات رکیک یا راهنمای ساخت سلاح (مثلاً بمب)، اولین چیزهایی باشن که حذف میشن! و خب طبیعتاً بعدش مدل دیگه راحتتر میتونه به سؤالات خطرناک جواب بده!
پروفسور آمیت روی-چودهاری که سرپرست این پروژه بوده، گفت اون قسمتهایی که حذف میشن در واقع حیاتی ان. اگه نباشن، مدل از اون حالت محتاط درمیاد و ممکنه جوابهایی بده که ماشینی هیچ وقت نباید بده!
اما خبر خوب اینه که این گروه برای حل این مشکل اومدن مدل رو از پایه بازطراحی کردن! یعنی دیگه به جای اینکه فیلترهای اضافی بذارن یا یه لایه بنویسن تو آخر کار بیاد جواب رو چک کنه، از همون اول مدل رو آموزش دادن که به طور پیشفرض خودش حواسش جمع باشه. اینطوری حتی اگه خیلی سبک و جمعوجور بشه، بازم دستوراتی که نباید، رو قبول نمیکنه.
برای تستکردن ایدهشون، مدل LLaVA 1.5 (این یه مدل تصویری-متنی هست، یعنی هم عکس و هم نوشته رو میفهمه) رو انتخاب کردن. اول دیدن مدل سبکشده، خیلی راحتتر از مدل اصلی فریب میخوره: مثلاً اگه یه عکس ساده بذاری و ازش یه سؤال مشکوک بپرسی، به راحتی میتونسته راه ساخت بمب رو مرحله به مرحله توضیح بده! (کاملاً خطرناک!)
ولی بعد از اینکه مدل رو با روش جدیدشون دوباره آموزش دادن، دیگه در هر شرایطی حاضر نشد جوابهای مضر و خطرناک بده – حتی اگه مدل فقط یه تیکهکوچیک از اصل خودش باشه و رو یه دستگاه کم جون اجرا بشه. دیگه نیازی هم به فیلتر و نرم افزار اضافی نبود؛ از توی مغزش عوضش کرده بودن!
خودشون به این کار میگن “هک مهربون” یا benevolent hacking؛ منظورشون اینه که قبل از اینکه کسی بتونه از ضعف مدل سوءاستفاده کنه، خودشون میرن نقاط آسیبپذیرش رو تقویت میکنن. دو تا دانشجوی اون تیم، یعنی ساکث باچو و عرفان شایگانی، دارن بیشتر روی این روش کار میکنن که امنیت به تمام لایههای داخلی مدل تزریق بشه و هوش مصنوعی حتی تو بدترین شرایط هم قابل اعتماد بمونه.
پروفسور روی-چودهاری تاکید کرد که هنوز راه زیادی مونده ولی این تحقیق باعث میشه هوش مصنوعیهایی که هم باز (آزاد برای نوآوری) و هم مسئولانه طراحی شدن، یه قدم بزرگ به واقعیت نزدیکتر بشن.
پس اگر داری سریعترین و سبُکترین مدلهای هوش مصنوعی رو روی گوشیت تست میکنی، یادت باشه شاید یکی از این هکهای مهربون محافظتت میکنه که مدل شروع نکنه چیزهای ناجور یا خطرناک رو توضیح بده!
منبع: +
