بگو ببینم، تا حالا ایمیلی یا ویدیویی دیدی که توش یه چیزی خیلی عجیب به نظر بیاد؟ مثلاً لهجه‌ی عجیب، لوگوی غلط‌انداز، یا کلی غلط املایی؟ قدیما اینا نشونه‌ی واضحه‌ای بودن که طرف داره سرتو کلاه می‌ذاره یا فیکه. اما الان، با پیشرفت تکنولوژی دیپ‌فیک، داستان کلی فرق کرده.
دیپ‌فیک چی اصلاً؟ دیپ‌فیک یعنی ساختن عکس، ویدیو یا حتی صداهای فوق‌العاده طبیعی و قانع‌کننده با استفاده از هوش مصنوعی. یعنی مثلاً یه نفر با چهره و صدای دقیقاً شبیه رئیس جمهور یا مدیرعامل یه شرکت حرف بزنه، بدون اینکه واقعاَ خودش باشه! (دیپ‌فیک رو هم از ترکیب Deep به معنی عمیق و Fake به معنی جعلی ساختن.)
اوایل دیپ‌فیک یه ماجرای تخصصی بود و فقط چندتا گیک کامپیوتری می‌تونستن سر و ته‌ش رو هم بیارن. ولی حالا هرکسی با یه گوشی هوشمند – دقیقاً با همون موبایل‌هایی که تو دست همه‌مونه – و یه نرم‌افزار مجانی می‌تونه ظرف چند دقیقه یه ویدیوی فیک اما «مث واقعی» بسازه. فکرشو بکن: تو سال ۲۰۲۳ فقط نیم میلیون دیپ‌فیک تو اینترنت پخش شده بود. اما تا سال ۲۰۲۵ این عدد می‌رسه به ۸ میلیون! 😳
تا چند سال پیش، فقط هکرهای خفن یا گروه‌های خرابکار دولتی می‌تونستن همچین کاری بکنن. اما الان؟ هر کسی که یه ذره نیت خراب داشته باشه، ابزارهاش پیششه. لازم نیست نابغه باشه. به خاطر همین ماجراهاست که دیپ‌فیک دیگه تهدید آینده نیست؛ همین الان اینجاست و خیلی جدیه.
حالا کسب‌وکارها رو تصور کن. فرض کن یه نفر با صدای شبیه رئیس شرکت زنگ بزنه و بگه: «پول رو بریزین به این حساب». یا یه ویدیوی ساختگی بیاد بیرون که مدیر داره یه حرف جنجالی می‌زنه، و همین باعث سقوط سهام شرکت شه. یا با یه عکس فیکِ کارت شناسایی، یه نفر وارد بخش‌های امنیتی یه شرکت بشه. تازه اینا فقط ضرر مالی نیست؛ تو جاهایی که با زیرساخت، امنیت عمومی و خدمات حساس سر و کار دارن، ممکنه امنیت ملی هم به خطر بیفته.
اینجا یه جنگ موش و گربه بین سازنده‌های دیپ‌فیک و کسایی که می‌خوان فیک بودنش رو تشخیص بدن شکل گرفته. هر چی تکنولوژی ساختن فیک بهتر می‌شه، تیم مقابله هم باید قوی‌تر بشه. محقق‌ها دارن سعی می‌کنن ابزارهایی بسازن که بتونن مثلاً خط‌وخش‌های ریز یا مشکل‌های تصویری رو تو دیپ‌فیک‌ها پیدا کنن. ولی واقعیت اینه که فعلاً تیم فیک‌سازها جلوترن! یه تحقیق تو سال ۲۰۲۴ نشون داد که حتی بهترین ابزارهای تشخیص دیپ‌فیک، وقتی با داده‌های واقعی مواجه شدن، درصد دقتشون تا ۵۰٪ افت کرده. یعنی ممکنه اصلاً متوجه نشی چی واقعی و چی تقلبیه.
بدبختی اینجاست که خیلی اوقات حتی کارشناس‌ها هم بدون بررسی دقیق (مثلاً تحقیقات پزشکی قانونی روی ویدیو) نمی‌تونن تشخیص بدن دیپ‌فیکه یا نه! خب، کی حوصله یا ابزار این کار رو داره موقع دیدن یه ویدیوی جدید؟ اکثر مردم نه وقت دارن نه تخصص. پس فیک‌ها با سرعت شُر شر میان و تاثیرشون رو می‌ذارن، قبل از اینکه حقیقت رو شه.
یه مشکل دیگه هم هست بهش می‌گن «سود دروغگوها». یعنی الان هر کی دلش بخواد می‌تونه بگه: «نه بابا این ویدیو فیکه!» حتی اگه ویدیو واقعیه، این شک همیشه وجود داره، و اعتماد عمومی رو به هرچی می‌بینی یا می‌شنوی سلب می‌کنه.
می‌خوای بدونی شرکت‌ها و سازمان‌ها الان باید چی کار کنن؟ واقعیت اینه که باید قبول کنن دیپ‌فیک یه تهدید واقعیه، نه فقط یه سناریوی فرضی تو آینده. پس زمان اینکه دست روی دست بذارن و بگن «برای ما پیش نمیاد» گذشته. باید پروتکل‌های امنیتیشون رو آپدیت کنن و حساسیت بیشتری خرج کنن؛ مخصوصا برای درخواست‌هایی که با پول، دسترسی به اطلاعات مهم یا اجازه ورود به سیستم‌ها سر و کار داره.
آموزش دادن به کارمندا خیلی مهمه—باید یاد بگیرن چطور پیام‌ها یا ویدیوهایی که یهو ظاهر می‌شن یا احساس قوی درشون ایجاد می‌کنن رو زیر سوال ببرن. تو کل مجموعه باید «فرهنگ سوال‌محور» راه بندازن؛ یعنی به جای قضاوت سریع، هر چیزی رو بررسی کنن و دنبالش برن. البته، هرجا بشه باید تکنولوژی تشخیص فیک رو هم بخرن و استفاده کنن.
حتی اگه پیشگیری صد درصدی ممکن نیست، دونستن همین‌ها و هوشیاری کلی حسابی جلوی دردسر رو می‌گیره. در نهایت باید همواره چند تا سوال مهم رو زیر نظر داشت: چه کسی مسئول مقابله با دیپ‌فیک‌هاست؟ شرکت‌های تکنولوژی باید دفاع کنن یا دولت‌ها یا کارفرماها؟ اگه کسی فریب خورد و ضرر کرد چی؟ متاسفانه جواب قطعی نداریم. فقط اینو می‌دونیم که اگر منتظر بمونیم، دیر می‌شه!
دورانی شده که واقعیت رو باید از افسانه تشخیص بدی! هوش مصنوعی بهمون ابزارهای فوق‌العاده‌ای داده، اما به همون نسبت، یه سری هم ابزارهای تقلبی مخوف دست آدمای خلافکار داده. الان دقیق‌ترین کمکی که می‌تونی به خودت و اطرافیانت بکنی اینه که فرق حقیقت و دروغ رو بفهمی و نذاری گولت بزنن!
اگه دنبال ابزارهای امنیتی یا دوره‌های آموزش امنیت سایبری هستی، کلی منبع خوب هست که کمکت کنه. همیشه بروز باش و یادت باشه: یه لحظه فکر و پرسشگری می‌تونه کلی دردسر رو دور کنه!
پ.ن: این مقاله بر اساس تجربیات متخصص‌های تکنولوژی دنیا نوشته شده و نظرات شخصی نویسنده‌ست.
منبع: +
