این روزا همه جا صحبت از هوش مصنوعی های مولد یا همون GenAI هست – همون هوش مصنوعیهایی که خودشون میتونن متن و تصویر تولید کنن، دقیقاً مثل چیگفتن که یه مقاله کامل بنویسن! مخصوصاً توی دنیای علم و مقالهنویسی، ابزارهای هوش مصنوعی حسابی دارن جولان میدن. خیلی از دانشمندها واسه خلاصه کردن مقالات، نوشتن سریع پیشنویس یا حتی آنالیز دادهها از این ابزارها استفاده میکنن.
ولی خب، همیشه پای یه ماجرا نیست! همزمان با این امکانات جدید، یه سری دردسر و چالش هم شکل گرفتن. مثلاً یکی از مشکلات بزرگ اینه که همه جا معلوم نمیکنن واقعاً این متن رو کی نوشته: یه آدم واقعی یا هوش مصنوعی؟ بعضیها اصلاً پا رو فراتر میذارن و محتوای جعلی و دستکاریشده تولید میکنن، یا حتی وارد بازی خطرناکی به اسم “کاغذسازی” میشن (Papermill: شرکتها یا افرادی که بهصورت انبوه مقاله جعلی برای پول تولید میکنن!)
حالا یکی از دغدغههای شاخ دانشمندان شده چطور باید جلوی این داستانها رو گرفت و فهمید که یه مقاله واقعاً معتبره یا نه. کلاً دو رویکرد اصلی در این زمینه وجود داره:
- کشف استفاده نامناسب یا غیراخلاقی از هوش مصنوعی توی مقالات.
- استفاده از ابزارهای هوشمند برای پیدا کردن اشتباهها و ایرادهای علمی (مثل خطاهای آماری، دستکاری تصویر، ارجاع اشتباه و غیره).
مثلاً یه سری ابزار ساخته شدن که میتونن تشخیص بدن یه متن رو آدم نوشته یا ماشین (AI Detector: سامانهای که فرق متن انسانی و متن ماشینی رو درمیاره). ولی مشکل اینجاست که این ابزارها هنوز خیلی دقیق نیستن، بعضی وقتها اگه ساختار متن عوض بشه یا یه خورده بهش کلک بزنن، راحت اشتباه میکنن.
از اون طرف کارهای جالبتری هم داره شروع میشه، مثل سامانههایی که میتونن بررسی کنن آیا آمار و ارقام توی مقاله درسته، ارجاعها واقعی هستن یا مثلاً عکسی که نشون میدن دستکاری شده یا نه. این مدل ابزارها هنوز توی اول راهن، ولی خب پتانسیل زیادی دارن که دست دغلبازها رو رو کنن!
حتی بعضی از انتشارات معروف هم کمپین راه انداختن علیه کاغذسازها و دارن سعی میکنن جلوی این مقالات جعلی رو با کمک هوش مصنوعی بگیرن. البته فعلاً این فناوریها اونقدر قابل اعتماد و بینقص نیستن که بشه کاملاً بهشون تکیه کرد و بر اساسشون تصمیمهای درجه اول دانشگاهی گرفت.
در کل، هنوز کلی راه مونده تا هوش مصنوعی به کمک علم بیاد و واقعا بتونه سلامت علمی رو تضمین کنه. اما خبر خوب اینه که اولین قدمها برداشته شده و شاید در آیندهای نه چندان دور، یه کنترل کیفیت حسابی و ماشینی توی دنیا علم داشته باشیم که تقلبها و اشتباهها رو با یه نگاه رد کنه!
منبع: +
