یه بار یه نفر اومده بود تو ردیت و از چت‌جی‌پی‌تی خواسته بود: «یه ماشین خانوادگی طراحی کن که فقط و فقط بر اساس راندمان باشه. هیچ چیز دیگه مهم نیست!» و خب، نتیجه یه چیز عجیب و غریبی شد که واقعاً قابل تامله.
فکر کن، دیگه هیچ جایی برای چیزای مهمی مثل راحتی، قیمت، امنیت، یا حتی قوانین فیزیک وجود نداشت! فقط باید یه ماشین بی‌حساب و کتاب بهینه ساخته می‌شد، یعنی هرکاری میکنه که با کمترین انرژی یا سوخت، بیشترین مسافت رو بره. چت‌جی‌پی‌تی هم یه ماشین عجیب غریب طراحی کرد که بدنه‌اش کاملاً کشیده و نوک‌تیز بود و خیلی شبیه قطره آب بود! بیخودی نیست، چون طراحی ایرودینامیک یعنی همون طراحی ضدباد و کم‌اصطکاک رو هدف گرفته بود. (ایرودینامیک همون‌طور که می‌دونی یعنی مقاومت ماشین در مقابل هوا کم باشه، مخصوصاً برای مصرف کمتر سوخت یا برق.)
ولی خب، اون چیزی که طراحی شد بیشتر شبیه اسلحه بود تا یه ماشین خانوادگی، تازه کاربرا تو کامنت‌ها کلی مسخره کرده بودن که مثلاً اگه باد از بغل بزنه، راننده بیچاره باید آرزوی موفقیت کنه؛ یا اگه یه عابر پیاده جلوی این ماشین در بره، انگار مستقیم سیخ‌کبابش میکنه!
وقتی بحث هوش مصنوعی باشه، خیلی‌ها فکر می‌کنن هوش مصنوعی خودش می‌تونه از حرف‌های بین سطرها منظور رو بگیره، اما واقعاً اینجوری نیست. مثلاً چت‌جی‌پی‌تی فقط همون دستور رو اجرا میکنه که می‌دی. یعنی همون «پرامپت» یا متنی که براش می‌نویسی عین دستور راهنماست براش. اگه مثلاً تو ننویسی که امنیت مهمه، یا قیمت محدوده، یا حتی ماشین باید تو دنیای واقعی قابل ساخت باشه، اصلاً براش اهمیتی نداره و نمیاد از خودش چیزی اضافه کنه!
مشکل اساسی اینجا این بود که پرسش یا پرامپت خیلی تک‌بعدی داده شده بود. فقط گفته بودن بهینه‌ترین ماشین! حالا اصلاً خود «بهینه» یعنی چی؟ راندمان واقعی تو زندگی یعنی همزمان چندتا چیز با هم: سریع و امن و راحت و به‌صرفه برسیم به مقصد. ولی اگه فقط بگی «بهینه»، برای هوش مصنوعی بدجور گیج‌کننده است و نتیجه ش هم میشه یه ماشین که فقط باد رو می‌شکافه، اما احتمالاً با اولین تصادف نابود میشه!
جالب اینجاست که چت‌جی‌پی‌تی چیزی رو اختراع نکرده یا خطای فنی نکرده بود. فقط دقیقاً همون خواسته‌ی یک‌خطی رو با بیشترین سماجت اجرا کرده بود. اگه چیز دیگه‌ای لازم داشتی، باید می‌نوشتی.
حالا اگه دلت نمی‌خواد یک موشک خفن به جای ماشین خانوادگی داشته باشی، باید تو پرامپتت چیزای مهم دیگه رو هم بیاری! مثلاً می‌تونی اینجوری سفارش بدی: «یه ماشین خانوادگی کم‌مصرف طراحی کن که پنج نفر به راحتی داخلش بشینن، با قوانین ایمنی آمریکا هم مطابقت داشته باشه (مثلاً ایربگ و کمربند ایمنی داشته باشه)، و قیمت تموم‌شده‌ش هم زیر ۳۵ هزار دلار باشه. باید تو بادهای جانبی هم خوب عمل کنه (یعنی اگه باد از کناره ماشین بزنه، تعادل ماشین حفظ شه)، حداقل ۱۵ فوت مکعب بار جا بگیره، و از موتور هیبریدی یا برقی استفاده کنه.»
اینجوری زمانی موفقیت مشخص میشه، چون دیگه فقط نمی‌گی «بهینه»! مثلاً به جای یه کلمه مبهم، می‌گی «مصرف سوختش باید ۵۰ مایل به ازای هر گالن باشه» (یعنی با یه گالن بنزین پنجاه مایل بره)، و ماشین باید قانونی باشه تا تو خیابون بشه باهاش رفت و آمد کرد. حتی خوبه به چت‌جی‌پی‌تی بگی: «لطفاً خودت این طراحی رو نقادانه نقد کن، ببین ایرادی هست یا جای پیشرفتی می‌بینه؟ یه سری جایگزین هم پیشنهاد بده که مثلاً امنیت یا مقاومتش رو بالاتر ببره.»
این بخش آخر رو خیلی‌ها جدی نمی‌گیرن، ولی جالب اینجاست که اگه از چت‌جی‌پی‌تی درخواست خودانتقادی و بررسی مجدد بکنی، خیلی وقت‌ها فرضیاتی رو نشون میده که خودت حواست نبوده و شاید ایده‌های عالی ازش در بیاد! وگرنه کلاً داری با یه غول چراغ جادو حرف می‌زنی که اگه جمله‌بندی دقیق و حسابی نداشته باشی، احتمالاً به جای آرزو، یه چیزی تحویلت میده که باهاش فقط سنجاب‌ها رو می‌تونی سیخ‌کباب کنی!
خلاصه، وقتی می‌خوای از چت‌جی‌پی‌تی یه چیز خفن بخوای—از ساخت ماشین گرفته تا هر چیز دیگه—این هنر پرامپت‌نویسیه که نتیجه خوب یا افتضاح رو تعیین میکنه. پس دفعه بعد که به هوش مصنوعی چیزی سفارش می‌دی، حتماً محدودیت‌ها، اولویت‌ها، تعریف دقیق موفقیت و حتی تله‌هایی که ممکنه بیوفته رو براش روشن کن که آخرش مشغول درمان سوتی‌های یه ماشین نامیرا نشی!
منبع: +
