اگه پیگیر اخبار دنیای هوش مصنوعی باشی، احتمالاً شنیدی که اوپن‌اِی‌آی دو مدل هوش مصنوعی جدید معرفی کرده: gpt-oss-20b و gpt-oss-120b. کلی هیجان پشت این ماجراست چون اینا همون مدل‌هایی هستن که کُدهای آموزش‌دیدشون (بهش میگن open-weight یعنی می‌تونی خودت استفاده و تغییرشون بدی) رو منتشر کردن و آخرین باری که اوپن‌ای‌آی این کار رو کرد، برمی‌گرده به دوران مدل معروف GPT-2!
اما تفاوت اصلی این مدل‌های جدید چیه؟ خلاصه بگم، gpt-oss-20b کوچیک‌تر و جمع‌وجورتره و برای اجرا روی دسکتاپ یا لپ‌تاپ خونگی ساخته شده. gpt-oss-120b خیلی گنده‌تره و مناسب سرورها و دیتاسنترهاست ولی با یه سیستم قوی خونه هم می‌تونی (اگه واقعاً قوی باشه) اجراش کنی.
حالا اصل سوال: میشه این مدلا رو روی لپ‌تاپ یا حتی گوشی اجرا کرد؟ باید بگم بستگی داره به اینکه سیستم سخت‌افزاری‌ت چقدر جون‌دار باشه. مزیتشون اینه که نیازی به اینترنت و سرورهای ابری نداری، یعنی همه‌چیز لوکال روی دستگاه خودت اجرا میشه و کل پروسه «تولید متن به متن» هم جلو چشم خودت اتفاق می‌افته. این یعنی حتی می‌تونی مدل رو اصلاح کنی (البته هنوز یه سری محدودیت و سانسور تو خود مدل هست).
خب بیاید بریم سراغ جزئیات:
مدل gpt-oss-20b: شجاع کوچک!
برای اجرا روی لپ‌تاپ، حداقل ۱۶ گیگ رم نیاز داری. البته هرچی رم بیشتر، سرعت بهتر. مثلاً بعضیا توی ردیت گفتن که رو مک‌بوک پرو M3 با ۱۸ گیگ رم اجرا میشه و اوکیه. در کل، این مدل ۲۱ میلیارد پارامتر داره (پارامتر یعنی اون عددایی که مدل برای یادگیری ازشون استفاده می‌کنه و هرچی عدد بالاتر، مدل قوی‌تر و البته سنگین‌تر).
برای پردازنده و کارت گرافیک، AMD پیشنهاد داده یه سی‌پی‌یو Ryzen AI 300 داشته باشی + ۳۲ گیگ رم (که ۱۶ گیگ برای گرافیک استفاده بشه). کارت گرافیک هم بهتره مدل RX 7000 یا ۹۰۰۰ باشه و ۱۶ گیگ رم گرافیکی (VRAM) داشته باشه. البته اینا فقط پیشنهادن و الزام نیستن. خلاصه مشکل اصلی فقط رم (مخصوصاً رم گرافیکی) هست و اگر این رو تأمین کنی، مدل خیلی خوب اجرا میشه چون Mixture of Experts (MoE) یعنی یه راه بهینه برای مدیریت منابع، تو این مدل‌ها استفاده شده و کار رو راحت‌تر کرده.
مدل گنده gpt-oss-120b؛ غول داده‌ها!
اینجا داستان یه کم متفاوت میشه؛ برای اجراش به ۸۰ گیگ رم نیاز داری. البته لازم نیست همه این مقدار رم، حتماً روی کارت گرافیک باشه، مثلاً میشه ترکیبی از رم سیستم و رم گرافیک استفاده کرد (مثلاً ۶۴ گیگ رم معمولی + ۲۴ گیگ برد گرافیک مثل انویدیا RTX 3090 Ti هم جواب میده). AMD توصیه کرده براش سی‌پی‌یو Ryzen AI Max+ 395 و حتی ۱۲۸ گیگ رم (که ۹۶ گیگ اون برای گرافیک باشه!) بذاری. خلاصه، این مدل بیشتر مخصوص کار با ورک‌استیشن‌ها و لپ‌تاپ‌های فوق حرفه‌ای یا سیستم‌هایی با چندتا کارت گرافیکه.
چطور مدل رو اجرا کنیم؟
اگه این سخت‌افزارا رو داری، راحت می‌تونی مدل رو نصب و اجرا کنی. اوپن‌اِی‌آی یه نرم‌افزار به اسم Ollama پیشنهاد داده (یه پلتفرم برای اجرای مدل‌های هوش مصنوعی که روی ویندوز، مک و لینوکس کار می‌کنه). کافیه بری تو سایت Ollama، برنامه رو دانلود و نصب کنی. بعد با دو تا دستور ساده (کافی تو ترمینال تایپ کنی):
ollama pull gpt-oss:20b
ollama run gpt-oss:20b
مدل دانلود و اجرا میشه (برای ورژن بزرگ‌تر فقط ۲۰b رو با ۱۲۰b عوض کن). اگه Ollama رو دوست نداری یا دنبال گزینه دیگه‌ای هستی، می‌تونی با LM Studio هم مدل رو بگیری و اجرا کنی:
lms get openai/gpt-oss-20b
کاربرای ویندوز هم می‌تونن با Windows AI Foundry مدل رو اجرا کنن (البته هنوز حالت بتا داره و باید کارت گرافیک Nvidia با ۱۶ گیگ VRAM داشته باشی. به‌زودی با AMD هم کار می‌کنه).
گوشی چی؟ میشه؟
سم آلتمن (مدیرعامل اوپن‌اِی‌آی) گفته مدل کوچیک رو میشه روی موبایل اجرا کرد، ولی راستش یکم دور از واقعیته! مثلاً کوالکام اومد گفت gpt-oss-20b رو میشه روی دستگاه‌های با چیپ اسنپ‌دراگون اجرا کرد، ولی منظورش بیشتر لپ‌تاپ‌هایی مثل Copilot+ بود، نه گوشی. البته اگه گوشی‌ات مثلاً ۱۶ گیگ رم داشته باشه و بتونی کل شهر رو باهاش تغذیه کنی (!) قاعدتاً از نظر تئوری ممکنه، ولی تو واقعیت فعلاً زیاد روش حساب نکن. اما دور نیست روزی که این مدلا روی موبایل‌های معمولی ما هم اجرا بشن.
مدلا رو از کجا دانلود کنیم؟
هر دو مدل رو می‌تونی مستقیم از سایت Hugging Face (یه جور انبار مدل‌های هوش مصنوعی) با لایسنس Apache 2.0 دانلود کنی. تازه اگه فقط کنجکاوی و نمی‌خوای دانلود کنی، یه دمو آنلاینی هم هست که می‌تونی توی مرورگرت تست کنی!
جمع‌بندی سریع:
- gpt-oss-20b، مدل جمع‌وجور، حداقل ۱۶ گیگ رم می‌خواد، روی خیلی از لپ‌تاپای امروزی کار می‌کنه.
- gpt-oss-120b، مدل غول‌آسا، حداقل ۸۰ گیگ رم (ترجیحاً Workstation)، مناسب سیستم‌های حرفه‌ای.
- اجرای آنلاین بدون نیاز به دانلود هم هست.
- اجرای موبایلی فعلاً دور به نظر میاد ولی تو آینده نزدیک شدنی میشه!
اگه دنبال هوش مصنوعی باحال و جدید روی سیستم خودت هستی، الان بهترین فرصته تا مفت و مجانی این دو مدل اوپن‌ای‌آی رو تست کنی!
منبع: +
