خب، میخوام یه خبر باحال رو براتون باز کنم: OpenAI (همون تیم معروف ChatGPT) به‌تازگی دو مدل هوش مصنوعی جدید معرفی کردن به اسم‌های gpt-oss-20b و gpt-oss-120b. اینا فرق بزرگشون با مدل‌های قبلی اینه که کاملاً اوپن‌سورس و قابل نصبه – یعنی میشه دانلودشون کرد و روی کامپیوتر یا لپ‌تاپ خودت اجراشون کنی، بدون اینکه لازم باشه به اینترنت وصل باشی یا سرور عجیب و غریب بخری!
حالا این مدلها دقیقاً چی هستن؟
- مدل gpt‑oss‑20b همونطور که از اسمش پیداست حدود ۲۱ میلیارد پارامتر داره (پارامتر یعنی اون اطلاعات ریزی که مدل برای یاد گرفتن استفاده میکنه و هرچی بیشتر باشه مدل قوی‌تر و البته سنگین‌تر میشه). این مدل نسبتاً جمع‌وجوره و اصولاً واسه اینکه رو لپ‌تاپ و پی‌سی معمولی جواب بده ساخته شده.
- مدل gpt-oss-120b واقعاً یک غوله – ۱۱۷ میلیارد پارامتر! این بیشتر برای دیتا‌سنتر و سرورهای قوی طراحی شده ولی رو پی‌سی یا لپ‌تاپ خیلی خفن هم بالا میاد.
مدلها رو می‌تونی خیلی راحت از سایت Hugging Face بگیری (محیطی که کلی مدل هوش مصنوعی رایگان می‌ذارن). حتی یه دمو آنلاین هم دارن که بدون دانلود میشه امتحان کرد. ضمناً لایسنسشون Apache 2.0 ـه که اجازه میده براحتی استفاده یا حتی تغییرشون بدی (لایسنس یعنی مجوز و قوانینی که صاحب مدل تعیین میکنه).
■ برای نصب و اجراشون چی لازم داری؟
بریم سر اصل ماجرا: اگه میخوای این مدلها رو رو دستگاه خودت اجرا کنی، باید حواست به رم (RAM) و کارت گرافیک باشه.
-
حداقل رم لازم برای gpt‑oss‑20b: ۱۶ گیگ
اون‌جوری که OpenAI خودش گفته اگر ۱۶ گیگ رم داری (یا جمع رم سیستم و گرافیکت بشه ۱۶)، می‌تونی مدل کوچیک‌تر رو اجرا کنی. اما خب هرچی رم بیشتر، سرعت و راحتی کار بیشتر! مثلاً رو یه مک‌بوک پرو M3 با ۱۸ گیگ رم اجراش کردن و خوب جواب داده.
نکته جالب: AMD گفته، اگه CPU رایزن AI 300 و ۳۲ گیگ رم (که نصفش رو بدی گرافیک) داشته باشی با یه کارت گرافیک RX 7000 یا 9000 که ۱۶ گیگ رم داره، دیگه خیلی راحت و بی‌دردسر مدل رو اجرا می‌کنی. البته اینا الزام نیستن! هرچی هرکجای سیستمت (رم اصلی یا رم کارت گرافیک) جمعا بشه ۱۶ گیگ، میشه. این مدلها چون با Mixture of Experts یا MoE کار می‌کنن (این یعنی مدل، بخش‌های مختلفی داره که وظایف رو بین خودشون تقسیم می‌کنن و باعث میشه رم کمتری لازم باشه)، عملکردش بهینه‌تره. -
برای gpt-oss-120b: حداقل ۸۰ گیگ رم!
اینجا دیگه قضیه فرق داره! اگه دنبال مدل قوی‌تر (۱۲۰b) هستی باید سیستم واقعاً توپ داشته باشی. توی حالت ایده‌آل، کارت گرافیکت باید ۸۰ گیگ رم (یا وَرم – VRAM) داشته باشه! ولی میشه رم سیستمی و گرافیکی رو با هم جمع زد. مثلاً یکی تو ردیت با یه پی‌سی که ۶۴ گیگ رم اصلی داشته و یه کارت گرافیک RTX 3090 Ti با ۲۴ گیگ رم، تونسته همه رو جمع کنه و مدل رو بالا بیاره. AMD هم پیشنهاد داده برای مدل بزرگ از پردازنده Ryzen AI Max+ 395 و ۱۲۸ گیگ رم سیستمی (۹۶ گیگشو به گرافیک اختصاص بدی) استفاده بشه!
خلاصه، برای مدل بزرگ باید ماشینت واقعاً قدرتمند و ترجیحاً مخصوص کارهای هوش مصنوعی باشه.
■ چطوری مدلها رو نصب و اجرا کنیم؟
برای اجرا یکی از ساده‌ترین راه‌ها استفاده از اون برنامه‌ست به اسم «Ollama». این یه نرم‌افزار کراس‌پلتفرمه (یعنی رو ویندوز، مک و لینوکس نصب میشه). کافیه بری رو سایتش (ollama.com/download)، برنامه رو بگیری و نصبش کنی.
بعد که نصب شد این دوتا دستور رو توش بزنی:
ollama pull gpt-oss:20b
ollama run gpt-oss:20b
یا اگه مدل بزرگ رو خواستی همین دستورها رو با 120b وارد کن.
اگه راه دیگه‌ای میخوای، LM Studio هست که باز تقریبا مشابه همونه:
lms get openai/gpt-oss-20b
■ ویندوزی‌ها، مخصوصاً اونایی که نسخه ۱۱ یا ۱۰ دارن، می‌تونن Windows AI Foundry استفاده کنن (این مثل یه جعبه ابزار هوش مصنوعی برای ویندوزه). البته این هنوز نسخه تستیه (preview) و فقط رو کارت‌های گرافیک انویدیا با حداقل ۱۶ گیگ VRAM جواب میده – ولی به زودی مدل‌های AMD و بقیه رو هم ساپورت میکنه. واسه مک هم گفته‌اند به‌زودی ساپورت میشه.
■ گوشی چطور؟
سام آلتمن (مدیرعامل OpenAI) گفته این مدل کوچیک روی گوشی هم اجرا میشه! ولی خب واقعیتش یه‌کم اغراقه. مثلاً کوالکام یه بیانیه داده که این مدل روی دستگاه‌هایی با چیپ Snapdragon اجرا میشه؛ اما منظورش بیشتر لپ‌تاپ‌های Copilot+ بوده تا موبایل‌های واقعی. فعلاً اجرای gpt-oss-20b روی گوشی‌ها خیلی عملی نیست مگه اینکه گوشی فضایی باشه و ۱۶ گیگ رم (یا بیشتر) داشته باشه؛ حتی اون موقع هم بعید نیست روشن شه اما عملاً قابل استفاده نیست. اما این مسیر رو به پیشرفته و قطعاً به‌زودی می‌رسیم به جایی که مدل‌های هوش مصنوعی پیشرفته به‌راحتی رو موبایل اجرا بشن.
حالا اگه فقط میخوای کنجکاویتو جواب بدی و امتحانش کنی، اصلاً لازم نیست مدل رو دانلود کنی، یه دمو آنلاین هم دارن که میری تست می‌کنی و حالشو می‌بری!
خلاصه بچه‌ها: اگه تجهیزاتش رو داری (یا یکی رو تو فک و فامیل داری که سیستم قوی داره)، این مدلها رو می‌تونی کاملاً آفلاین و روی سیستم خودت اجرا کنی، کلی باهاشون بازی کنی، حتی شخصی‌سازیشون کنی. دنیا داره میره سمت هوش مصنوعی روی دستگاه شخصی، نه فقط در ابرا!
امیدوارم این راهنما کلی بهت انگیزه و مسیر داده باشه. اگر هنوز سوالی داشتی یا تو نصبش گیر کردی، دراپ بده – همینجاییم!
منبع: +
