یکپارچه‌سازی یادگیری ماشین در سیستم‌های نرم‌افزاری: راهکارها و چالش‌ها

محققان دانشگاه کارنگی ملون موفق به توسعه مدلی نوین از هوش مصنوعی شده‌اند که ترکیبی از مدل GARCH و شبکه‌های حافظه کوتاه‌مدت و بلندمدت (LSTM) است. این مدل ترکیبی هوش مصنوعی با بهره‌گیری از یادگیری ماشین مبتنی بر فیزیک و حقایق اثبات‌شده‌ی بازار، نوسانات بازار مالی را با دقتی بی‌سابقه پیش‌بینی می‌کند. رویکرد نوآورانه آن به بهبود قابل‌توجه عملکرد نسبت به مدل‌های سنتی منجر شده و افق‌های جدیدی برای کاربردهای مختلف گشوده است.

افق جدیدی در پیش‌بینی نوسانات بازار مالی

نوسان، از عوامل مهم در بازارهای مالی است. این عامل به‌طور مستقیم بر ریسک و بازده سرمایه‌گذاری تأثیر می‌گذارد. مدل‌هایی مانند چارچوب ناهمسانی واریانس شرطی خودرگرسیو (ARCH) برای چندین دهه در پیش‌بینی نوسانات سری‌های زمانی نقش اساسی داشته‌اند. اما این روش‌های سنتی در تطبیق با ویژگی‌های غیرخطی بازارهای پرنوسان با مشکل روبرو هستند. محققان دپارتمان مهندسی مکانیک دانشگاه کارنگی ملون، با درک این محدودیت، مدل ترکیبی پیشرفته‌ای توسعه داده‌اند. این مدل، معیار جدیدی در پیش‌بینی نوسانات بازار مالی ایجاد کرده است.

این چارچوب جدید که شبکه عصبی مبتنی بر GARCH (GINN) نام دارد، دقت آماری مدل GARCH را با قابلیت انطباق شبکه عصبی عمیق LSTM ترکیب می‌کند. GINN با ادغام این دو روش، هم روندهای کلی بازار و هم الگوهای پیچیده‌ی غیرخطی را که از دید رویکردهای مرسوم پنهان می‌مانند، شناسایی می‌کند.

تلفیق فیزیک و یادگیری ماشین

مدل GINN از یادگیری ماشین مبتنی بر فیزیک الهام گرفته است. این تکنیک، قوانین تثبیت‌شده‌ی فیزیک را در معماری‌های هوش مصنوعی ادغام می‌کند. در این مدل، تیم تحقیقاتی از “حقایق اثبات‌شده” – الگوهای تجربی مستند در بازارهای مالی – برای بهبود فرآیند یادگیری استفاده کرده است. GINN با گنجاندن این بینش‌های بازار در شبکه عصبی، هم از حقایق تاریخی و هم از قابلیت‌های پیش‌بینی مدل GARCH بهره می‌برد.

زدا زو، دانشجوی دکترای کارنگی ملون و نویسنده‌ی اصلی این مطالعه، اهمیت این رویکرد ترکیبی را چنین بیان می‌کند:

“مدل‌های سنتی یادگیری ماشین در معرض خطر ‘بیش‌برازش’ قرار دارند. یعنی مدل بیش از حد با داده‌های آموزشی خود تطبیق پیدا می‌کند. ما با ساخت یک مدل ترکیبی، قابلیت تعمیم و دقت را افزایش می‌دهیم.”

این استراتژی نوآورانه، بیش‌برازش را کاهش می‌دهد و قدرت پیش‌بینی را به حداکثر می‌رساند. به همین دلیل، این مدل ابزاری قدرتمند برای کاربردهای دنیای واقعی است.

عملکرد برتر در بازارهای جهانی

در آزمایش‌های گسترده در مقایسه با مدل‌های رقیب، GINN، مدل مستقل GARCH را با ۵٪ دقت بیشتر پشت سر گذاشت. این رویکرد ترکیبی، پیشرفت‌های قابل‌توجهی در پیش‌بینی نوسانات روزانه‌ی قیمت‌های بسته شدن در هفت شاخص اصلی بازار سهام در سراسر جهان نشان داد. این نتایج، توانایی GINN را برای تطبیق با شرایط مختلف بازار، که مزیتی حیاتی در چشم‌انداز مالی غیرقابل‌پیش‌بینی امروز است، برجسته می‌کند.

کریس مک‌کامب، دانشیار مهندسی مکانیک در کارنگی ملون، پیامدهای گسترده‌ی این کار را چنین بیان می‌کند:

“این نمونه‌ای عالی از توانایی روش‌های مهندسی در حوزه‌های دیگر است. با الهام از یادگیری ماشین مبتنی بر فیزیک و همکاری با متخصصان، راه جدیدی برای ساخت مدل‌های سری زمانی برای پیش‌بینی ایجاد کرده‌ایم.”

فراتر از امور مالی: کاربردهای گسترده‌تر

GINN کاربرد استثنایی در بازارهای مالی دارد، اما کاربردهای آن فراتر از این حوزه است. به گفته‌ی زو، این مدل برای هر کاربردی که شامل داده‌های سری زمانی است، مانند ناوبری خودروی خودران و سیستم‌های هوش مصنوعی مولد، مناسب است. این تطبیق‌پذیری، GINN را به ابزاری مؤثر در صنایعی که پیش‌بینی‌های دقیق در آن‌ها بسیار مهم است، تبدیل می‌کند.

ثمره‌ی همکاری

این مطالعه با همکاری متخصصانی از دانشگاه ایالتی پنسیلوانیا، دانشگاه نیویورک و دانشگاه لوند انجام شده است و نمونه‌ای از نوآوری بین‌رشته‌ای است. این تحقیق که در مجموعه مقالات پنجمین کنفرانس بین‌المللی ACM در مورد هوش مصنوعی در امور مالی منتشر شده است، ترکیبی از نبوغ مهندسی و تخصص حوزه‌های مختلف است و راه را برای پیشرفت‌های آینده در مدل‌سازی سری‌های زمانی هموار می‌کند.

گامی مهم در تجزیه و تحلیل پیش‌بینی‌کننده

معرفی GINN، پیشرفت قابل‌توجهی در پیش‌بینی مالی و فراتر از آن است. این مدل ترکیبی با ادغام روش‌های آماری و یادگیری ماشین، دقت، تطبیق‌پذیری و کاربرد را در زمینه‌های مختلف افزایش می‌دهد. از آنجایی که صنایع به طور فزاینده‌ای به تجزیه و تحلیل پیش‌بینی‌کننده متکی هستند، نوآوری‌هایی مانند GINN بدون شک نقش مهمی در آینده‌ی آن‌ها ایفا خواهند کرد.

اگر به خواندن کامل این مطلب علاقه‌مندید، روی لینک مقابل کلیک کنید: techxplore.com

بحث در مورد استدلال و توانایی هوش مصنوعی (AI) نظرات گسترده‌ای را برانگیخته است. این نظرات اغلب تحت تأثیر دیدگاه‌های انسان‌محورانه قرار دارند. برخی معتقدند که استدلال هوش مصنوعی اصالت و ویژگی‌های انسانی ندارد، در حالی که گروهی دیگر بر توانایی‌های شناختی و قابل اندازه‌گیری آن تأکید می‌کنند. در این مقاله، مفهوم استدلال و تأثیر انسان‌انگاری بر درک ما از توانایی‌های هوش مصنوعی بررسی می‌شود و معیارها، تعاریف و تحولات آن مورد تحلیل قرار می‌گیرد.

بررسی جنجال: آیا هوش مصنوعی می‌تواند استدلال کند؟

این سوال که آیا هوش مصنوعی می‌تواند استدلال کند، به بحثی داغ تبدیل شده است. نظرات در این مورد بسیار متفاوت است. برخی آن را کاملاً رد می‌کنند و برخی دیگر از پیشرفت‌های انقلابی آن سخن می‌گویند. مدل‌های جدید OpenAI، مانند GPT-4، این بحث را داغ‌تر کرده‌اند. برخی منتقدان، این مدل‌ها را صرفاً «تکمیل خودکار پیشرفته» یا «طوطی‌های تصادفی» می‌دانند. در مقابل، برخی دیگر آن‌ها را گامی به سوی عصر جدید هوش مصنوعی می‌بینند. در مرکز این اختلاف نظرها، یک سوال اساسی وجود دارد: منظور ما از «استدلال» چیست؟

تعریف «استدلال»

استدلال اغلب به عنوان یک توانایی شناختی تعریف می‌شود. این توانایی به حل مسائلی مربوط می‌شود که نیاز به تفکر منطقی دارند. این مسائل می‌توانند در حوزه‌های مختلفی مانند ریاضیات، استدلال عقل سلیم، درک زبان یا استنتاج باشند. برخی منتقدان بر اصطلاحاتی مانند «استدلال واقعی» یا «استدلال مانند انسان‌ها» تأکید دارند. اما این تعاریف اغلب نشان‌دهنده‌ی سوگیری انسان‌محورانه هستند. چنین دیدگاه‌هایی بیانگر این است که استدلال برای معتبر بودن باید مشابه فرآیندهای فکری انسان باشد. این موضوع درک ما از توانایی‌های هوش مصنوعی را محدود می‌کند.

به جای تمرکز بر شباهت استدلال هوش مصنوعی با انسان، رویکرد عینی‌تری وجود دارد. این رویکرد، ارزیابی توانایی هوش مصنوعی در حل مسائلی است که نیاز به استدلال دارند. این دیدگاه از انتظارات ذهنی جلوگیری می‌کند و به ما اجازه می‌دهد سیستم‌های هوش مصنوعی را بر اساس عملکرد قابل اندازه‌گیری ارزیابی کنیم.

نقش معیارها

برای تعیین توانایی استدلال هوش مصنوعی، محققان از معیارهای استاندارد استفاده می‌کنند. این معیارها، توانایی‌های شناختی را ارزیابی می‌کنند. برخی از این آزمون‌ها عبارتند از:

• HellaSwag و WinoGrande: این آزمون‌ها استدلال عقل سلیم را از طریق وظایفی مانند حل ضمیر ارزیابی می‌کنند.
• GLUE و SuperGLUE: این آزمون‌ها درک زبان طبیعی را اندازه‌گیری می‌کنند.
• AI2 Reasoning Challenge (ARC): این آزمون استدلال زنجیره‌ای فکری و حل مسئله چند مرحله‌ای را بررسی می‌کند.
• InFoBench: این آزمون توانایی پیروی از دستورالعمل‌ها را ارزیابی می‌کند.

به عنوان مثال، سوالات WinoGrande توانایی حل ضمایر مبهم را می‌سنجند. مثلاً مشخص کردن اینکه «او» در جمله به چه کسی اشاره دارد: «آن از مری پرسید که کتابخانه چه ساعتی بسته می‌شود زیرا او فراموش کرده بود.» انسان‌ها به راحتی این وظایف را انجام می‌دهند. اما این وظایف برای سیستم‌های هوش مصنوعی که با ظرافت‌های زبان آشنا نیستند، چالش‌برانگیز است.

عملکرد هوش مصنوعی در وظایف استدلال

مدل‌های پیشرفته هوش مصنوعی پیشرفت قابل توجهی در معیارهای مختلف نشان داده‌اند. به عنوان مثال:

• در HellaSwag، GPT-4 Turbo به دقت ۹۶ درصد دست یافت و از Gemini Pro گوگل با ۹۲.۵ درصد پیشی گرفت.
• در MMLU، که یادگیری چند وظیفه‌ای را اندازه‌گیری می‌کند، GPT-4 امتیاز حدود ۸۷ درصد را کسب کرد که کمی از ۹۰ درصد Gemini Ultra عقب‌تر است.

این نتایج نشان می‌دهد که مدل‌های بزرگ زبانی (LLM) توانایی‌های استدلالی فراتر از تطبیق الگو دارند. توانایی پیروی از دستورالعمل‌های پیچیده و تولید نتایج دقیق نشان‌دهنده‌ی سطحی از عملکرد شناختی است که رد ساده‌انگارانه‌ی آن را دشوار می‌کند.

پرداختن به انتقادات رایج

با وجود این پیشرفت‌ها، برخی منتقدان هنوز بر این باورند که هوش مصنوعی فاقد استدلال «واقعی» یا «معتبر» است. این انتقادات اغلب به تعاریف ذهنی از استدلال وابسته هستند که ویژگی‌های انسان‌گونه را بر نتایج قابل اندازه‌گیری ترجیح می‌دهند.

سوگیری انسان‌محور

یک موضوع تکراری این باور است که استدلال معتبر باید شبیه شناخت انسان باشد. به عنوان مثال، نوام چامسکی معتقد است هوش مصنوعی نمی‌تواند مانند انسان‌ها «واقعاً فکر کند» یا معنی را درک کند. همچنین، محققان اپل اخیراً محدودیت‌هایی در توانایی‌های استنتاج هوش مصنوعی بیان کرده‌اند. آن‌ها متوجه شده‌اند که وقتی جزئیات بی‌ربط به مسائل اضافه می‌شوند، عملکرد هوش مصنوعی کاهش می‌یابد.

این انتقادات حوزه‌هایی را نشان می‌دهند که هوش مصنوعی با هوش انسانی متفاوت است. اما آن‌ها همچنین سوگیری در برابر دانستن استدلال انسان به عنوان تنها شکل «معتبر» استدلال را برجسته می‌کنند. این دیدگاه احتمال وجود شکل جدید و غیرانسانی هوش در هوش مصنوعی را نادیده می‌گیرد.

مغالطه «طوطی تصادفی»

یکی دیگر از انتقادات رایج این است که مدل‌های هوش مصنوعی مانند «طوطی‌های تصادفی» هستند که الگوها را بدون درک تقلید می‌کنند. اما این توصیف، مکانیسم‌های پیچیده LLMها را بیش از حد ساده می‌کند. سیستم‌های هوش مصنوعی مدرن می‌توانند از دستورالعمل‌های پیچیده پیروی کنند، با زمینه‌های متنوع سازگار شوند و مسائلی را در حوزه‌های مختلف حل کنند. این قابلیت‌ها فراتر از حافظه یا تقلید ساده هستند.

همانطور که سباستین بوبک، محقق مایکروسافت، بیان می‌کند، توانایی هوش مصنوعی در پیروی از دستورالعمل‌ها و تولید پاسخ‌های مناسب نشان‌دهنده‌ی نوعی درک است، حتی اگر با شناخت انسان متفاوت باشد.

تکامل استدلال هوش مصنوعی

یکی از پیشرفت‌های امیدوارکننده در استدلال هوش مصنوعی، مفهوم درخواست زنجیره فکری (Chain of Thought : CoT) است که توسط گوگل معرفی شده است. این رویکرد، سیستم‌های هوش مصنوعی را به تقسیم مسائل به مراحل منطقی تشویق می‌کند و توانایی آن‌ها را در مدیریت وظایف پیچیده بهبود می‌بخشد. به عنوان مثال، مدل‌های جدید OpenAI از تکنیک‌های CoT برای افزایش دقت استدلال استفاده می‌کنند.

با این حال، استدلال محدود به حل مسئله چند مرحله‌ای نیست. اشکال ساده‌تر استدلال، مانند استنتاج عقل سلیم، نیز در ارزیابی توانایی‌های شناختی هوش مصنوعی مهم هستند. با در نظر گرفتن تنوع وظایف استدلال، می‌توانیم درک دقیق‌تری از نقاط قوت و محدودیت‌های هوش مصنوعی به دست آوریم.

یک هوش بیگانه

هوش مصنوعی مدرن نوعی هوش را نشان می‌دهد که با شناخت انسان متفاوت است. برخلاف انسان‌ها که لحظات «آها» درک را تجربه می‌کنند، هوش مصنوعی به مدل‌های احتمالی و تشخیص الگو متکی است. این تفاوت اغلب منجر به سوء تفاهم در مورد قابلیت‌های آن می‌شود.

به عنوان مثال، محققان اپل دریافتند که LLMها در مواجهه با جزئیات بی‌ربط در مسائل ریاضی با مشکل مواجه می‌شوند. انسان‌ها می‌توانند به راحتی اطلاعات اضافی را فیلتر کنند، اما سیستم‌های هوش مصنوعی به دلیل تکیه بر نشانه‌های زمینه‌ای دچار مشکل می‌شوند.

با وجود این محدودیت‌ها، رد توانایی‌های استدلال هوش مصنوعی به دلیل تفاوت آن با تفکر انسان، دیدگاه کلی را نادیده می‌گیرد. به جای انتظار تقلید هوش مصنوعی از هوش انسان، باید آن را به عنوان شکلی «بیگانه» از استدلال با نقاط قوت و ضعف منحصر به فرد بپذیریم.

افکار پایانی: تعریف مجدد استدلال

بحث در مورد توانایی استدلال هوش مصنوعی اغلب نشان‌دهنده‌ی سوگیری‌ها و فرضیات خودمان است. با اصرار بر شباهت استدلال با شناخت انسان، ممکن است پتانسیل هوش مصنوعی به عنوان شکلی متمایز از هوش را دست کم بگیریم. در عوض، باید بر نتایج قابل اندازه‌گیری تمرکز کنیم و روش‌های متنوع استدلال را به رسمیت بشناسیم.

پیشرفت هوش مصنوعی در حل مسائل پیچیده و سازگاری با چالش‌های جدید، نشان‌دهنده‌ی رشد توانایی‌های شناختی آن است. با اصلاح تعاریف و معیارهایمان، ممکن است دریابیم که استدلال مختص انسان‌ها نیست، بلکه توانایی مشترکی است که در اشکال مختلف هوش وجود دارد.

در نهایت، پذیرش این دیدگاه وسیع‌تر نیازمند فروتنی است. باید بپذیریم که استدلال انسان تنها یک نمونه از طیف وسیعی از احتمالات شناختی است.

اگر به خواندن کامل این مطلب علاقه‌مندید، روی لینک مقابل کلیک کنید: medium

خواندن مقالات یادگیری ماشین برای تازه‌کارها می‌تواند نقطه شروعی ارزشمند برای ورود به این حوزه باشد. در این راهنما، روش‌های کاربردی برای مدیریت حجم مقالات و تقویت درک عمیق‌تر از مفاهیم اصلی یادگیری ماشین را کشف خواهید کرد. این مهارت نه‌تنها پایه‌ای قوی برای پیشرفت شما ایجاد می‌کند، بلکه به شما کمک می‌کند تا در مسیر یادگیری خود هدفمندتر عمل کنید.

چرا خواندن مقالات برای تازه‌کارهای یادگیری ماشین ضروری است؟

یادگیری ماشین (Machine Learning : ML) حوزه‌ای‌ست که خیلی سریع در حال پیشرفت است. هر روز بیش از ۱۰۰ مقاله‌ی جدید درباره‌ی علوم کامپیوتر و یادگیری ماشین در پلتفرم‌هایی مثل arXiv منتشر می‌شود. این حجم از اطلاعات، با اینکه خیلی ارزشمند است، می‌تواند برای تازه‌کارها گیج‌کننده و طاقت‌فرسا باشد. با این حال، خواندن این مقالات فوایدی دارد که از درک الگوریتم‌ها و تکنیک‌ها فراتر می‌رود.

یک مقاله‌ی تحقیقاتی خوب مثل یک سخنرانی کوتاه درباره‌ی یک موضوع خاص است. برای اینکه این مقالات در کنفرانس‌های معتبری مثل NeurIPS، CVPR یا ICLR پذیرفته شوند، باید استانداردهای سختی را در زمینه‌ی وضوح، سازماندهی و عمق رعایت کنند. این مقالات معمولا شامل موارد زیر هستند:

• مقدمه‌ای روشن درباره‌ی موضوع
• توضیح دقیق روش‌ها و آزمایش‌ها
• نتایج و خلاصه‌ای که همه چیز را به هم مرتبط می‌کند.

این ساختار برای یادگیری تازه‌کارها ایده‌آل است. مقالات اغلب اصطلاحات کلیدی را معرفی می‌کنند، دسته‌بندی کارهای مرتبط را ارائه می‌دهند و چالش‌های موجود در این حوزه را مشخص می‌کنند. با خواندن مقالات بیشتر، شما یک نقشه‌ی ذهنی از فضای تحقیقات ایجاد می‌کنید و روندها، روش‌ها و سوالات بی‌پاسخ را شناسایی خواهید کرد.

بعلاوه، خواندن مقالات، مهارت‌های تفکر انتقادی شما را تقویت می‌کند. وقتی کار را بررسی می‌کنید، به طور طبیعی سوالاتی در ذهنتان ایجاد می‌شود، مثل:

• آزمایش‌ها چطور طراحی شده‌اند؟
• آیا مراحل آماده‌سازی داده‌ها کافی بوده است؟
• چه سوگیری‌هایی ممکن است وجود داشته باشد؟

با تحلیل این جزئیات، نه تنها محقق بهتری می‌شوید، بلکه با اجتناب از اشتباهات رایج در مقالات، کدهای خودتان را هم بهبود می‌بخشید.

چطور خواندن مقالات یادگیری ماشین را شروع کنیم؟

یک حوزه تمرکز انتخاب کنید

یادگیری ماشین حوزه‌ی وسیعی است. برای مدیریت این فرآیند، با انتخاب یک زیرشاخه‌ی خاص که به آن علاقه دارید شروع کنید. برخی از زیرشاخه‌های محبوب عبارتند از:

• بینایی کامپیوتر (Computer Vision)
• پردازش زبان طبیعی (Natural Language Processing)
• یادگیری تقویتی (Reinforcement Learning)
• تکنیک‌های تجسم (Visualization Techniques)

تمرکز روی یک حوزه مانع از پراکندگی می‌شود و به شما اجازه می‌دهد درک عمیق‌تری در آن حوزه پیدا کنید.

منابع داوری‌شده را در اولویت قرار دهید

کیفیت مقالات اهمیت زیادی دارد. مجلات و کنفرانس‌های داوری‌شده تضمین می‌کنند که کار از نظر محتوا و ارائه با استانداردهای خاصی مطابقت دارد. مقالات منتشر شده در مکان‌های معتبر مانند موارد زیر را پیدا کنید:

• کنفرانس‌ها: NeurIPS، CVPR، ICLR، ICML، ECML
• مجلات: JMLR (Journal of Machine Learning Research)

داوری همتا، به خصوص داوری دوسوکور، ارزیابی بی‌طرفانه‌ی نسخه‌های اولیه را تضمین می‌کند و مطالب قابل اعتمادی برای مطالعه در اختیار شما قرار می‌دهد.

مقالات را هوشمندانه انتخاب کنید

بعد از مشخص کردن حوزه‌ی مورد علاقه‌تان، شروع به جستجوی مقالات کنید. می‌توانید انتخاب‌هایتان را بر اساس موارد زیر محدود کنید:

• عناوینی که برایتان جذاب هستند
• مقالاتی با نمودارها و تصاویر که ایده‌های پیچیده را ساده‌تر می‌کنند
• سطح ریاضی مقالات – مقالاتی را انتخاب کنید که با سطح فعلی شما همخوانی دارند.

به عنوان یک تازه‌کار، روی مقالاتی که ۲ تا ۷ سال قدمت دارند تمرکز کنید. این مقالات اغلب دانش پایه را ارائه می‌دهند و کمتر شما را با پیشرفت‌های خیلی جدید گیج می‌کنند. تحقیقات جدیدتر را برای مراحل بعدی یادگیری‌تان بگذارید.

یک فهرست مطالعه تهیه کنید

هدف، جمع‌آوری ۵ تا ۲۰ مقاله از زیرشاخه‌ی انتخابی‌تان است. لازم نیست این مقالات را به ترتیب خاصی بخوانید. هدف این است که با موضوعات و روش‌های مختلف در آن حوزه آشنا شوید.

انتظارات واقع‌بینانه داشته باشید

خواندن مقالات پژوهشی مهارتی است که به زمان نیاز دارد. انتظار نداشته باشید که همه چیز را فوراً بفهمید. در ابتدا، ممکن است ۳ ساعت یا بیشتر طول بکشد تا یک مقاله را بخوانید. به مرور زمان، با آشنایی با ساختار و اصطلاحات، این زمان به حدود ۱ تا ۱.۵ ساعت برای هر مقاله کاهش می‌یابد.

نکته‌ی کلیدی، پشتکار است. حتی اگر در ابتدا همه چیز را کامل متوجه نشوید، خود عمل خواندن ارزشمند است. هر مقاله‌ای که می‌خوانید به درک شما از آن حوزه اضافه می‌کند و به تقویت مهارت‌های تحلیلی‌تان کمک می‌کند.

نکاتی برای خواندن مؤثر مقالات

1. قبل از شروع به خواندن دقیق، مقاله را مرور کنید: با خواندن چکیده، مقدمه و نتیجه‌گیری شروع کنید تا یک دید کلی از هدف و یافته‌های مقاله به دست آورید.
2. روی بخش‌های مهم تمرکز کنید: اگر بخش‌هایی خیلی پیچیده هستند (مثلاً اثبات‌های ریاضی)، از آنها بگذرید و روی روش یا نتایج تمرکز کنید.
3. یادداشت برداری کنید: نکات کلیدی، سوالات یا اصطلاحاتی را که نمی‌فهمید یادداشت کنید. این کار به یادگیری شما کمک می‌کند و موضوعاتی برای تحقیق بیشتر به شما می‌دهد.
4. به طور منظم تمرین کنید: خواندن مقاله را به یک عادت تبدیل کنید – چه یک مقاله در هفته باشد یا چند مقاله در ماه. تداوم برای کسب تخصص در طول زمان ضروری است.

نتیجه‌گیری

با اینکه حجم زیاد مقالات یادگیری ماشین ممکن است دلهره‌آور باشد، تازه‌کارها نباید از این منبع ارزشمند دوری کنند. هر مقاله، یک درس فشرده درباره‌ی یک موضوع خاص است و به شما کمک می‌کند پایه‌ی قوی در حوزه‌ی مورد علاقه‌تان بسازید و همزمان مهارت‌های تحلیلی و تفکر انتقادی خود را تقویت کنید. با تمرکز روی مقالات داوری‌شده در یک زیرشاخه‌ی خاص و نزدیک شدن به این فرآیند با صبر و پشتکار، خودتان را برای موفقیت در دنیای یادگیری ماشین آماده می‌کنید.

مطالعه‌ی خوبی داشته باشید و از سفر اکتشاف لذت ببرید!

اگر به خواندن کامل این مطلب علاقه‌مندید، روی لینک مقابل کلیک کنید: medium

حتی با پیشرفت مدل‌های زبانی پیشرفته مانند GPT-4o و Gemini 1.5، تولید مبتنی بر بازیابی (RAG) همچنان به عنوان یک رویکرد کلیدی در کاربردهای هوش مصنوعی شناخته می‌شود. این روش نه تنها هزینه‌ها را کاهش می‌دهد، بلکه با گزینش اطلاعات مرتبط و کاهش خطاهای اطلاعاتی، نقشی حیاتی در بهبود عملکرد مدل‌های زبانی ایفا می‌کند. به همین دلیل، تولید مبتنی بر بازیابی همچنان بخشی جدایی‌ناپذیر از تکامل مدل‌های زبانی مدرن است.

چرا تولید مبتنی بر بازیابی (RAG) همچنان مهم است؟

تولید مبتنی بر بازیابی (Retrieval-Augmented Generation: RAG) تکنیکی مهم برای بهبود دقت و مرتبط بودن پاسخ‌های مدل‌های زبانی بزرگ (LLM) است. این تکنیک با ارائه اطلاعات خارجی از طریق دستورات، دانش داخلی و از پیش‌آموزه‌ی مدل را تکمیل می‌کند. مدل‌های زبانی بزرگ با زمینه طولانی به سرعت در حال پیشرفت هستند. با این حال، RAG مزایای بی‌نظیری دارد که آن را ضروری می‌سازد. در ادامه به بررسی دلایل این امر می‌پردازیم.

نگاهی به ریشه‌های RAG

مفهوم RAG در سال ۲۰۲۰ مطرح شد. در آن زمان، محققان هوش مصنوعی فیس‌بوک/متا این مفهوم را در مقاله‌ی خود با عنوان «تولید مبتنی بر بازیابی برای وظایف پردازش زبان طبیعی دانش‌محور» معرفی کردند. آن‌ها دو نوع حافظه را در مدل‌های زبانی بزرگ شناسایی کردند:

1. حافظه پارامتریک: دانشی که در طول آموزش در مدل جایگذاری شده است.
2. حافظه غیر پارامتریک: اطلاعات خارجی که هنگام اجرا از طریق دستورات به مدل داده می‌شود.

این مطالعه نشان داد که با ادغام اطلاعات خارجی در دستورات، RAG می‌تواند پاسخ‌های دقیق‌تر و واقعی‌تری نسبت به استفاده‌ی صرف از دانش پارامتریک مدل ارائه دهد.

مشکل خطاهای اطلاعاتی در مدل‌های زبانی بزرگ

OpenAI در نوامبر ۲۰۲۲ ChatGPT را منتشر کرد. این اتفاق پتانسیل بالای مدل‌های زبانی بزرگ را برای تولید پاسخ‌های انسان‌گونه نشان داد. اما، محدودیت‌هایی نیز به سرعت آشکار شد:

• کمبود اطلاعات به‌روز: مدل‌های زبانی بزرگ به اطلاعات و رویدادهای بعد از آموزش خود دسترسی ندارند.
• خطاهای اطلاعاتی: وقتی از مدل‌های زبانی بزرگ سوالی خارج از دانش آن‌ها پرسیده می‌شود، به جای پذیرفتن نمی‌دانم، پاسخ‌های نادرست تولید می‌کنند.

RAG این کاستی‌ها را جبران می‌کند. RAG پاسخ‌ها را بر اساس اطلاعات خارجی، به‌روز و مرتبط تنظیم می‌کند. به این ترتیب، خطاهای اطلاعاتی را کاهش داده و دقت را بهبود می‌بخشد.

ظهور و مزایای RAG

در اواسط سال ۲۰۲۳، RAG به عنوان راهکاری موثر برای بهبود عملکرد مدل‌های زبانی بزرگ مورد توجه قرار گرفت. این روش ساده اما قدرتمند است: به جای پرسیدن مستقیم سوال از مدل، اطلاعاتی مرتبط به همراه سوال ارائه می‌شود. برای مثال:

مزایای کلیدی RAG:

• کاهش خطاهای اطلاعاتی: با ارائه‌ی اطلاعات مرتبط، RAG پاسخ‌های نادرست را به حداقل می‌رساند.
• اطلاعات به‌روز و اختصاصی: مدل‌های زبانی بزرگ را قادر می‌سازد تا از اطلاعات لحظه‌ای یا اختصاصی که در داده‌های آموزشی آن‌ها نبوده، استفاده کنند.
• بهبود کیفیت پاسخ: پاسخ‌ها با توجه به اطلاعات داده شده تنظیم و مرتبط‌تر می‌شوند.

چالش‌ها با پنجره‌های زمینه محدود

در اوایل ظهور RAG، مدل‌هایی مانند GPT-3.5 حداکثر پنجره زمینه ۴۰۰۰ توکن (حدود ۳۰۰۰ کلمه انگلیسی) داشتند. یعنی دستور ورودی و پاسخ خروجی باید در این محدوده قرار می‌گرفتند. ایجاد تعادل بین ارائه‌ی اطلاعات کافی و فضای لازم برای پاسخ مدل یک چالش بود.

مدل‌های با زمینه طولانی: یک تغییر اساسی؟

با معرفی مدل‌هایی با زمینه طولانی مثل GPT-4o (۱۲۸ هزار توکن) و Gemini 1.5 گوگل (۱ میلیون توکن)، میزان متنی که می‌توان پردازش کرد به طور چشمگیری افزایش یافته است. این پیشرفت باعث شده برخی بپرسند که آیا هنوز به RAG نیاز هست یا خیر.

استدلال‌های مخالف RAG:

• زمینه‌های بزرگتر، اطلاعات بیشتری را در خود جای می‌دهند: با فضای کافی برای کل اسناد یا مجموعه داده‌ها، برخی معتقدند دیگر نیازی به انتخاب اطلاعات مرتبط نیست.
• نتایج احتمالا بهتر: مطالعاتی مثل «تولید مبتنی بر بازیابی یا مدل‌های زبانی بزرگ با زمینه طولانی؟ یک مطالعه جامع و رویکرد ترکیبی» (ژوئیه ۲۰۲۴) نشان می‌دهد که دستورات با زمینه طولانی در بسیاری از موارد بهتر از RAG عمل می‌کنند.

استدلال‌های موافق RAG:

با وجود این پیشرفت‌ها، RAG به دلایل زیر همچنان مهم است:

1. کیفیت بر کمیت: تحقیقات جدید (سپتامبر ۲۰۲۴) نشان می‌دهد وارد کردن اطلاعات زیاد در دستورات با زمینه طولانی می‌تواند کیفیت پاسخ را کاهش دهد. ترتیب و ارتباط داده‌ها برای بهترین نتیجه ضروری است.
2. صرفه‌جویی در هزینه: پردازش دستورات طولانی‌تر به منابع محاسباتی بیشتری نیاز دارد. RAG با حذف اطلاعات بی‌ربط، هزینه‌ها را کاهش می‌دهد و کیفیت پاسخ را حفظ می‌کند.
3. سوگیری موقعیت در مدل‌های زبانی بزرگ: مطالعاتی مانند «گم شدن در وسط: چگونه مدل‌های زبانی از زمینه‌های طولانی استفاده می‌کنند» (ژوئیه ۲۰۲۳) نشان می‌دهد مدل‌های زبانی با اطلاعات مرتبط در ابتدای دستور، عملکرد بهتری دارند. RAG به اولویت‌بندی و مرتب‌سازی اطلاعات کلیدی کمک می‌کند.

آینده RAG

پیش‌بینی می‌شود RAG در کنار مدل‌های زبانی با زمینه طولانی تکامل یابد و بر نقش‌های جدیدی مانند موارد زیر تمرکز کند:

• حذف اطلاعات بی‌ربط: به جای بازیابی بخش‌های مرتبط، سیستم‌های RAG آینده ممکن است بر حذف اطلاعات غیرضروری برای بهینه‌سازی پنجره‌های زمینه تمرکز کنند.
• مدل‌های تخصصی: استفاده از مدل‌های کوچک‌تر و تخصصی‌تر می‌تواند RAG را در مقایسه با مدل‌های عمومی کارآمدتر و مقرون‌به‌صرفه‌تر کند.

در واقع، منسوخ شدن RAG بعید است. توانایی آن در افزایش کیفیت پاسخ و کارایی محاسباتی، اهمیت مداوم آن را در عصر مدل‌های زبانی با زمینه طولانی تضمین می‌کند.

نکات پایانی

مدل‌های زبانی بزرگ با زمینه طولانی پیشرفتی قابل توجه هستند، اما RAG را بی‌اهمیت نمی‌کنند. بلکه، نقاط قوت مکمل هر دو رویکرد را برجسته می‌کنند. با ترکیب قابلیت‌های زمینه طولانی با دقت و صرفه‌جویی RAG، می‌توانیم به نتایج بهتری در وظایف دانش‌محور دست یابیم.

همانطور که هوش مصنوعی به تکامل خود ادامه می‌دهد، ایجاد تعادل بین نوآوری و کاربردی بودن ضروری است – و RAG این تعادل را به خوبی نشان می‌دهد.

اگر به خواندن کامل این مطلب علاقه‌مندید، روی لینک مقابل کلیک کنید: medium

بیایید ملزومات یادگیری ماشین پایدار را بررسی کنیم. در این رویکرد، خطوط لوله یادگیری ماشین با بهینه‌سازی مصرف منابع ترکیب می‌شوند. با استراتژی‌هایی مانند سیستم‌های خود انطباق‌پذیر، سخت‌افزار کم‌مصرف و بهینه‌سازی چرخه حیات آشنا می‌شویم. هدف، کاهش اثرات زیست‌محیطی یادگیری ماشین پایدار بدون کاهش عملکرد است.

MLOps چیست و چرا به پایداری نیاز دارد؟

MLOps ترکیبی از “یادگیری ماشین” و “عملیات” است. این رویکرد بر پایه اصول DevOps بنا شده تا چرخه حیات مدل‌های یادگیری ماشین را ساده‌تر کند. این چرخه شامل توسعه، استقرار، نظارت و انطباق مدل‌ها می‌شود. اما آموزش و نگهداری مدل‌ها به محاسبات سنگینی نیاز دارد. به همین دلیل، پایداری به یک دغدغه مهم تبدیل شده است. این فرآیندها می‌توانند منجر به مصرف زیاد انرژی، هزینه‌های عملیاتی بالا و ردپای کربن قابل توجه شوند.

• نیازهای انرژی و منابع: مدل‌های یادگیری ماشین در مقیاس بزرگ، مخصوصاً چارچوب‌های یادگیری عمیق، به داده‌ها و قدرت محاسباتی زیادی نیاز دارند. برای مثال، آموزش مدلی مانند BERT می‌تواند به اندازه یک پرواز بین قاره‌ای CO₂ تولید کند. آموزش مجدد و نظارت مداوم، این نیازها را بیشتر هم می‌کند.
• پایداری به عنوان یک هدف: هدف MLOps پایدار، بهینه‌سازی مصرف منابع بدون کاهش کارایی مدل است. استراتژی‌های اصلی شامل بهینه‌سازی فرآیندهای آموزشی، استفاده از سیستم‌های خود انطباق‌پذیر و استفاده از زیرساخت‌های کارآمد می‌شود.

رویکردهای کلیدی برای MLOps پایدار

۱. خود انطباقی در MLOps: حلقه MAPE-K

یکی از استراتژی‌های اصلی برای پایداری، استفاده از حلقه MAPE-K در خطوط لوله MLOps است. این چارچوب امکان انطباق و بهینه‌سازی در لحظه را فراهم می‌کند:

• نظارت (Monitor): داده‌های مربوط به عملکرد خط لوله، مثل مصرف انرژی و دقت، جمع‌آوری می‌شود.
• تجزیه و تحلیل (Analyze): داده‌ها برای شناسایی ناهنجاری‌ها یا تغییرات، مانند رانش مدل، بررسی می‌شوند.
• برنامه‌ریزی (Plan): با استفاده از قوانین از پیش تعیین شده، استراتژی‌هایی برای رفع مشکلات شناسایی شده تدوین می‌شود.
• اجرا (Execute): تنظیمات به صورت پویا و با استفاده از یک پایگاه دانش اعمال می‌شود.

مثال: در یک پروژه کیفیت هوای شهر هوشمند، این رویکرد مصرف انرژی را ۳۲٪ کاهش داد. سیستم بر اساس نیازهای لحظه‌ای، به طور پویا بین مدل‌های کم‌مصرف و پرمصرف جابجا می‌شد.

۲. پایداری در سراسر چرخه حیات ML

بهینه‌سازی هر مرحله از چرخه حیات یادگیری ماشین برای پایداری بسیار مهم است:

• جمع‌آوری و آماده‌سازی داده‌ها: داده‌های اضافی را به حداقل برسانیم. از زیرمجموعه‌های نماینده استفاده کنیم. با تحلیل اکتشافی داده‌ها (EDA)، الگوها را در مراحل اولیه تشخیص دهیم.
• آموزش مدل: از روش‌هایی مانند یادگیری انتقالی و محاسبات ابری با انرژی تجدیدپذیر استفاده کنیم.
• استقرار و نظارت: از سیستم‌های نظارت خودکار برای تشخیص رانش داده یا ناهنجاری‌ها استفاده کنیم تا تخصیص منابع به طور کارآمد انجام شود.

تکنیک‌هایی مانند مقیاس‌بندی پویا و سخت‌افزار کم‌مصرف (مانند TPUها و GPUها) پایداری را بیشتر افزایش می‌دهند.

۳. استراتژی‌های سیستماتیک MLOps

این رویکرد بر تکنیک‌های ساختار یافته برای پایداری تأکید دارد:

• مدیریت سیستم تطبیقی: در صورت نیاز، بین مدل‌های پرمصرف و کم‌مصرف به صورت پویا تغییر وضعیت دهیم.
• زمان‌بندی آگاه از کربن: وظایف محاسباتی را بر اساس میزان CO₂ منابع انرژی بهینه‌سازی کنیم و به مناطق دارای انرژی تجدیدپذیر یا دوره‌های کم‌مصرف اولویت دهیم.
• فشرده‌سازی مدل: اندازه مدل و نیازهای محاسباتی را با استفاده از هرس یا کوانتیزاسیون کاهش دهیم.

ابعاد پایداری در MLOps

رسیدن به MLOps پایدار نیازمند ایجاد تعادل بین سه بُعد است:

1. فناوری: قابلیت نگهداری و تطبیق‌پذیری را از طریق مدیریت پویا منابع و تغییر مدل تضمین کنیم.
2. محیط زیست: با اجرای مدل‌ها فقط در صورت نیاز، استفاده از سخت‌افزار کم‌مصرف و بهینه‌سازی معماری مدل، تأثیر زیست‌محیطی را به حداقل برسانیم.
3. اقتصاد: با کاهش فرآیندهای محاسباتی غیرضروری و پیاده‌سازی راه‌حل‌های محاسبات لبه، هزینه‌های عملیاتی را کاهش دهیم.

مراحل عملی برای خطوط لوله MLOps پایدار

1. بهینه‌سازی ذخیره‌سازی و پردازش داده‌ها:
2. از ذخیره داده‌های اضافی خودداری کنیم.
3. داده‌های نامربوط را در ابتدای خط لوله حذف کنیم.

4. فایل‌ها را فشرده کنیم یا فقط اطلاعات ضروری را ذخیره کنیم.

5. پیاده‌سازی نظارت و انطباق مداوم:

6. از چارچوب‌هایی مانند حلقه MAPE-K برای نظارت بر عملکرد سیستم و انجام تنظیمات در لحظه استفاده کنیم.

7. آزمایش‌های منظمی برای شناسایی انحرافات در کیفیت داده یا دقت مدل انجام دهیم.

8. اتخاذ مدیریت بلندمدت مدل و داده:

9. مدل‌ها و مجموعه داده‌ها را به طور سیستماتیک برای ردیابی و بهینه‌سازی در آینده نسخه‌بندی کنیم.
10. نسخه‌های قبلی را برای شفافیت و انعطاف‌پذیری حفظ کنیم.

نکات پایانی

با گسترش روزافزون یادگیری ماشین، تلفیق شیوه‌های پایدار در MLOps بسیار ضروری است. تکنیک‌هایی مانند مکانیسم‌های خود انطباق‌پذیر، سخت‌افزار کم‌مصرف و بهینه‌سازی چرخه حیات، نه تنها تأثیر زیست‌محیطی را کاهش می‌دهند، بلکه کارایی و صرفه‌جویی سیستم را نیز افزایش می‌دهند. MLOps پایدار یک رویکرد آینده‌نگرانه است و تضمین می‌کند که پیشرفت‌های فناوری با الزامات زیست‌محیطی و اقتصادی هماهنگ باشند.

اگر به خواندن کامل این مطلب علاقه‌مندید، روی لینک مقابل کلیک کنید: medium

پژوهشگران هوش مصنوعی به مرز داده‌های موجود آنلاین برای آموزش مدل‌های زبانی بزرگ مانند ChatGPT نزدیک شده‌اند. این کمبود داده، توسعه هوش مصنوعی را با چالش‌هایی روبه‌رو می‌کند و احتمالاً آن را به سمت استفاده از مدل‌های کوچک‌تر و تخصصی‌تر، تولید داده مصنوعی و بهره‌گیری از مجموعه داده‌های جایگزین هدایت می‌کند.

آیا عطش هوش مصنوعی برای داده‌ها به پایان خود نزدیک می‌شود؟

هوش مصنوعی (Artificial intelligence : AI) در دهه گذشته پیشرفت چشمگیری داشته است. این پیشرفت عمدتاً به دلیل گسترش شبکه‌های عصبی و آموزش آن‌ها با مجموعه داده‌های بسیار بزرگ است. مدل‌های زبانی بزرگ (Large Language Models : LLMs)، مانند مدل‌های ChatGPT، نه‌تنها می‌توانند زبان محاوره‌ای را تقلید کنند، بلکه قابلیت‌های جدیدی مانند استدلال را نیز نشان می‌دهند. اما پژوهشگران هشدار می‌دهند که این پیشرفت سریع ممکن است به زودی با مانعی روبرو شود: کمبود داده‌های آموزشی.

یک مطالعه توسط Epoch AI پیش‌بینی می‌کند که تا سال ۲۰۲۸، حجم مجموعه داده‌های آموزشی با کل متن موجود در اینترنت برابری خواهد کرد. یعنی اینترنت، که منبعی به‌ظاهر نامحدود از دانش بشری است، ممکن است برای آموزش هوش مصنوعی خالی شود. این مشکل با افزایش قوانین مربوط به نحوه استفاده از داده‌ها و مقاومت تولیدکنندگان محتوا و ناشران در برابر کپی‌برداری غیرمجاز از مطالبشان، جدی‌تر می‌شود.

بحران داده و پیامدهای آن

LLMها به مقدار شگفت‌انگیزی داده نیاز دارند. در سال‌های اخیر، تعداد توکن‌ها (واحدهای کلمه) برای آموزش این مدل‌ها از صدها میلیارد به ده‌ها تریلیون افزایش یافته است. اما رشد داده‌های متنی باکیفیت و قابل استفاده در اینترنت کند است – کمتر از ۱۰٪ در سال. با دو برابر شدن حجم داده‌های آموزشی هوش مصنوعی در هر سال، پیش‌بینی می‌شود که این دو در عرض چند سال به هم برسند.

چالش دیگر، مقاومت روزافزون ارائه‌دهندگان محتوا است. بسیاری از وب‌سایت‌ها از روش‌های فنی برای جلوگیری از جمع‌آوری داده‌ها توسط خزنده‌های وب استفاده می‌کنند. برای مثال، مطالعه‌ای توسط Data Provenance Initiative نشان داد که وب‌سایت‌های باکیفیت به‌طور فزاینده‌ای دسترسی شرکت‌های هوش مصنوعی را به محتوای خود محدود می‌کنند. دعواهای حقوقی، مانند شکایت نیویورک تایمز و سایر ناشران از OpenAI، تنش بین توسعه‌دهندگان هوش مصنوعی و تولیدکنندگان محتوا بر سر حق چاپ و استفاده منصفانه را بیشتر نشان می‌دهد.

کاوش راه‌حل‌های خلاقانه

با وجود این چالش‌ها، توسعه‌دهندگان هوش مصنوعی ناامید نیستند. شرکت‌هایی مانند OpenAI و Anthropic در حال بررسی راهکارهای مختلفی برای مقابله با بحران داده‌ها هستند:

• تولید داده مصنوعی (Synthetic Data Generation): مدل‌ها می‌توانند داده‌های مصنوعی ایجاد کنند تا کمبود داده‌های واقعی را جبران کنند. برای مثال، OpenAI روزانه صدها میلیارد کلمه از طریق تولید داده مصنوعی تولید می‌کند.
• منابع داده غیرمتعارف (Unconventional Data Sources): داده‌های اختصاصی، مانند اطلاعات داخلی شرکت‌ها یا تعاملات ناشناس کاربران، راه دیگری است. اما این منابع محدود هستند و اغلب با نگرانی‌هایی در مورد حریم خصوصی یا اخلاق همراه هستند.
• مجموعه داده‌های تخصصی (Specialized Datasets): زمینه‌هایی مانند ژنومیک، پزشکی یا نجوم ممکن است فرصت‌های استفاده از داده‌های دست‌نخورده را فراهم کنند. اما کاربرد آن‌ها برای آموزش LLMها هنوز مشخص نیست.

فراتر از مدل‌های بزرگ‌تر

به‌جای رویکرد “هرچه بزرگ‌تر، بهتر”، می‌توان مدل‌های هوش مصنوعی کوچک‌تر و کارآمدتری متناسب با وظایف خاص توسعه داد. این مدل‌ها به داده و قدرت محاسباتی کمتری نیاز دارند، اما اغلب با آموزش دقیق، نتایج به‌همان اندازه خوبی ارائه می‌دهند.

پیشرفت‌های اخیر در الگوریتم‌ها و سخت‌افزارها به پژوهشگران این امکان را داده است تا با منابع کمتر، کارهای بیشتری انجام دهند. برای مثال، آموزش مجدد مدل‌ها با مجموعه داده‌های موجود به‌اندازه آموزش با داده‌های کاملاً جدید مؤثر بوده است. نوآوری‌هایی مانند یادگیری تقویتی – که در آن مدل‌ها برای بهبود پاسخ‌های خود بازخورد دریافت می‌کنند – نیز در حال افزایش است.

گسترش تعریف داده‌ها

برخی از کارشناسان معتقدند که تعریف فعلی “داده” بسیار محدود است. سیستم‌های هوش مصنوعی می‌توانند فراتر از متن رفته و داده‌های بصری، شنیداری یا حسی را نیز در بر گیرند. برای مثال:

• آموزش چندوجهی (Multimodal Training): برخی از مدل‌های هوش مصنوعی مولد در حال حاضر متن، تصاویر و ویدیوها را برای آموزش با هم ترکیب می‌کنند.
• یادگیری مبتنی بر هوش مصنوعی (AI-Driven Learning): سیستم‌های رباتیک مجهز به حسگرها می‌توانند به‌جای تکیه بر مجموعه داده‌های از پیش آماده شده، از تجربیات دنیای واقعی یاد بگیرند.

خطرات و نگرانی‌های اخلاقی

در حالی که داده‌های مصنوعی و اختصاصی راه‌حل‌های بالقوه‌ای ارائه می‌دهند، خطراتی نیز دارند. حلقه‌های بازگشتی در تولید داده مصنوعی می‌تواند با تقویت خطاها یا سوگیری‌ها، کیفیت مدل را کاهش دهد. پژوهشگران اصطلاحاتی مانند “اختلال خودخوری مدل (Model Autophagy Disorder)” را برای توصیف اینکه چگونه مدل‌های هوش مصنوعی ممکن است با تکیه بیش از حد بر داده‌های خودساخته ” دچار اختلال شوند” ابداع کرده‌اند.

ملاحظات اخلاقی نیز بسیار مهم هستند. استفاده از محتوای خصوصی یا اختصاصی بدون اجازه، سؤالاتی در مورد حریم خصوصی و مالکیت معنوی ایجاد می‌کند. ایجاد تعادل بین نوآوری و مسئولیت اخلاقی برای توسعه‌دهندگان در این فضای در حال تغییر بسیار مهم خواهد بود.

تغییر در آینده هوش مصنوعی؟

کمبود قریب‌الوقوع داده‌ها می‌تواند چشم‌انداز هوش مصنوعی را به‌کلی تغییر دهد. به‌جای مدل‌های بزرگ و همه‌منظوره، آینده ممکن است شاهد مدل‌های کوچک‌تر و تخصصی‌تر طراحی شده برای کاربردهای خاص باشد. این مدل‌ها می‌توانند از تکنیک‌های آموزشی کارآمدتر استفاده کنند، به انواع داده‌های متنوع تکیه کنند و قابلیت‌های یادگیری خودراهبر را در خود داشته باشند.

در نهایت، ترکیب داده‌های مصنوعی، روش‌های آموزشی نوآورانه و منابع داده جدید می‌تواند با وجود چالش‌ها، رشد هوش مصنوعی را ادامه دهد. همچنان که مدل‌ها به‌طور مستقل‌تر “فکر” می‌کنند و با جهان به روش‌های پیچیده‌تری تعامل دارند، مرزهای توسعه هوش مصنوعی گسترش خواهد یافت.

این سؤال باقی می‌ماند: آیا عطش هوش مصنوعی برای داده‌ها سیری‌ناپذیر است یا می‌تواند یاد بگیرد که با منابع کمتر رشد کند؟ پاسخ به این بستگی دارد که پژوهشگران و توسعه‌دهندگان چگونه با این نقطه عطف حیاتی در تاریخ هوش مصنوعی سازگار می‌شوند.

اگر به خواندن کامل این مطلب علاقه‌مندید، روی لینک مقابل کلیک کنید: nature.com

دانشمندان داده برای موفقیت به چیزی بیش از مدل‌سازی نیاز دارند. برای استقرار راه‌حل‌های مؤثر علم داده، تسلط بر مهارت‌های مهندسی نرم‌افزار، از جمله طراحی سیستم، تست کردن و رایانش ابری، حیاتی است. این مهارت‌ها به دانشمندان داده کمک می‌کند تا مدل‌های خود را به ابزارهای کاربردی و مقیاس‌پذیر تبدیل کنند.

نقش دانشمندان داده دیگر محدود به ایجاد مدل‌های اثبات مفهوم نیست و فراتر از آن رفته است. کسب‌وکارها اکنون خواستار راه‌حل‌های قابل استقرار هستند و از دانشمندان داده می‌خواهند که دانش مهندسی نرم‌افزار خود را توسعه دهند. این خلاصه، مهارت‌های ضروری مهندسی نرم‌افزار را برای دانشمندان داده بررسی می‌کند تا فاصله‌ی بین توسعه‌ی مدل و کاربرد آن در دنیای واقعی را از بین ببرد.

طراحی سیستم: فراتر از مدل اندیشیدن

ساخت برنامه‌های کاربردی در مقیاس بزرگ شامل چندین مولفه‌ی به هم پیوسته است. دانشمندان داده باید اصول طراحی سیستم را درک کنند تا مطمئن شوند مدل‌های آن‌ها به طور یکپارچه با سیستم بزرگتر ادغام می‌شوند. مفاهیم کلیدی عبارتند از:

• Caching: ذخیره‌سازی داده‌هایی که مکرراً استفاده می‌شوند برای بازیابی سریع‌تر.
• Load Balancing: توزیع بار در چندین سرور برای جلوگیری از اشباع شدن سرور.
• CAP Theorem: درک بده‌بستان‌های بین سازگاری، در دسترس بودن و تحمل پارتیشن در سیستم‌های توزیع‌شده.
• Scalability: طراحی سیستم‌هایی که بتوانند حجم داده و ترافیک کاربران را مدیریت کنند.

همکاری با مهندسان نرم‌افزار باتجربه در طول فاز طراحی می‌تواند بینش‌های ارزشمندی و تجربه‌ی عملی را به ارمغان بیاورد.

Shell و Bash Scripting: کار با خط فرمان

تسلط بر خط فرمان برای هر متخصص فنی، به ویژه دانشمندان داده که با پلتفرم‌های ابری و ابزارهای استقرار کار می‌کنند، ضروری است. دستورات اولیه shell، پیمایش فایل و درک سیستم‌های مبتنی بر UNIX برای کارهایی مانند موارد زیر حیاتی است:

• استفاده از Docker و Kubernetes برای کانتینرسازی و هماهنگ‌سازی.
• مدیریت مخازن Git برای کنترل نسخه.
• تعامل با ارائه‌دهندگان ابری از طریق رابط‌های خط فرمان آنها.

در حالی که تسلط بر اسکریپت نویسی پیشرفته shell الزامی نیست، دانش پایه در این زمینه بسیار مفید خواهد بود.

تست کردن: تضمین پایداری کد

تست کردن اغلب در آموزش علم داده نادیده گرفته می‌شود، اما برای ساخت برنامه‌های کاربردی قوی و قابل اعتماد بسیار مهم است. انواع مختلف تست‌ها اهداف مختلفی را دنبال می‌کنند:

• Unit Tests: عملکرد واحدهای کد را به صورت جداگانه تأیید می‌کند.
• Integration Tests: تعامل بین اجزای مختلف را بررسی می‌کند.
• End-to-End Tests: کل جریان برنامه را از ابتدا تا انتها آزمایش می‌کند.
• CI/CD Pipelines: فرآیند تست و استقرار را خودکار می‌کند.

استفاده از توسعه مبتنی بر تست (TDD)، که در آن تست‌ها قبل از کد نوشته می‌شوند، می‌تواند کیفیت کد را بالا برده و از بروز خطاها جلوگیری کند.

سیستم‌های ابری: استقرار و مقیاس‌پذیر کردن راه‌حل‌ها

پلتفرم‌های ابری مانند AWS، Azure و GCP در صنعت فناوری فراگیر شده‌اند. دانشمندان داده باید درک اولیه‌ای از سرویس‌های ابری مرتبط با کار خود داشته باشند، از جمله:

• Storage: سرویس‌هایی مانند S3 برای ذخیره‌سازی و مدیریت داده‌ها.
• Compute: استفاده از ماشین‌های مجازی (EC2) یا توابع بدون سرور (Lambda) برای اجرای کد.
• Databases: استفاده از پایگاه‌های داده مبتنی بر ابر مانند Athena برای تحلیل داده‌ها.
• Workflow Management: استفاده از ابزارهایی مانند Step Functions برای هماهنگ‌سازی فرآیندهای پیچیده.

در حالی که تخصص عمیق در زمینه‌ی ابر لازم نیست، آشنایی با این سرویس‌های اصلی برای استقرار و مقیاس‌پذیر کردن راه‌حل‌های علم داده ضروری است.

تایپ، قالب‌بندی و Linting: نوشتن کد آماده برای محیط عملیاتی

نوشتن کد تمیز و قابل نگهداری برای همکاری و موفقیت پروژه در دراز مدت بسیار مهم است. ابزارها و شیوه‌هایی برای افزایش کیفیت کد عبارتند از:

• Typing: تعیین انواع داده برای متغیرها و مقادیر بازگشتی تابع برای بهبود خوانایی و تشخیص زودهنگام خطاها.
• Formatting: استفاده از ابزارهایی مانند Black برای قالب‌بندی خودکار کد طبق دستورالعمل‌های سبک.
• Linting: استفاده از ابزارهایی مانند Ruff برای شناسایی اشکالات احتمالی و ناسازگاری‌های سبکی.

این شیوه‌ها یکنواختی کد را تضمین می‌کنند، خطاها را کاهش می‌دهند و همکاری بین اعضای تیم را بهبود می‌بخشند.

با پذیرش این اصول مهندسی نرم‌افزار، دانشمندان داده می‌توانند کار خود را از مدل‌های نظری به راه‌حل‌های عملی و قابل استقرار که ارزش تجاری واقعی را ایجاد می‌کنند، تبدیل کنند. گذار از آزمایش‌های مبتنی بر نوت‌بوک به برنامه‌های کاربردی آماده برای محیط عملیاتی، نیازمند تغییر در طرز فکر و علاقه به یادگیری مهارت‌های جدید است. در نهایت، سرمایه‌گذاری در تخصص مهندسی نرم‌افزار، دانشمندان داده را قادر می‌سازد تا تأثیر بیشتری در دنیای واقعی داشته باشند.

اگر به خواندن کامل این مطلب علاقه‌مندید، روی لینک مقابل کلیک کنید: medium

آزمون ARC-AGI، که برای سنجش هوش مصنوعی عمومی طراحی شده، نمرات بهبود یافته‌ای را نشان می‌دهد. با این حال، طراحان آزمون معتقدند که این بهبود بیشتر نشان‌دهنده‌ی کاستی‌های خود آزمون ARC-AGI است تا پیشرفت واقعی در حوزه‌ی هوش مصنوعی عمومی. این موضوع، پرسش‌هایی را درباره‌ی چگونگی ارزیابی پیشرفت به سوی هوش عمومی واقعی مطرح می‌کند و اهمیت توسعه‌ی معیارهای دقیق‌تر برای سنجش ARC-AGI و هوش مصنوعی عمومی را برجسته می‌سازد.

جستجوی هوش عمومی مصنوعی (Artificial General Intelligence: AGI) مدت‌هاست که توجه محققان و عموم را به خود جلب کرده است. یکی از چالش‌های اساسی، تعریف و سنجش پیشرفت در راستای دستیابی به این هدف بلندپروازانه است. معیار ARC-AGI، مخفف “Abstract and Reasoning Corpus for Artificial General Intelligence”، در سال ۲۰۱۹ توسط فرانسوا چالت، از چهره‌های برجسته‌ی هوش مصنوعی، به عنوان یک راهکار بالقوه ارائه شد. هدف این معیار، ارزیابی توانایی یک سیستم هوش مصنوعی در یادگیری مهارت‌های جدید فراتر از داده‌های آموزشی‌اش بود، مهارتی که نشانه‌ای از هوش واقعی است. با این حال، تحولات اخیر، بحث‌هایی را درباره‌ی کارایی آزمون و اینکه آیا عملکرد بهتر، واقعاً نشان‌دهنده‌ی پیشرفت به سوی هوش عمومی مصنوعی است، برانگیخته است.

معیار ARC-AGI شامل چالش‌هایی شبیه به پازل است که با شبکه‌هایی از مربع‌های رنگی نمایش داده می‌شوند. سیستم‌های هوش مصنوعی باید این شبکه‌ها را تحلیل کرده و بر اساس مجموعه‌ای از قوانین استنتاجی، شبکه‌ی “پاسخ” صحیح را تولید کنند. این وظایف به عمد طوری طراحی شده‌اند که هوش مصنوعی را وادار به انطباق و استدلال در موقعیت‌های جدید کنند، مشابه روشی که انسان‌ها یاد می‌گیرند و دانش خود را در مسائل ناآشنا به کار می‌برند. در ابتدا، عملکرد هوش مصنوعی در ARC-AGI چندان چشمگیر نبود. تا همین اواخر، بهترین سیستم‌ها تنها می‌توانستند کمی کمتر از یک سوم وظایف را حل کنند، که منجر به انتقاد چالت از تمرکز صنعت بر مدل‌های زبانی بزرگ (Large Language Models: LLMs) شد. او استدلال کرد که LLMs، با وجود توانایی‌های قابل توجهشان در زمینه‌هایی مانند تولید متن و ترجمه، به شدت به حفظ کردن اطلاعات وابسته‌اند و در تعمیم دادن واقعی با مشکل مواجه هستند. او اشاره کرد که LLMs در شناسایی الگوها در داده‌های آموزشی گسترده‌ی خود بسیار خوب عمل می‌کنند، اما وقتی با سناریوهایی خارج از این الگوها روبرو می‌شوند، عملکرد ضعیفی از خود نشان می‌دهند. چالت معتقد بود که این نشان‌دهنده‌ی فقدان توانایی استدلال واقعی است.

برای تشویق تحقیقات فراتر از LLMs و ترغیب رویکردهای نوآورانه به هوش عمومی مصنوعی، چالت و مایک نوپ، یکی از بنیانگذاران Zapier، در ژوئن ۲۰۲۴ یک مسابقه‌ی ۱ میلیون دلاری راه‌اندازی کردند. هدف، توسعه‌ی یک هوش مصنوعی متن باز بود که بتواند از نمرات ARC-AGI موجود پیشی بگیرد. این مسابقه با استقبال خوبی روبرو شد و بهترین عملکرد، امتیاز ۵۵.۵٪ را کسب کرد که پیشرفت قابل ملاحظه‌ای نسبت به بهترین عملکرد سال قبل بود. در حالی که این ممکن است نشان‌دهنده‌ی یک جهش بزرگ باشد، هم چالت و هم نوپ نسبت به چنین برداشتی هشدار می‌دهند. آنها معتقدند که بسیاری از آثار ارسالی موفق، از نقاط ضعف خود آزمون سوءاستفاده کرده‌اند و در واقع به جای نمایش استدلال واقعی، راه‌حل‌ها را به صورت “brute-force” به دست آورده‌اند. نوپ در یک پست وبلاگ فاش کرد که بخش قابل توجهی از وظایف ARC-AGI به طور مؤثر هوش عمومی را نمی‌سنجند و به نمرات کاذب کمک می‌کنند. این درک منجر به این اعتراف شد که معیار ARC-AGI، اگرچه در نیت خود پیشگامانه است، نیاز به بازنگری دارد.

محدودیت‌های معیار ARC-AGI فراتر از مسئله‌ی راه‌حل‌های brute-force است. تعریف خود هوش عمومی مصنوعی همچنان موضوع بحث‌های پیگیری است و ارزیابی پیشرفت را دشوارتر می‌کند. برخی از محققان، از جمله یکی از کارکنان OpenAI، اظهار داشته‌اند که هوش عمومی مصنوعی ممکن است در حال حاضر، بسته به تعریفی که انتخاب می‌شود، در دسترس باشد. این دیدگاه با تأکید چالت بر استدلال واقعی و انطباق‌پذیری به عنوان مؤلفه‌های اصلی هوش عمومی مصنوعی در تضاد است. طراحان ARC-AGI به دلیل احتمالاً بزرگنمایی بیش از حد معیار به عنوان معیار قطعی پیشرفت به سوی هوش عمومی مصنوعی، به ویژه با توجه به ابهام پیرامون خود این اصطلاح، مورد انتقاد قرار گرفته‌اند. با این حال، آنها نیاز به بهبود را پذیرفته و به طور فعال بر روی نسل دوم معیار ARC-AGI، همراه با یک مسابقه‌ی مرتبط که برای سال ۲۰۲۵ برنامه‌ریزی شده است، کار می‌کنند. این معیار اصلاح شده با هدف رفع کاستی‌های شناسایی شده و ارائه ارزیابی دقیق‌تری از پیشرفت به سوی هوش عمومی واقعی طراحی شده است.

چالش‌های پیش آمده با معیار ARC-AGI، پیچیدگی‌های ذاتی ارزیابی پیشرفت هوش مصنوعی به سوی هوش عمومی را آشکار می‌کند. تعریف و سنجش هوش، چه در انسان و چه در ماشین، کاری بسیار پیچیده است. بحث‌های جاری پیرامون هوش عمومی مصنوعی و محدودیت‌های معیارهای فعلی، نیاز به اصلاح و کاوش مستمر در پیگیری این هدف بلندپروازانه را برجسته می‌کند. توسعه‌ی ARC-AGI، با وجود کاستی‌های اولیه‌اش، گامی ارزشمند در این مسیر طولانی است. این معیار، گفتگوهای مهمی را برانگیخته، تحقیقات نوآورانه را تشویق کرده و راه را برای معیارهای جامع‌تر در آینده هموار کرده است. تلاش برای هوش عمومی مصنوعی ادامه دارد و درس‌های آموخته شده از ARC-AGI بی‌شک مسیر پیش رو را شکل خواهد داد.

اگر به خواندن کامل این مطلب علاقه‌مندید، روی لینک مقابل کلیک کنید: techcrunch

محققان دانشگاه پکن از پلتفرمی پیشگام رونمایی کرده‌اند که محاسبات و حسگری را در یک سیستم قابل پیکربندی مجدد ادغام می‌کند. این فناوری نوین از معماری‌های مختلف شبکه عصبی پشتیبانی کرده و با الهام از سیستم‌های بینایی بیولوژیکی، پردازش تصویر را به شکلی کارآمد و در زمان واقعی ممکن می‌سازد.

یک گام بلند در سیستم‌های بینایی نورومورفیک

در دنیای رو به پیشرفت یادگیری ماشین و هوش مصنوعی، نوآوری در سخت‌افزار برای پاسخگویی به نیازهای محاسباتی روزافزون، امری حیاتی است. سیستم‌های سنتی اغلب با ناکارآمدی‌هایی ناشی از جدایی بین حسگرها، حافظه و پردازنده‌ها مواجه هستند. این محدودیت، تحقیقات در مورد راه‌حل‌های الهام گرفته از زیست‌شناسی – سیستم‌هایی که از یکپارچگی حسگری و پردازش در چشم انسان الگوبرداری می‌کنند – را سوق داده است. محققان دانشگاه پکن اکنون یک پلتفرم محاسبات نورومورفیک پیشرفته را معرفی کرده‌اند که عملکردهای حسگری، حافظه و پردازش را در یک دستگاه واحد ادغام می‌کند.

این دستاورد: یک پلتفرم پردازش درون-حسگر قابل پیکربندی مجدد

نکته کلیدی این نوآوری در معماری آن نهفته است. این سیستم یک آرایه 20×20 از فتوترانزیستورها را با ممریستورها ترکیب می‌کند. این پیکربندی که آرایه MP1R نامیده می‌شود، حسگری و محاسبات را در هم می‌آمیزد و به آن اجازه می‌دهد تا وظایف متنوعی از تشخیص تصویر گرفته تا تحلیل داده‌ها را انجام دهد.

ویژگی‌های برجسته‌ی پلتفرم:

• آرایه فتوترانزیستور:
  این پلتفرم از ترانزیستورهای فیلم نازک اکسید روی-ایندیوم-گالیوم-روی آمورف (α-IGZO) برای ایجاد آرایه‌ای از فتوترانزیستورها استفاده می‌کند که قادر به حس کردن نور و تنظیم پاسخ آن بر اساس طول موج است. برای مثال:
• قرار گرفتن در معرض نور آبی: رفتار تقویت را فعال می‌کند.

• قرار گرفتن در معرض نور قرمز: رفتار تضعیف را القا می‌کند.

• ممریستورهای مات:
  این ممریستورها که با آرایه فتوترانزیستور یکپارچه شده‌اند، از ناهمگونی‌های Ta/TaOx/NbOx/W ساخته شده‌اند. آنها موارد زیر را ارائه می‌دهند:

• نواحی مقاومتی خطی.
• قابلیت‌های حافظه فرار.
• ویژگی‌های سوئیچینگ آستانه.

این ترکیب، سیستم را قادر می‌سازد تا از روش‌های مختلف رمزگذاری – آنالوگ، مبتنی بر سنبله و مکانی-زمانی – پشتیبانی کند و همزمان عملکردهای سیناپسی و نورونی را به طور مؤثر شبیه‌سازی کند.

پیوند زیست‌شناسی و یادگیری ماشین

این پلتفرم جدید از سیستم‌های بینایی بیولوژیکی مانند چشم انسان الهام گرفته است، که کارایی قابل توجهی در پردازش تصویر در زمان واقعی نشان می‌دهند. برخلاف سیستم‌های محاسباتی بینایی معمول مبتنی بر معماری CMOS von Neumann – که از افزونگی داده‌ها، مصرف بالای انرژی و تأخیر رنج می‌برند – این رویکرد زیست‌شناختی، عملکردها را در یک دستگاه واحد متمرکز می‌کند.

سازگاری با معماری‌های عصبی متنوع:

یکی از جنبه‌های برجسته‌ی این سیستم، انعطاف‌پذیری آن است. از طیف گسترده‌ای از معماری‌های شبکه عصبی پشتیبانی می‌کند، از جمله:
– شبکه‌های عصبی کانولوشن (CNNs): مناسب برای کارهای تشخیص تصویر و ویدئو.
– شبکه‌های عصبی بازگشتی (RNNs): مفید برای پردازش داده‌های سریالی یا زمانی.
– شبکه‌های عصبی سنبله‌ای (SNNs): فعالیت نورون بیولوژیکی را برای داده‌های مبتنی بر رویداد شبیه‌سازی می‌کنند.

این تطبیق‌پذیری تضمین می‌کند که پلتفرم می‌تواند الگوریتم‌های یادگیری ماشین و الگوهای محاسباتی الهام گرفته از زیست‌شناسی را در خود جای دهد.

پیامدها برای کاربردهای دنیای واقعی

پیامدهای این نوآوری بسیار وسیع است. محققان با ادغام حسگری و پردازش در یک دستگاه واحد به موارد زیر دست یافته‌اند:

• کاهش پیچیدگی شبکه: ادغام اصول پردازش، طراحی سیستم را ساده می‌کند.
• کاهش تأخیر: پردازش تصویر در زمان واقعی کارآمدتر می‌شود.
• بهینه‌سازی مصرف انرژی: سیستم انرژی کمتری مصرف می‌کند و آن را برای کاربردهای حساس به انرژی مناسب می‌سازد.

این مزایا، این پلتفرم را به ویژه برای کاربردهای پیشرفته هوش مصنوعی بینایی، مانند وسایل نقلیه خودران، رباتیک و سیستم‌های نظارتی، نویدبخش می‌کند.

چالش‌ها و مسیرهای آینده

علیرغم دستاوردهای آن، این پلتفرم هنوز در مراحل ابتدایی توسعه خود است. چندین چالش باقی مانده است، از جمله:

• چگالی سیستم و کارایی محاسباتی: محققان قصد دارند ادغام سه‌بعدی را برای افزایش این جنبه‌ها بررسی کنند.
• بهینه‌سازی مصرف انرژی: پیشرفت‌های بیشتری برای کارآمدتر کردن سیستم از نظر انرژی مورد نیاز است.
• سازگاری در شرایط کم‌نور: افزایش حساسیت به تغییرات نور، قابلیت استفاده آن را در محیط‌های طبیعی و کم‌نور گسترش می‌دهد.

تیم دانشگاه پکن به غلبه بر این موانع امیدوار است. تلاش‌های مستمر آنها می‌تواند زمینه‌ساز سیستم‌های بینایی نورومورفیک مقیاس‌پذیر در مقیاس بزرگ باشد.

چشم‌اندازی برای آینده

این کار پیشگامانه گامی اساسی به سوی پلتفرم‌های محاسباتی بینایی نورومورفیک فراگیر است. محققان با پر کردن شکاف بین سیستم‌های الهام گرفته از زیست‌شناسی و الگوهای یادگیری ماشین، امکانات جدیدی را برای کاربردهای هوش مصنوعی در زمان واقعی و با مصرف انرژی کارآمد گشوده‌اند.

همانطور که آنها به اصلاح فناوری خود ادامه می‌دهند، می‌توانیم پیشرفت‌های بیشتری را در ادغام حسگری و محاسبات پیش‌بینی کنیم – که راه را برای ماشین‌های هوشمندتر، سریع‌تر و سازگارتر هموار می‌کند.

اگر به خواندن کامل این مطلب علاقه‌مندید، روی لینک مقابل کلیک کنید: techxplore.com

رویکرد پیشرفته بازیابی-تقویت‌شده تولید (RAG) از شرکت انتروپیک، مرزهای جدیدی را در قابلیت‌های هوش مصنوعی باز کرده است. این روش با ترکیب بازیابی زمینه‌مند و جستجوی ترکیبی، مدل‌های زبانی بزرگ (LLMs) را در انجام وظایف تخصصی بهینه کرده و در عین حفظ امنیت داده‌ها و کاهش نیاز به منابع، پاسخ‌های دقیق‌تری ارائه می‌دهد. RAG یک گام مهم در مسیر توسعه هوش مصنوعی تخصصی به شمار می‌رود.

رویکرد RAG انتروپیک: تغییر دهنده بازی برای کاربردهای هوش مصنوعی

مدل‌های بزرگ زبانی (LLMs) مانند ChatGPT و Claude نحوه تعامل ما با هوش مصنوعی را متحول کرده‌اند و وظایف پیچیده‌ای را از نوشتن کد گرفته تا پاسخ به پرسش‌های پیچیده ممکن ساخته‌اند. با این حال، این مدل‌ها اغلب در کاربردهای تخصصی که دانش عمومی در آن‌ها کافی نیست، دچار مشکل می‌شوند. رویکرد نوآورانه بازیابی-تقویت‌شده تولید (RAG) شرکت انتروپیک، راه‌حلی امیدوارکننده ارائه می‌دهد که شکاف بین قابلیت‌های عمومی هوش مصنوعی و عملکرد تخصصی را پر می‌کند.

محدودیت‌های LLMs استاندارد

در حالی که LLMs در انجام وظایف متنوع مهارت دارند، ماهیت عمومی آن‌ها می‌تواند اثربخشی آن‌ها را در حوزه‌های خاص محدود کند. برای مثال:

• ممکن است عمق مورد نیاز برای پرسش‌های بسیار فنی یا تخصصی را نداشته باشند.
• تنظیم دقیق این مدل‌ها برای موارد استفاده خاص، نیازمند منابع زیادی است و مستلزم سرمایه‌گذاری مالی قابل توجه و دسترسی به مجموعه داده‌های با کیفیت بالا است.
• حساسیت داده‌ها چالش‌هایی را ایجاد می‌کند، زیرا اطلاعات اختصاصی باید در طول تطبیق مدل محافظت شود.

این محدودیت‌ها نیاز به راه‌حلی را برجسته می‌کند که عملکرد LLMs را در حوزه‌های خاص بدون به خطر انداختن کارایی یا امنیت افزایش دهد.

چه چیزی RAG را متفاوت می‌کند؟

بازیابی-تقویت‌شده تولید (RAG) نیاز به تنظیم دقیق گسترده را با اتصال مستقیم LLMs به پایگاه دانش سازمان یافته یک سازمان دور می‌زند. این رویکرد تضمین می‌کند که مدل به جای تکیه صرف بر وزن‌های از پیش آموزش داده شده، اطلاعات مرتبط و دقیق را به صورت پویا بازیابی کند.

مزایای کلیدی عبارتند از:

• ارتباط بهتر با حوزه: با ادغام پایگاه‌های دانش خاص، سیستم‌های RAG در زمینه‌های تخصصی برتری دارند.
• امنیت داده‌ها: سازمان‌ها کنترل داده‌های خود را حفظ می‌کنند و خطرات افشا را کاهش می‌دهند.
• صرفه‌جویی در هزینه: نیاز به آموزش مجدد مدل‌های پرهزینه را از بین می‌برد و وابستگی به منابع GPU ابری را کاهش می‌دهد.

نحوه عملکرد سیستم‌های RAG

یک سیستم RAG در دو مرحله اصلی عمل می‌کند:

۱. ایجاد پایگاه دانش:

• قطعه‌بندی اسناد: اسناد بزرگ را به زیر اسناد کوچک‌تر و قابل مدیریت تقسیم می‌کند.
• محاسبه تعبیه: قطعات متن را به تعبیه‌های عددی تبدیل می‌کند که معنای معنایی را در بر می‌گیرند.
• ذخیره‌سازی برداری: تعبیه‌ها را در یک پایگاه داده برداری برای بازیابی کارآمد ذخیره می‌کند.

۲. تولید پاسخ:

• پردازش پرس و جو: پرس و جوهای کاربر را به تعبیه تبدیل می‌کند.
• بازیابی: تعبیه‌های پرس و جو را با تعبیه‌های اسناد ذخیره شده مطابقت می‌دهد تا قطعات مرتبط را بازیابی کند.
• ادغام LLM: قطعات بازیابی شده را با پرس و جوی اصلی ترکیب می‌کند تا پاسخی منسجم و آگاه از زمینه تولید کند.

این معماری به سیستم‌های RAG اجازه می‌دهد با بازیابی پویا و زمینه‌سازی اطلاعات از پایگاه دانش، پاسخ‌های دقیقی ارائه دهند.

افزایش دقت با جستجوی ترکیبی

در حالی که بازیابی مبتنی بر تعبیه در درک معنایی برتری دارد، ممکن است تطابق دقیق برای اصطلاحات خاص را از دست بدهد. برای رفع این مشکل، رویکرد RAG انتروپیک از روش‌های جستجوی ترکیبی استفاده می‌کند:

• ادغام BM25: یک مکانیزم جستجوی مبتنی بر کلمه کلیدی که تطابق دقیق برای اصطلاحاتی مانند کدهای خطا یا اصطلاحات فنی را تضمین می‌کند.
• مدل‌های ترکیبی: جستجوهای معنایی و مبتنی بر کلمه کلیدی را ترکیب می‌کند تا نتایج قوی و دقیقی را در سناریوهای مختلف ارائه دهد.

برای مثال، BM25 به ویژه برای موارد زیر موثر است:
– یافتن شماره‌های دقیق محصول (مثلاً “Model AB-9000”).
– شناسایی اصطلاحات علمی خاص (مثلاً “mitochondria” در زیست شناسی).

بازیابی زمینه‌مند: افزودن ظرافت به پاسخ‌ها

یکی از ویژگی‌های برجسته رویکرد RAG انتروپیک، استفاده از بازیابی زمینه‌مند است. با قرار دادن قطعات متن جداگانه در زمینه وسیع‌تر سند، سیستم‌های RAG خطاهای بازیابی را به حداقل می‌رسانند و کیفیت پاسخ را بهبود می‌بخشند.

نحوه عملکرد:

1. هر قطعه سند با اطلاعات زمینه‌مند مشتق از کل سند جفت می‌شود.
2. این داده غنی شده در پایگاه داده برداری تعبیه و ذخیره می‌شود.
3. در حین بازیابی، هم قطعه و هم زمینه آن در نظر گرفته می‌شود و پاسخ‌های ظریف و دقیق تضمین می‌شود.

این روش میزان شکست را به طور قابل توجهی کاهش می‌دهد:
– تعبیه‌های زمینه‌مند به تنهایی خطاهای بازیابی ۲۰ قطعه برتر را ۳۵٪ کاهش می‌دهند (از ۵.۷٪ به ۳.۷٪).
– ترکیب تعبیه‌های زمینه‌مند با BM25 خطاها را ۴۹٪ دیگر کاهش داد (به ۲.۹٪).

نقش رتبه‌بندی مجدد

سیستم‌های RAG همچنین از مدل‌های رتبه‌بندی مجدد برای اصلاح خروجی‌های بازیابی استفاده می‌کنند. برخلاف بازیابی‌کننده‌های اولیه که سرعت را در اولویت قرار می‌دهند، رتبه‌بندی مجدد:
– از مکانیزم‌های توجه متقابل برای ارزیابی رابطه بین پرس و جو و قطعات بازیابی شده استفاده می‌کند.
– نتایج را بر اساس ارتباط معنایی دوباره سازماندهی می‌کند و تضمین می‌کند که دقیق‌ترین اطلاعات زمینه‌مند در وهله اول ظاهر شود.

در حالی که رتبه‌بندی مجدد کندتر از بازیابی‌کننده‌ها است، دقت نتایج نهایی را به طور قابل‌توجهی افزایش می‌دهد و آن‌ها را برای کاربردهای با ریسک بالا ارزشمند می‌سازد.

کاربردهای عملی

رویکرد RAG انتروپیک به ویژه برای سازمان‌هایی که با موارد زیر سروکار دارند مناسب است:
– پایگاه‌های دانش تخصصی: صنایعی مانند مراقبت‌های بهداشتی، حقوق و مهندسی می‌توانند از پاسخ‌های دقیق و آگاه از زمینه هوش مصنوعی بهره‌مند شوند.
– داده‌های حساس: با اجتناب از فرآیندهای تنظیم دقیق خارجی، امنیت اطلاعات اختصاصی را تضمین می‌کند.
– پرس و جوهای پویا: بدون نیاز به آموزش مجدد مدل، به طور یکپارچه با پرس و جوهای متنوع کاربر سازگار می‌شود.

با ترکیب تکنیک‌های بازیابی پیشرفته با قابلیت‌های پیشرفته LLM، سیستم‌های RAG مرز جدیدی را در حل مسئله مبتنی بر هوش مصنوعی نشان می‌دهند.

اندیشه‌های پایانی

رویکرد بازیابی-تقویت‌شده تولید انتروپیک نشان می‌دهد که چگونه هوش مصنوعی می‌تواند فراتر از قابلیت‌های عمومی تکامل یابد تا به طور موثر به چالش‌های تخصصی بپردازد. با ادغام بازیابی زمینه‌مند، مکانیزم‌های جستجوی ترکیبی و مدل‌های رتبه‌بندی مجدد، سیستم‌های RAG دقت و ارتباط بی‌نظیری را ارائه می‌دهند – در عین حال امنیت داده‌ها و صرفه‌جویی در هزینه را حفظ می‌کنند. همانطور که صنایع به پذیرش هوش مصنوعی ادامه می‌دهند، نوآوری‌هایی مانند RAG بدون شک نقش محوری در شکل‌دهی آینده کاربردهای تخصصی ایفا خواهند کرد.

اگر به خواندن کامل این مطلب علاقه‌مندید، روی لینک مقابل کلیک کنید: medium