هنر ساخت عامل‌های کارآمد در مدل‌های زبانی بزرگ

بیاموزید چگونه عامل‌های کارآمد در مدل‌های زبانی بزرگ (LLM) را با استفاده از روش‌های ساده و انعطاف‌پذیر طراحی کنید. همچنین، نکات کلیدی برای انتخاب گردش‌های کاری مناسب یا سیستم‌های خودکار و ایجاد راه‌حل‌های قابل اعتماد را کشف کنید.

ساخت عامل‌های کارآمد LLM: درس‌های آموخته‌شده

حوزه مدل‌های زبانی بزرگ (LLM) پیشرفت‌های شگفت‌انگیزی داشته است. یکی از کاربردهای مهم این مدل‌ها، ساخت سیستم‌های عاملی است. تجربه توسعه‌دهندگان در صنایع مختلف در سال گذشته نشان می‌دهد که موفقیت به چارچوب‌های پیچیده یا ابزارهای خاص وابسته نیست. در واقع، سادگی و قابلیت ترکیب، کلیدهای ساخت عامل‌های کارآمد LLM هستند. در این راهنما، اصول اساسی، گردش‌های کاری و نمونه‌های کاربردی را بررسی می‌کنیم تا به شما در طراحی سیستم‌های عاملی کاربردی و قابل اعتماد کمک کنیم.

تعریف عامل‌ها و گردش‌های کاری

واژه “عامل” معانی مختلفی دارد. این معنی به زمینه بستگی دارد. برخی، عامل‌ها را سیستم‌های خودکاری می‌دانند که می‌توانند به طور مستقل در طول زمان کار کنند. برخی دیگر، آنها را برنامه‌های هدایت‌شده‌ای می‌بینند که از گردش‌های کاری از پیش تعریف‌شده پیروی می‌کنند. در Anthropic، ما هر دو رویکرد را “سیستم‌های عاملی” می‌نامیم. اما یک تفاوت اساسی وجود دارد:

• گردش‌های کاری: سیستم‌های از پیش تعریف‌شده‌ای هستند که در آنها LLMها از مسیرهای کد هماهنگ‌شده برای انجام وظایف استفاده می‌کنند.
• عامل‌ها: سیستم‌هایی هستند که در آنها LLMها به صورت پویا فرآیندها و ابزارهای مورد نیاز خود را تعیین می‌کنند و بدون دستورالعمل‌های ثابت، برای انجام وظایف، خود را تطبیق می‌دهند.

چه زمانی از عامل‌ها در مقابل گردش‌های کاری استفاده کنیم

انتخاب بین عامل‌ها و گردش‌های کاری به پیچیدگی وظیفه شما بستگی دارد:

• گردش‌های کاری: برای وظایف قابل پیش‌بینی که به ثبات و کارایی نیاز دارند، مناسب هستند. آنها ساده‌تر و کم‌هزینه‌ترند.
• عامل‌ها: بهترین گزینه برای وظایف پیچیده و بازی هستند که به انعطاف‌پذیری و تصمیم‌گیری در مقیاس بزرگ نیاز دارند. البته ممکن است تأخیر و هزینه بیشتری داشته باشند.

برای بسیاری از برنامه‌ها، بهینه‌سازی فراخوانی‌های LLM با روش‌های مبتنی بر بازیابی اطلاعات یا مثال‌های درون متنی کافی است. سیستم‌های عاملی را برای مواردی نگه دارید که راه‌حل‌های ساده‌تر جوابگو نیستند.

چارچوب‌ها: مفید یا مضر؟

چارچوب‌هایی مانند LangGraph، چارچوب عامل هوش مصنوعی Amazon Bedrock، Rivet و Vellum با ساده‌سازی وظایف سطح پایین مانند زنجیره‌سازی فراخوانی‌های LLM یا تعریف ابزار، پیاده‌سازی را آسان‌تر می‌کنند. اگرچه برای نمونه‌سازی اولیه مفید هستند، اما معایبی هم دارند:

• مشکلات انتزاع: لایه‌های انتزاع ممکن است درخواست‌ها و پاسخ‌های زیربنایی را پنهان کنند و اشکال‌زدایی را دشوار کنند.
• تمایل به پیچیدگی: چارچوب‌ها می‌توانند مهندسی بیش از حد را در مواقعی که راه‌حل‌های ساده‌تر کافی هستند، تشویق کنند.

برای جلوگیری از این مشکلات، کار را مستقیماً با APIهای LLM شروع کنید. قبل از استفاده از چارچوب‌ها، با اجزای اساسی آشنا شوید. اگر از چارچوبی استفاده می‌کنید، مطمئن شوید که عملکرد داخلی آن را درک می‌کنید تا از اشتباهات پرهزینه جلوگیری کنید.

الگوهای اصلی برای سیستم‌های عاملی

ساخت سیستم‌های عاملی کارآمد شامل استفاده از الگوهای ساده اما قدرتمند است. در اینجا رایج‌ترین آنها آورده شده است:

1. LLMهای افزوده: بلوک‌های سازنده

یک LLM افزوده قابلیت‌هایی مانند بازیابی اطلاعات، ابزار و حافظه را برای بهبود عملکرد خود ترکیب می‌کند. به عنوان مثال، می‌تواند درخواست‌های جستجو ایجاد کند، ابزارها را انتخاب کند یا اطلاعات مفید را ذخیره کند.

• بهترین روش‌ها:
• افزودگی‌ها را با توجه به مورد استفاده خود تنظیم کنید.
• رابط‌های واضح و مستند برای ادغام مناسب ایجاد کنید.

2. زنجیره‌سازی درخواست

وظایف را به مراحل پشت سر هم تقسیم کنید که در آن هر فراخوانی LLM خروجی مرحله قبلی را پردازش می‌کند. بررسی‌های برنامه‌نویسی می‌توانند تضمین کنند که پیشرفت در مسیر درست خود باقی می‌ماند.

• چه زمانی استفاده کنیم:
• وظایفی که می‌توانند به زیر وظایف ثابت تقسیم شوند.

• موقعیت‌هایی که نیاز به دقت بالاتر به قیمت تأخیر دارند.

• مثال‌ها:

• ترجمه متن بازاریابی پس از تولید آن.
• نوشتن طرح کلی سند قبل از ایجاد محتوای دقیق.

3. مسیریابی

ورودی‌ها را دسته‌بندی کنید و آنها را به گردش‌های کاری یا مدل‌های تخصصی هدایت کنید. این رویکرد با تفکیک وظایف بر اساس نوع آنها، عملکرد را بهینه می‌کند.

• چه زمانی استفاده کنیم:
• مدیریت انواع مختلف ورودی که نیاز به رویکردهای متفاوتی دارند.
• هدایت پرسش‌های رایج به مدل‌های کوچکتر برای صرفه‌جویی در هزینه و استفاده از مدل‌های پیشرفته برای وظایف پیچیده.

4. موازی‌سازی

زیر وظایف را به طور همزمان اجرا کنید یا چندین تلاش برای خروجی‌های متنوع انجام دهید.

• انواع:
• بخش‌بندی: وظایف را به بخش‌های مستقل تقسیم کنید تا سرعت پردازش افزایش یابد.

• رأی‌گیری: چندین خروجی تولید کنید و نتایج را برای اطمینان بیشتر جمع‌آوری کنید.

• مثال‌ها:

• ارزیابی جنبه‌های مختلف عملکرد یک مدل به صورت همزمان.
• بررسی کد برای آسیب‌پذیری‌ها با استفاده از دیدگاه‌های مختلف.

5. هماهنگ‌کننده-کارگران

یک LLM “هماهنگ‌کننده” مرکزی به صورت پویا زیر وظایف را به LLMهای “کارگر” واگذار می‌کند و نتایج آنها را ترکیب می‌کند.

• چه زمانی استفاده کنیم:
• وظایف با زیر وظایف غیرقابل پیش‌بینی که نیاز به انعطاف‌پذیری دارند.
• موقعیت‌هایی که خروجی‌ها به پردازش پویا ورودی بستگی دارند.

6. ارزیاب-بهینه‌ساز

تولید و ارزیابی را در یک حلقه بازخورد ترکیب کنید. یک LLM پاسخ‌ها را تولید می‌کند، در حالی که دیگری آنها را به صورت مکرر ارزیابی و اصلاح می‌کند.

• چه زمانی استفاده کنیم:
• معیارهای ارزیابی واضح وجود دارد.
• اصلاحات مکرر نتایج را به طور قابل توجهی بهبود می‌بخشد.

عامل‌ها: مرز خودکار

عامل‌ها نشان‌دهنده پیشرفته‌ترین برنامه‌های LLM هستند. عامل‌ها که قادر به استدلال، برنامه‌ریزی و استفاده پویا از ابزارها هستند، با استقلال قابل توجهی عمل می‌کنند. آنها در یک حلقه بازخورد قرار می‌گیرند و داده‌های دنیای واقعی را برای ارزیابی پیشرفت و تنظیم اقدامات خود جمع‌آوری می‌کنند.

بهترین روش‌ها برای ساخت عامل‌ها

1. سادگی: طرح‌ها را ساده نگه دارید تا خطاهای ترکیبی کاهش یابد.
2. شفافیت: اطمینان حاصل کنید که عامل‌ها مراحل برنامه‌ریزی خود را به وضوح بیان می‌کنند.
3. رابط‌های قوی: در مجموعه ابزارهای مستند خوب سرمایه‌گذاری کنید تا قابلیت اطمینان افزایش یابد.

چه زمانی از عامل‌ها استفاده کنیم

عامل‌ها در مسائل بازی که گردش‌های کاری از پیش تعریف‌شده در آنها کافی نیستند، برتری دارند. با این حال، آنها نیاز به آزمایش گسترده در محیط‌های آزمایشی دارند و ممکن است به دلیل ماهیت تکراری آنها هزینه‌های بیشتری داشته باشند.

کاربردهای عملی سیستم‌های عاملی

الف. پشتیبانی مشتری

سیستم‌های عاملی با ادغام رابط‌های مکالمه‌ای با ابزارهای خارجی، پشتیبانی مشتری را بهبود می‌بخشند. موفقیت از طریق نرخ‌های حل مسئله قابل اندازه‌گیری است و عامل‌ها را برای این حوزه مناسب می‌کند.

ب. عامل‌های کدنویسی

در توسعه نرم‌افزار، عامل‌ها می‌توانند وظایف پیچیده‌ای مانند ویرایش کد چند فایلی یا حل مسئله را انجام دهند. آزمایش‌های خودکار به تأیید کمک می‌کنند، در حالی که نظارت انسانی هماهنگی را تضمین می‌کند.

ساخت رابط‌های کارآمد ابزار

یک جزء حیاتی سیستم‌های عاملی، طراحی ابزار است. ابزارها به LLMها اجازه می‌دهند تا به طور موثر با سرویس‌ها و APIهای خارجی تعامل داشته باشند. این دستورالعمل‌ها را دنبال کنید:

• وضوح: از نام‌های توصیفی برای پارامترها استفاده کنید و مثال‌هایی ارائه دهید.
• سهولت استفاده: سربار قالب‌بندی را به حداقل برسانید.
• آزمایش مکرر: آزمایش‌هایی را برای شناسایی و رفع اشتباهات رایج انجام دهید.

به عنوان مثال، هنگام ساخت عامل‌های کدنویسی، متوجه شدیم که الزام به مسیرهای مطلق فایل، خطاهای ناشی از مسیرهای نسبی را از بین می‌برد. تنظیمات ساده‌ای مانند این می‌تواند عملکرد عامل را به طور چشمگیری افزایش دهد.

نکات کلیدی

موفقیت در ساخت عامل‌های LLM در طراحی سیستم‌هایی است که متناسب با نیازهای شما باشند:

• با فراخوانی‌های LLM یا گردش‌های کاری شروع کنید.
• سیستم‌های عاملی را فقط زمانی به کار بگیرید که پیچیدگی، ارزش قابل اندازه‌گیری ایجاد کند.
• شفافیت، سادگی و رابط‌های قوی را در اولویت قرار دهید.

با تمرکز بر این اصول، می‌توانید عامل‌های قدرتمند و قابل اعتمادی بسازید که نتایج استثنایی ارائه می‌دهند و در عین حال اعتماد و رضایت کاربر را حفظ می‌کنند.

قدردانی

این راهنما توسط Erik Schluntz و Barry Zhang با استفاده از تجربه عملی در Anthropic و نظرات ارزشمند مشتریان ما تهیه شده است.

اگر به خواندن کامل این مطلب علاقه‌مندید، روی لینک مقابل کلیک کنید: anthropic.com