برای ساخت ایجنت هوش مصنوعی لازم نیست از روز اول یک سامانه چند ایجنتی بزرگ بسازید. مسیر کم ریسک این است که یک کار محدود، قابل سنجش و پرتکرار انتخاب کنید و ایجنت را قدم به قدم از نمونه آزمایشی به محصول قابل اعتماد برسانید.
گام اول: کار را با یک جمله قابل سنجش تعریف کنید
تعریف «پاسخ بهتر به مشتری» مبهم است. تعریف بهتر این است: «ایجنت باید با خواندن تیکت و سوابق سفارش، پیش نویس پاسخ را در کمتر از دو دقیقه بسازد و هیچ تغییری را بدون تایید کارشناس ثبت نکند.» این جمله هم ورودی، هم خروجی، هم زمان و هم مرز اختیار را مشخص می کند.
گام دوم: خط مبنا و معیار موفقیت بسازید
پیش از نوشتن کد، چند نمونه واقعی را انتخاب کنید. زمان انجام دستی، نرخ خطا و کیفیت مطلوب را ثبت کنید. معیارها می توانند شامل درصد تکمیل درست، تعداد دخالت انسان، هزینه هر اجرا، زمان پاسخ و نرخ اقدام ناامن باشند. بدون خط مبنا، بهتر شدن ایجنت قابل اثبات نیست.
گام سوم: مدل و ابزار را بر اساس کار انتخاب کنید
بزرگ ترین مدل همیشه بهترین انتخاب نیست. اگر کار کوتاه و ساختارمند است، مدل سریع تر می تواند کافی باشد. ابزارها را نیز کوچک و صریح طراحی کنید؛ مثلا به جای یک ابزار عمومی با اختیار کامل پایگاه داده، ابزار «خواندن وضعیت سفارش» و ابزار جداگانه «ساخت پیش نویس پیگیری» بسازید.
گام چهارم: دستور اصلی را کوتاه و اجرایی بنویسید
دستور خوب نقش ایجنت، هدف، ابزارهای مجاز، محدودیت ها و شکل خروجی را روشن می کند. قوانین حیاتی را میان چند متن پراکنده نکنید. نمونه های واقعی خوب و بد اضافه کنید و به ایجنت بگویید در صورت نبود داده، حدس نزند و درخواست روشن سازی کند.
گام پنجم: حلقه اجرا و شرط توقف را بسازید
هر اجرا باید سقف زمان، سقف تعداد فراخوانی ابزار و بودجه داشته باشد. توقف موفق، توقف به دلیل نبود داده و توقف امنیتی باید از هم جدا ثبت شوند. اگر پاسخ ابزار تغییری در مسیر ایجاد می کند، وضعیت جدید باید به صورت ساختارمند وارد مرحله بعد شود.
گام ششم: تایید انسانی را در جای درست قرار دهید
برای خواندن داده عمومی شاید تایید لازم نباشد، اما ارسال پیام، تغییر قیمت، حذف رکورد یا پرداخت باید نقطه کنترل روشن داشته باشد. تایید انسانی بهتر است فقط برای اقدام پرریسک باشد؛ اگر برای هر قدم تایید بخواهید، مزیت ایجنت از بین می رود.
گام هفتم: با سناریوهای واقعی تست کنید
آزمون فقط مسیر عادی نیست. داده ناقص، درخواست متناقض، ابزار قطع شده، ورودی مخرب و پاسخ بسیار طولانی را هم آزمایش کنید. نتیجه هر اجرا را تریس کنید تا معلوم باشد مدل چه تصمیمی گرفت، کدام ابزار را فراخواند و چرا متوقف شد.
گام هشتم: کوچک منتشر کنید و بازخورد بگیرید
ابتدا برای گروه محدودی از کاربران و با دسترسی کم منتشر کنید. خطاها را دسته بندی کنید: مشکل دستور، داده، ابزار، مدل یا تجربه کاربری. بعد از رفع هر دسته، ارزیابی قبلی را دوباره اجرا کنید تا اصلاح یک بخش، بخش دیگری را خراب نکرده باشد.
چک لیست آماده سازی برای انتشار
- هدف و مالک فرایند مشخص است.
- ابزارها کم اختیار و قابل ردگیری هستند.
- اطلاعات محرمانه در لاگ خام ثبت نمی شود.
- معیار کیفیت و مجموعه ارزیابی وجود دارد.
- شرط توقف و مسیر بازگشت به انسان تعریف شده است.
- هزینه و زمان هر اجرا پایش می شود.