סוכנים שבודקים את העבודה שלהם לפני שהם שולחים
דפוס הלולאה ואימות מריץ תוכנית → פעל → אימות → התחייבות בכל משימה. טעויות נתפסות בתוך הלולאה, לא במורד הזרם על ידי אדם.
רוב מערכות AI מגיבות וממשיכות הלאה. סוכנים אוטונומיים צריכים לעבוד כמו מהנדסים בכירים: לתכנן את השינוי, לבצע אותו, לבדוק את התוצאה, ורק אז להתחייב. ארכיטקטורת הלולאה ואימות היא האופן שבו המשמעת הזו נאכפת בכל שלב.
בתוך הלולאה
- 01
תכנן
הסוכן מפרק את בקשת המשתמש למשימות משנה קונקרטיות, בוחר כלים ומשרטט את התוצאה הצפויה כך שההצלחה ניתנת למדידה.
- 02
מעשה
הסוכן מבצע כל תת-מטלה, קורא ממשקי API ומצב כתיבה. כל קריאת כלי נקלטת עם הכניסות, הפלטים והתזמון שלה.
- 03
אמת והתחייב
לפני שהשינוי נעשה קבוע, הסוכן משחזר את תוכניתו נגד המדינה החדשה, בודק מעקות בטיחות, ומתחייב או חוזר לאחור עם סיבה.
למה הלולאה חשובה
תיקון עצמי
כאשר האימות נכשל, הסוכן מחדד את התוכנית שלו ומנסה שוב - מבלי למשוך אדם להחמצות שגרתיות.
הערכות דטרמיניסטיות
כל לולאה מייצרת עקבות שניתן לשחזר שתוכל להפעיל מחדש במצב לא מקוון, מה שהופך את בדיקת הרגרסיה למעשית.
אכיפת מעקה בטיחות
בדיקות מדיניות פועלות בזמן אימות, כך שפעולות הרסניות לעולם לא מגיעות לייצור רק בגלל שהתוכנית נראתה בטוחה.
ניסיונות חוזרים זולים
אימותים שנכשלו הם בחינם בהשוואה לפריסות שנכשלו. עלות תרכובות בכיוון הנכון.