L0 עד L4: סולם האוטונומיה, ולמה רוב הארגונים תקועים ב-L2

אוטונומיה של סוכני AI היא מידת החופש שהמערכת מקבלת לצפות, לנסח, להכין או לבצע פעולה בלי אישור נוסף. סולם L0 עד L4 נותן לארגון שפה אחת להגדרת החופש הזה. הוא מפריד בין יכולת טכנית לבין הרשאה עסקית, ולכן מאפשר להרחיב שימוש בלי להעניק לכל תהליך אותה רמת כוח.

רוב הארגונים מרגישים בטוחים ב-L2, שבו הסוכן מכין והאדם מחיל. זו נקודת פתיחה טובה. הקושי מתחיל כשמנסים לעבור לביצוע מוגבל בלי להגדיר גבולות. מערכת הפעלה אגנטית צריכה לדעת לעלות רמה בתהליך יציב ולרדת רמה מיד כשהפעולה פוגשת כסף, פרסום או קשר עם לקוח.

הסולם בקצרה: מהתבוננות לביצוע רחב

L0 הוא מצב תצפית. הסוכן קורא מצב ומסביר מה הוא רואה. L1 הוא מצב טיוטה: הוא מנסח תשובה, תוכנית או שינוי מוצע. L2 הוא מצב הכנה: הוא מכין את הפעולה עד הקצה, אך אינו מחיל אותה. L3 הוא ביצוע בתוך גבולות שנקבעו. L4 הוא מסלול אוטונומיה רחב יותר, שבו המערכת פועלת לאורך זמן ומסלימה חריגים.

מה קורה ברגע שהסוכן משנה את העולם החיצוני? שם נמדד ההבדל בין הרמות. קריאת נתון אינה דומה לעדכון לקוח. בניית טיוטת עמוד אינה דומה לעריכת עמוד חי. הכנת תווית משלוח אינה דומה לתשלום עליה. אותו סוכן יכול לעבוד בכל הרמות, אבל החוזה סביב כל פעולה חייב לקבוע מה מותר ברגע המסוים.

למה L2 מרגיש בטוח, ולמה הוא גם צוואר בקבוק

ב-L2 הארגון מקבל כמעט את כל החיסכון הקוגניטיבי. הסוכן אוסף מידע, בונה ניסוח, ממלא שדות ומציג פעולה מוכנה. האדם נשאר עם קליק, אישור או החלה. זה מתאים לתהליך חדש, למידע רגיש ולמצב שבו עדיין אין מספיק נתוני כשל. אפשר לראות את הטיוטה וללמוד איזה סוג תיקון חוזר שוב ושוב.

הבעיה מופיעה כשהתור גדל. אם כל פעולה מחכה לאותו אדם, ההכנה הופכת מהירה והאישור נשאר ידני. נוצרת ערימה של טיוטות, והארגון מסיק שהסוכן אינו חוסך זמן. בפועל חסרה החלטת מוצר: אילו פעולות כבר הוכיחו יציבות ויכולות לעבור ל-L3, ואילו פעולות צריכות להישאר ב-L2 בגלל גודל הנזק האפשרי.

הראיה מהמערכת: ירידה אוטומטית לפני פעולה רגישה

המערכת שלנו פועלת ב-L3 ובחלק מהזרימות ב-L4. עם זאת, פעולה בלתי הפיכה מורידה את הזרימה אוטומטית ל-L2. כסף, פרסום והודעה ללקוח אינם ממשיכים רק מפני שהשלבים הקודמים רצו ברמת אוטונומיה גבוהה. ברגע שהסיכון משתנה, גם ההרשאה משתנה. זו אינה בקשה מנומסת בתוך הטקסט. זה מעבר שנאכף לפני הפעולה.

המנגנון פותר טעות נפוצה: ארגון מגדיר רמת אוטונומיה לסוכן שלם. בפועל צריך להגדיר רמה לפעולה. סוכן שירות יכול לקרוא סטטוס הזמנה ב-L3, לנסח תשובה ב-L1 ולהכין זיכוי ב-L2. אותו רצף משתמש בשלוש רמות. מה שמחבר ביניהן הוא מדיניות, לא אישיות הסוכן.

השערים במערכת חסמו 29 מתוך 137 החלטות מדיניות, שהם 21%. הנתון מלמד שהירידה אינה תרחיש תיאורטי. פעולות מגיעות לשער ומקבלות תשובה שונה בהתאם לערוץ, ליעד ולמצב. המאמר על שש שכבות הסטאק מסביר איפה השער יושב ביחס לכלים, לזיכרון ולעקיבות.

אוטונומיה בלי הרשאה רחבה

אוטונומיה גבוהה אינה חייבת לקבל הרשאה רחבה. אפשר לתת לסוכן חופש לנהל תור, לתעדף עבודות, לקרוא מקורות ולבנות תוצאה, ובאותו זמן להגביל אותו ליעדים מסוימים. הגבול יכול להיות ערוץ, סוג נתון, חלון זמן, סכום, סטטוס לקוח או פעולה מותרת. ככל שהגבול קרוב יותר לכלי, קל יותר להוכיח שהוא נאכף.

ניסוח כמו פעל בזהירות אינו גבול. גבול הוא תנאי שאפשר לבדוק: כתיבה מותרת רק לטיוטה; פרסום דורש אישור; יעד חייב להיות מקומי; פעולה כספית עוברת למסך אישור; הודעה ללקוח דורשת בדיקת מצב קשר מוסמכת. כל תנאי כזה צריך לכתוב החלטה ליומן, כולל הסיבה והפרטים שנבדקו.

איך מעבירים תהליך מ-L2 ל-L3

המעבר מתחיל בתהליך צר עם תוצאה ברורה. בחרו פעולה שחוזרת, שקל לאמת ושאפשר לבטל או לתקן. הגדירו את נתוני הקלט, יעד הכתיבה, תנאי ההצלחה ותנאי העצירה. אחר כך אספו דוגמאות מהתור הידני: אילו פריטים אושרו, אילו נערכו ואילו נדחו. התיקונים החוזרים הופכים לכללי הקשר או לשערים.

1. תעדו את מסלול L2 הקיים, כולל נקודת האישור והסיבות לשינוי.
2. הגדירו תחום ביצוע קטן עם הרשאות מינימליות ותוצאה ניתנת לבדיקה.
3. הריצו תרחישי הצלחה, חסימה וקלט חסר לפני פתיחת המסלול.
4. שמרו יכולת ירידה מיידית ל-L2 כאשר התנאי משתנה.
5. בדקו תוצרים מקושרים, חריגים והסלמות, ולא רק קוד יציאה.

בשלב הראשון אפשר להשאיר את ההחלה בצל: המערכת מחליטה מה הייתה עושה, אך האדם ממשיך לבצע. משווים בין ההחלטות ולומדים פערים. כשהפערים ברורים והחסימות עובדות, פותחים ביצוע לקבוצה מוגדרת. כך המעבר אינו קפיצה של אמון. הוא הרחבה של חוזה שנבדק.

מה משתנה ב-L4

L4 אינו רישיון כללי. הוא מתאים למסלולים שבהם המערכת יכולה לבחור רצף פעולות, לנהל כמה נתיבים ולהמשיך לאורך זמן. האחריות עוברת מפיקוח על כל צעד לפיקוח על מדיניות, תקציב, גבולות ותוצאה. האדם צריך לראות תמונת מצב, לקבל הסלמות ממוקדות ולהחזיק מתג עצירה שמפסיק יציאה חדשה בלי לאבד את התור.

כאן אורקסטרציה רב-סוכנית הופכת חלק מהבטיחות. אם כמה נתיבים נוגעים באותו משאב, רמת האוטונומיה של כל אחד אינה מספיקה. צריך מפה של התנגשויות, בעלות זמנית וסדר הכרעה. מסלול L4 שמנהל את עצמו ועדיין מאפשר דריסות שקטות אינו בוגר להפעלה.

האמת ש-L4 פחות דרמטי ממה שנדמה. רוב העבודה היא תחזוקה: תורים, נעילות, חידוש הרשאות, ניטור עקרות, תיעוד וירידה לרמה נמוכה כשמשהו אינו ודאי. החופש נוצר מכך שהגבולות ברורים, לא מכך שהגבולות נעלמו.

מפת החלטה לארגון

כדי לבחור רמה, שאלו ארבע שאלות: מה הנזק המרבי, כמה מהר מזהים טעות, האם הפעולה הפיכה ומי מקבל התראה. פעולה הפיכה עם אימות מיידי יכולה להתאים ל-L3 מוקדם יחסית. פעולה שמשנה קשר עם לקוח או מוציאה כסף צריכה להישאר ב-L2 עד שיש שער מפורש ואישור.

שאלה נוספת היא מה קורה כשהמידע חסר. מערכת בוגרת אינה ממלאת את החסר בביטחון. היא יורדת רמה, מבקשת מקור או מסלימה. המסלול הזה צריך להיות הצלחה תפעולית, לא כשל שמסתירים. ארגון שמתגמל רק ביצוע מלמד את הסוכן לעקוף אי ודאות. ארגון שמתגמל החלטה נכונה יכול למדוד גם עצירה.

אז מהי הרמה הנכונה? המטרה אינה להגיע ל-L4 בכל מקום. המטרה היא לתת לכל פעולה את הרמה שמייצרת ערך בלי לטשטש אחריות. לפעמים L1 הוא המוצר הנכון. לפעמים L3 חוסך עבודה רבה. הסולם מאפשר להגיד את זה במדויק ולהחליף רמה כשהראיות משתנות.

שאלות נפוצות