זיכרון לסוכני AI: למה vector DB לבדו לא מספיק
זיכרון סוכני AI הוא מערכת שמחליטה איזה מידע נשמר, למי הוא שייך, מתי הוא נטען ואיך בודקים את המקור שלו. מסד וקטורי, או vector DB, יכול לאתר קטעים דומים לשאלה, אבל הוא אינו מחליט אם הקטע סמכותי, מעודכן או מותר לשימוש במשימה הנוכחית. הזיכרון העסקי מתחיל בבעלות ובגבולות, ורק אחר כך בשליפה.
במערכת שלנו יש 867 רשומות זיכרון, 1,315 קישורים פנימיים ו-2,942 מקטעים על 751 קבצים. מנוע ההטמעה דוחה בקוד כל יעד שאינו מקומי. זו ראיה מקורית לכך שהפרטיות אינה הערה ליד האינדקס. היא תנאי לפני יצירתו. מערכת ההפעלה האגנטית משתמשת בזיכרון כחלק מהקשר, המדיניות והעקיבות.
- מסד וקטורי עוזר למצוא דמיון. זיכרון ארגוני צריך גם מקור, תוקף, בעלים והרשאה.
- גבול פרטיות אכוף דוחה יעד אינדוקס שאינו מקומי לפני שהמידע יוצא מהתחום.
- שער מיזוג זיהה מידע ייחודי ב-611 מתוך 661 קבצים ומנע ניקוי אוטומטי מסוכן.
- שאילתת זיכרון צריכה לתעד את מסלול השליפה ואת המסלול החלופי, כדי לדעת איזה מנגנון באמת השפיע על ההחלטה.
שליפה דומה אינה זיכרון אמין
מה קורה כששתי רשומות סותרות מקבלות ציון דמיון גבוה? חיפוש וקטורי עונה על השאלה אילו קטעים דומים לבקשה. הוא אינו עונה מי כתב אותם, האם הם מחייבים או אם עובדה חדשה החליפה אותם. בלי תאריך, סוג מקור והיררכיית סמכות, הסוכן מקבל טקסט משכנע ומחליט בעצמו איזה צד נכון.
זיכרון אמין שומר מטא-נתונים לפני הטמעות. לכל רשומה יש שם, תיאור, סוג, תחום ומקור. אינדקס התחום מספר אילו רשומות רלוונטיות. כך הניווט מתחיל מבעלות ורק אז עובר לדמיון. המבנה מצמצם רעש ומונע זליגה של ידע בין עסק, לקוח ומרחב אישי.
ארבע שכבות של זיכרון
השכבה הראשונה היא זיכרון סמכות: חוקים והחלטות שמכוונים עבודה. השנייה היא ידע תחומי: עובדות, העדפות ותהליכים של עסק. השלישית היא מצב תפעולי: מה פתוח ומה קרה עכשיו. הרביעית היא פלט ריצה: לוגים, דוחות וראיות. הטעות הנפוצה היא להכניס את כולן לאותו מאגר ולתת לציון דמיון לבחור.
| שכבה | משך חיים | כלל שימוש |
|---|---|---|
| סמכות | ארוך עד שינוי מפורש | נטען ראשון ונושא עדיפות |
| ידע תחומי | ארוך עם עדכון | נשמר תחת בעלים מוגדר |
| מצב | קצר וחי | נמשך מכלי מוסמך בזמן השאלה |
| פלט ריצה | לפי מדיניות שמירה | ראיה לניתוח, לא עובדה קנונית |
ההפרדה מונעת מצב שבו דוח ישן גובר על נתון חי, או לוג תקלה הופך בטעות להוראה קבועה. כשנוצר ידע חדש, מקדמים ממנו תמצית לזיכרון התחומי ומשאירים את פלט הריצה כראיה. המדריך להנדסת הקשר מסביר איך בוחרים מכל שכבה את הפריטים שנכנסים למשימה.
הגבול שנאכף לפני אינדוקס
פרטיות בזיכרון מתחילה לפני החיפוש. אם מידע רגיש כבר נשלח ליעד שאינו בשליטת הארגון, סינון התוצאה מגיע מאוחר מדי. לכן מנוע ההטמעה במערכת דוחה כל יעד שאינו מקומי. הבדיקה יושבת בקוד ומונעת את יצירת האינדקס ביעד חיצוני, גם אם התהליך ביקש להמשיך.
הכלל מתאים למבנה התחומים. מידע אישי נשאר במרחב האישי. לקוח אחד אינו רואה לקוח אחר. תחום עסקי מקבל את המסמכים שלו ואת קבצי הזיכרון שנבחרו עבורו. חיפוש חוצה-מערכת דורש מסלול מיוחד ובעל סמכות. כך השליפה מתחילה מרשימת מקורות מותרים ולא ממאגר גלובלי.
הגבול משפר גם דיוק. סוכן שעובד על לקוח מסוים אינו מקבל דוגמאות דומות מלקוח אחר וממלא מהן פרטים. פחות מידע זר פירושו פחות השלמות שגויות. אבטחה ואיכות נפגשות באותה החלטה: איזה מקור רשאי להשתתף בהקשר.
867 רשומות צריכות אינדקס אנושי ומכונתי
עם 867 רשומות בנפח 3.1MB, אי אפשר לקרוא את הכול בכל משימה. מצד שני, אינדקס מכונתי לבדו אינו מספיק לניווט סמכות. לכן כל תחום מחזיק MEMORY שמציג שורה אחת לכל רשומה: שם וקצה חוט שמסביר מתי לקרוא. הסוכן מתחיל מהאינדקס, בוחר כמה רשומות ואז מפעיל חיפוש נוסף אם חסר.
1,315 קישורי ויקי יוצרים שכבת יחסים. רשומה על לקח יכולה להפנות לכלי ולפרויקט שבו הכשל קרה. הקישור אינו רק נוחות. הוא מאפשר לבנות הקשר עקבי: חוק, מקור, דוגמה ותוצאה. חיפוש דמיון עשוי למצוא אחד מהם. מפת הקישורים מראה למה הם קשורים.
בפועל, השילוב עובד טוב כאשר האינדקס האנושי קצר והאינדקס המכונתי רחב. הראשון קובע גבולות וכניסה. השני עוזר לאתר ניסוחים ופרטים בתוך התחום. כאשר הם סותרים, מסמך הסמכות והמקור העדכני גוברים על ציון הדמיון.
מיזוג זיכרון יכול למחוק את החריג היחיד
כפילויות מצטברות. שני סוכנים כותבים לקח דומה, או אותו פרויקט נשמר בכמה מקומות. הרצון לאחד הגיוני, אבל זיכרון עסקי מלא בפרטים חריגים: אישור שנדרש רק בערוץ אחד, תאריך החלטה או כלי מוסמך לשאלה מסוימת. אם המיזוג משאיר רק את המשותף, הוא מוחק בדיוק את מה שמגן על המקרה הנדיר.
שער המיזוג במערכת זיהה אסימון ייחודי ב-611 מתוך 661 קבצים שנבדקו. הוא סירב לאחד קובץ כאשר קיים פרט שאינו מופיע בצד השני. המספר אינו אומר שכל ההבדלים חשובים. הוא מוכיח שכמעט כל איחוד דורש השוואה והכרעה, ולא ניקוי אוטומטי גורף.
- השוו מטא-נתונים בראש הקובץ, תחום וסוג לפני הטקסט.
- הציגו משפטים ואסימונים ייחודיים לשני הצדדים.
- קבעו מה מקור סמכות ומה תיעוד היסטורי.
- שמרו הפניה מהקובץ הישן אם יש ערך עקיבות.
- עדכנו את האינדקס רק אחרי שההשוואה אושרה.
אינדקס קיים עדיין יכול להיכשל בזמן אמת
באינדקס הסמנטי נספרו 2,942 מקטעים על 751 קבצים. האודיט גילה ששאילתות חיות עוברות לדירוג לקסיקלי אחרי פסק זמן של 30 שניות, בעוד התהליך הסמנטי לוקח 33 שניות. הקוד והנתונים קיימים, אבל מסלול הזמן גורם למנגנון אחר לשרת את הבקשה.
לכן יומן השליפה צריך לשמור איזה מסלול הופעל. אם הופעל מסלול חלופי, ההחלטה צריכה לדעת זאת. אחרת הצוות מייחס תוצאה לחיפוש הסמנטי ומשפר את הרכיב הלא נכון. עקיבות ברמת הזיכרון כוללת זמן, מספר תוצאות, מקור ורמת ביטחון, יחד עם סיבת המעבר.
זה גם מגדיר התנהגות כשאין תוצאה. במקום למשוך רשומה מתחום אחר, המערכת יכולה להחזיר מצב לא ידוע ולבקש מקור. תשובה חסרה היא לפעמים הבחירה האמינה. השלמה ממאגר רחב יכולה להישמע טובה ולערבב עובדות שלא שייכות למשימה.
מחזור החיים של רשומת זיכרון
רשומה מתחילה מאירוע, החלטה או ידע יציב. לפני כתיבה בודקים אם היא כבר קיימת, לאיזה תחום היא שייכת ומה צריך להישאר בפלט הריצה. אחר כך מוסיפים מטא-נתונים בראש הקובץ, תוכן קצר וקישור באינדקס. כשהעובדה משתנה, מעדכנים את הרשומה הקנונית ומציינים את ההחלטה.
גם מחיקה דורשת זהירות. רשומה שהתיישנה יכולה להפוך לארכיון או לקבל סימון שהוחלפה. מחיקה מלאה פוגעת ביכולת להבין למה המערכת פעלה בעבר. אם יש מידע רגיש שחייב להימחק, הפעולה צריכה לכלול גם אינדקסים, עותקים וגיבויים לפי מדיניות.
- קליטה: זיהוי ידע קבוע לעומת פלט חולף.
- סיווג: תחום, סוג, בעלים והרשאה.
- קישור: הוספה לאינדקס ולרשומות קשורות.
- שליפה: הקשר ממוקד עם מקור ומסלול חלופי מתועד.
- עדכון: החלטה מתועדת לגבי גרסה ותוקף.
- ארכוב: שמירת עקיבות בלי להציג מידע ישן כעובדה חיה.
מה לבדוק לפני שבוחרים תשתית זיכרון
שאלו קודם מי הבעלים של המידע ואילו תחומים חייבים להישאר מבודדים. אחר כך הגדירו סוגי רשומות, תוקף ומקור אמת. רק אז בוחרים מנגנון חיפוש. אם המוצר אינו יכול לאכוף מרחב שמות, יעד מקומי ומחיקה מבוקרת, איכות ההטמעה לא תפתור את הסיכון.
בדקו גם תפעול: איך רואים את ההשוואה לפני מיזוג, איך יודעים איזה מסלול שליפה שירת בקשה, מה קורה בפסק זמן ואיך מעדכנים רשומה בלי לשבור קישורים. אלה השאלות שמופיעות אחרי שהדמו עובד. הן קובעות אם הזיכרון נשאר אמין אחרי חודשים של שינוי.
אז למה מסד וקטורי לבדו אינו מספיק? הוא יכול להיות רכיב מצוין בתוך המערכת. זיכרון שימושי מחבר מבנה אנושי, אינדקס מכונתי, גבולות פרטיות, שערי מיזוג ועקיבות. החיבור הזה מאפשר לסוכן לזכור בלי להפוך כל פיסת טקסט לאמת זמינה.
זיכרון שמחזיק לאורך זמן הוא רשומות מקושרות עם בעלות ומקור, ולא חלון הקשר ארוך יותר. זה בדיוק המקום שבו vector DB לבדו נגמר.
אפשר לקרוא את שכבת הזיכרון של גבורה, או לראות את ההסבר המלא בעברית על מערכת ההפעלה האגנטית.
שאלות נפוצות
למה מסד וקטורי אינו מספיק לזיכרון סוכן?
הוא מדרג דמיון, אך אינו קובע סמכות, תוקף, בעלות או הרשאה. מערכת זיכרון צריכה מטא-נתונים, גבולות תחום, תהליך עדכון ועקיבות של השליפה.
איך מונעים ערבוב בין לקוחות?
מבודדים מקורות ואינדקסים לפי תחום, בודקים יעד לפני אינדוקס ומרכיבים חבילת הקשר רק מרשימת מקורות מותרים. חיפוש חוצה-תחומים דורש מסלול סמכות נפרד.
מה עושים עם רשומות סותרות?
בודקים מקור, תאריך והיררכיית סמכות. מעדכנים את הרשומה הקנונית ומסמנים גרסה ישנה כגרסה שהוחלפה או כארכיון. אין לתת לציון דמיון לבחור הכרעה עסקית.
איך בודקים שמנוע השליפה באמת שירת את הבקשה?
שומרים ביומן את המסלול, הזמן, התוצאות וסיבת המעבר. כך אפשר לזהות מצב שבו אינדקס קיים אך פסק זמן מעביר בפועל לדירוג אחר.
נגדיר תחומים, מקורות, תוקף, פרטיות ומסלול מיזוג לפני בחירת אינדקס. התוצאה היא חוזה זיכרון שמגן על מידע ומשפר את ההקשר.
רוצים ש-OpticoAI יעשה את זה בשבילכם?
