פרפרי תעתוע - מה קורה כשסוכנים חולמים
לילה אחד במדבר, עם טבעת שמודדת שינה בלי אינטרנט, ומה שקורה במוח שלנו אל מול מוח של מודל שפה בדיוק באותו רגע שאנחנו חולמים
קצת לפני שתיים בלילה פתחתי את העיניים.
ראיתי כיפה של כוכבים, ושמעתי את ערן צור שר את “פרפרי תעתוע” כמו שלא שמעתי אותו שר מעולם.
נשארתי לשכב, מקשיבה ליופי הזה, מעלי כיפה מנצנצת של כוכבים, ואז נרדמתי. כמה שעות אחרי, זה הדבר שנחרט לי הכי חזק מכל החוויה (שהיתה לילה מוסיקלי רצוף, באמצע המדבר, שכל מהותו חיבור מדיטטיבי למוסיקה).
על האצבע שלי הייתה טבעת שמדדה בשקט את רמת השינה שלי בכל חלק מהלילה, אבל לא היה אינטרנט, אז רק יום אחרי, התפניתי לבדוק מה נמדד.
הדשבורד של הטבעת הראה את עומקם של גלי השינה - לא שינה.
נמדדו רגעים של אלפא, של חצי שקיעה. ואז עֵרות פתאומית שלא הגיבה לכלום, חוץ מלצליל אחד, מתוך שיר מוכר שלא שמעתי שנים. פרפרי תעתוע של ערן צור, אי שם בין אבישי כהן להופעת זריחה של דודו טסה, ומנעד רחב של צלילים במרחב פתוח מאוד.
מה שלא ידעתי באותו רגע, זה שהמוח שלי עבד קשה דווקא כי לא ישנתי ברצף.
כי שינה היא לא אחסון ולא כפתור שמירה.
היא תהליך פעיל. הפעלה מחדש, בחירה, חיבור, שינוי צורה של זכרונות. המוח לוקח את שברי הלילה, את הצלילים, את השיחות, את התעתוע, ומחליט מה נשמר, מה מתחבר למה שכבר יש בפנים, ומה נזרק.
הנסיעה השקטה הביתה, לפנות בוקר, כשהמדבר מתחיל להאיר. שם זה קרה. פתאום דברים התחברו. תובנות. פירוק. מחשבות שהתיישבו במקום.
וכאן מגיע החלק שהוא לא במקרה מה שאני קוראת ולומדת בשבוע האחרון - כי לשם בדיוק גם הטכנולוגיה הולכת, או יותר נכון, לאן שאנחנו צריכים ללכת בתוך האירוע הזה, שככל שיהיה מוטבע יותר בחיינו נצטרך להבין איך לשלוט בו.
למה אייג’נטים צריכים לחלום
הטענה אומרת שמודל, בבסיסו, לא שומר מצב. הוא מתחיל כל שיחה מאפס. חלון קונטקסט גדול הוא לא זיכרון, הוא רק חדר או חלל עבודה, כשההיסטוריה של האייג’נט מלאה ברעש - פקודות שנכשלו, השערות שנזנחו, כפילויות, או סתם מידע ישן. בדיוק כמו לילה מלא שברים.
מה בדיוק החלימה עושה? ארבעה דברים:
מנקה את הזיכרון. עוברת על יומני השיחות וקבצי הזיכרון, ממזגת עובדות כפולות ומוחקת מידע ישן או שגוי
מזהה דפוסים. מתוך העבודות הקודמות היא מבינה אילו צעדים עבדו הכי טוב, ושומרת אותם להמשך
משפרת עבודת צוות. במערכות עם כמה אייג’נטים, החלימה עוזרת לכולם לחלוק את מה שלמדו, כדי לעבוד יחד חלק יותר
חוסכת מקום. כי אפשר להחזיק רק כמות מוגבלת של מידע פעיל בכל רגע, החלימה עובדת כמו מערכת תיוק ששומרת את הידע החשוב זמין לתהליך העבודה הרלוונטי
מבחינה תהליכית ככה זה נראה:
המערכת לוקחת צילום מצב של הזיכרון הקיים ושל השיחות האחרונות, מעבירה אותו דרך “מנוע חלימה” שממזג, גוזם ומזקק, ומוציאה מאגר זיכרון נקי. הוא לא נכנס לשימוש מיד. קודם הוא ממתין לבדיקה, ורק אחריה מצורף לשיחות הבאות.
התהליך, בתמונה אחת: מהזיכרון הקיים ומהשיחות, דרך מנוע החלימה, אל זיכרון נקי שממתין לבדיקה לפני שהוא חוזר פנימה.
וזה כבר מעבר לקונספט. אנת’רופיק הוציאה את היכולת כרכיב ממשי בשם Dreams שניתן להכנס אליו ברמה הארגונית . שיאומי בנתה אייג’נט קוד שרץ “לחלום” אוטומטית כל שבעה ימים (כאן ארכיטקטורה למתעניינים) חברות כמו Letta קוראות לזה sleep-time compute (המאמר האקדמי - פה צוללים) ואצל openclaw זה אחד היתרונות המובנים. חישוב בזמן שינה. ממש ככה. אם זה לא חלק מהארכיטקטורה שתכננתם, כדאי.
הארכיטקטורה,בשלבים, בתמונה אחת - לנהל את המידע שאנחנו רוצים שיכנס
למה זה נוגע גם בך
המודל הוא בשכירות. המודלים מתחלפים כל הזמן וגם היכולות שלהם. הזיכרון הוא נכס.
המתחרים שלך ניגשים לאותם מודלים, אותו API, אותה חכמה בסיסית. זה לא היתרון. היתרון הוא הזיכרון שנצבר: איך הארגון שלך מחליט, אילו טעויות כבר עשה, מה נחשב אצלך “טוב”. זה הדבר היחיד שיהיה ההבדל בין ארגון לארגון או אדם לאדם.
אבל, יש פה תנאי אחד. אצירת הזיכרון היא לא ניטרלית. אני נתקלת בזה כל יום, ואם תלכו במסדרון ותשאלו 2 אנשים לגבי אמת אחת, כנראה שלא בהכרח תשמעו את אותה התשובה.
וזה העניין- יש הבדל בין לתחזק את הזכרון שלי אל מול המודל, לבין תחזוקה של מודל עבור צוות או ארגון. מישהו צריך להחליט מה אות ומה רעש, מה נכנס פנימה ומה מתפוגג. זיכרון שלא מתוחזק הוא לא נכס, הוא עומס - וזו ,לפי דעתי, הבעיה הבאה שנצטרך להתמודד איתה.
בדיוק כמו הלילה שלי. הערך לא היה בכמה קלטתי, אלא במה שהמערכת בחרה לשמור, ובמה שנתנה לשקוע.
מה לעשות עם זה
אם יש לך כבר אייג’נט שעובד אצלך או בארגון, או שיהיה בקרוב, שלוש שאלות לכל הנהלה (״הנהלה״ כאן יכולה גם להיות גם את מול האג׳יינט האישי שלך, אבל בהכרח אם יש כאן יותר מאדם אחד, זה חשוב פי כמה בהגדרה) :
למי שייך הזיכרון של האייג’נט? לך, או לספק המודל? אם הוא לא אצלך (ניהול קבצים וגרסאות), גם הנכס לא.
מי מאשר מה נכנס אליו? זה בדיוק כמו Code Review. אף אחד לא מעלה קוד לפרודקשן בלי בדיקה. למה שזיכרון ייכנס אחרת? תעברו על הזכרון, תראו שזה מתאים לכם - ההגה הוא שלנו, קודם כל.
מה מדיניות ה״שכחה״? מה מותר לאייג’נט לשכוח, ומתי. זיכרון בלי מחיקה מתנוון, בדיוק כמו יום בלי שינה. מה אסור למחוק?
כל אלה הם קבצי מארקדאון בתור התחלה, ארכיטקטורה מסודרת בתוך המשך.
אם אין לך אייג’נטים, קחי את זה לרמה האישית:
תשמרי את זמן החלימה שלך. את הנסיעה השקטה, את ההליכה בלי אוזניות, את החלון שבו שום דבר לא צריך ממך כלום. שם קורה הגיבוש. אם תמלאי כל רגע מת בגלילה, לא תשאירי למוח מקום לעשות בדיוק את מה שהמכונות רק עכשיו לומדות לחקות.
אחר כך, תחשבי מה מזה צריך לעבור למכונה כדי לעזור לך (או כמו שאמרו לי השבוע - ״שהיא תעבוד בשבילי, כרגע אני עובדת קשה מדי בשבילה״).
לצבור הסטוריה ולבנות זכרון זה לא אותו דבר, לא אצל בני אדם, ולא אצל מכונות.
אנחנו צריכים לנהל לא רק את הזכרון של האג׳ינט אלא גם את זמן החלימה שלו, שיאפשר אוטומציה של סידור וארגון המידע, ככה שבאמת, הוא יתחיל לעבוד בשבילינו, ולא הפוך.