פרק 14: על עגלות, רכבות, ואיך ההתפתחות של מודלים חונקת את התשתית

ביום שלישי בערב ראיתי את אנתרופיק מעדכנים בשקט את עמוד התמחור באתר שלהם. כמי שנמצא כבר על תוכנית המקס של מאה הדולר בחודש, לא הרגשתי את השינוי באופן ישיר — אבל ראיתי את הקהילה סביבי נכנסת לסחרור כשהאפשרות להשתמש בקלוד קוד נעלמה לכמה שעות מתוכנית הפרו של עשרים הדולר.

אנתרופיק חזרו בהם תוך פחות מיממה והגדירו את כל המהלך כניסוי על שני אחוזים מהנרשמים החדשים בלבד. אבל ראש הצמיחה שלהם הודה ברשת שהתוכניות הקיימות פשוט לא נבנו לעולם שבו קלוד קוד וקאוורק רצים בסשנים אסינכרוניים שעות ברקע, וששחרור של אופוס 4.7 שילש את אורך הסשנים הממוצע.

ההודאה הזו, יחד עם השינוי הקטן שכבר עודכן בדוקומנטציה ושינה את הניסוח מ"שימוש עם תוכנית פרו" ל"שימוש עם תוכנית מקס בלבד", הבהירו לי שהחברות הגדולות כבר לא בונות מוצרים לעולם של צ׳אט פשוט. הן מנסות להתגונן מפני עולם שבו סשן אחד צורך מאות אלפי טוקנים — והדרך שבה אנשים משתמשים במנוי השתנתה מן היסוד.

הסימפטום והמחלה

השינוי בתמחור הוא רק סימפטום של מהלך עמוק הרבה יותר: המודל הכלכלי הישן קורס תחת העומס של עצמו.

ראינו את OpenAI סוגרים את סורה במרץ האחרון, אחרי שהתברר שהיא שורפת עד חמישה עשר מיליון דולר ביום בשיא השימוש על עלויות הרצה — בזמן שההכנסות לאורך כל חייה הסתכמו בקושי בשני מיליון דולר. מה שהוביל לקריסת העסקה של מיליארד דולר מול דיסני, שעודכנה עליה רק ערב אחד לפני ההכרזה הפומבית.

ימים ספורים קודם לכן, מטא הודיעה על סגירת הורייזון וורלדס כפלטפורמה חברתית עצמאית, במסגרת הזרמה של בין מאה חמישה עשר למאה שלושים וחמישה מיליארד דולר לתשתית AI בשנת 2026 לבדה. מה שמסמן את הרגע שבו מטא הפסיקה לרדוף אחרי המטאוורס והתחילה לבנות את התשתית שתריץ את האינטליגנציה הבאה.

ההתפתחות של ארכיטקטורת אייג׳נטים

המסלול שעברנו כבילדרז בשנים האחרונות התקדם בארבעה שלבים:

שלב 1 — המודל החכם ביותר. חיפוש אחרי המודל עם הדיוק הגבוה, שאלת תשובה היו חזות הכל, והמטרה העיקרית הייתה למקסם את איכות המידע המופק.

שלב 2 — ידיים וכלים. בניית אייג׳נטים שקיבלו גישה ל-API, מה שהפך אותם ליישויות שמבצעות משימות אקטיביות בתוך מערכות חיצוניות ומתמודדות עם אתגרי אינטגרציה.

שלב 3 — אורקסטרציה. תזמור של צוותי אייג׳נטים שמתואמים ביניהם ומנהלים מצב משותף, כדי לפתור בעיות עסקיות מורכבות שגדולות על מודל יחיד. (על אלה ועוד כתבתי בסדרת המאמרים שלי — מוזמנים לקרוא ולהעמיק.)

שלב 4 — עידן הניהול והתשתית (AMP — Agent Management Platform). היום אנחנו עומדים בפתחו, והדגש עובר ליכולת להריץ אלפי אייג׳נטים בצורה בטוחה, כלכלית ומנוטרת לאורך זמן בתוך הארגון.

כדי להחזיק מערכת כזו בפרודקשן, אנחנו זקוקים לשכבת בקרה תפעולית שכוללת מספר רכיבים שפועלים יחד בסינרגיה מלאה:

• אבטחת זהות — הבסיס לניהול הרשאות של ישויות לא אנושיות בתוך המערכות הארגוניות.
• ניטור התנהגות — מזהה חריגות בתגובות בזמן אמת ושומר על איכות השירות.
• בקרת עלויות — חסמי הרצה שמונעים הפתעות תקציביות כואבות.
• תיעוד לוגים — מאפשר לתחקר בדיעבד כל החלטה אוטונומית שהתקבלה על ידי המכונה.
• ספריות אייג׳נטים וסביבת פיתוח עם גרסאות — בלעדיהם, האייג׳נטים נשארים אוסף של רכיבים מפוזרים שאי אפשר באמת לסמוך עליהם ברגעי אמת.

המחסום של 2026: מחשמל ועד אינטגרציה

המעבר מאימון להרצה יצר צווארי בקבוק חדשים שאיש לא צפה. והיום החסם העיקרי הוא לא רק כמות ה-GPUs — אלא היכולת הפיזית לחבר אותם לרשת החשמל.

ארון שרתים בודד של אנבידיה צורך היום מעל מאה וארבעים קילוואט, פי עשר ויותר ממה שמרכזי נתונים מסורתיים תוכננו עבורו לפני חמש שנים בלבד. מה שמוביל לכך שלפי דיווחי בלומברג, קרוב לחצי מפרויקטי הדאטה סנטרים שתוכננו לקום בארה״ב השנה צפויים להידחות או להתבטל בגלל מחסור בשנאים, מתגי כוח וסוללות.

הבעיה של ה-AI הפכה מבעיה של אינטליגנציה מופשטת לבעיה של הנדסה כבדה. והפער הזה מסביר למה, לפי דו״ח NANDA של MIT, תשעים וחמישה אחוז מהפיילוטים בארגונים נכשלים בלי החזר השקעה מדיד — לא בגלל שהמודל לא חכם, אלא בגלל פער הלמידה בין הכלי הגנרי לבין תהליכי העבודה הקיימים, ובגלל שהחיבורים למערכות הישנות פשוט שבורים.

התהליך שבו מחליפים אדם באייג׳נט חושף את כל ההיסטוריה של החיבורים הלא מתועדים וה-API שאף אחד לא זוכר איך הוא נבנה — מה שהופך את ה-AI הארגוני לבעיה של מערכות מבוזרות שלובשת בגדים של בעיית אינטליגנציה.

ישבתי מול המסך וניתחתי לוגים רצים במשך עשר דקות בלי לזוז, כשניסיתי להבין למה מערכת אחת הפסיקה לתקשר עם השנייה — והבנתי שהערך האמיתי נמצא בניהול הקונטקסט ולא בפרומפט עצמו. הצלחה של פרויקט אייג׳נטי תלויה היום בתשעים אחוז בארכיטקטורת מידע סביב המודל, ורק בעשרה אחוז בבחירה של המודל הספציפי שבו משתמשים.

ניהול זיכרון ומערכות מבוזרות ב-Claude Code

הצורך בניהול קונטקסט עמוק הוליד את שכבת הזיכרון החדשה, שהיא הרבה מעבר לשליפת מסמכים פשוטה שכולנו הכרנו לפני שנתיים.

אנחנו בונים עכשיו מערכות עם זיכרון עבודה שחי בתוך חלון הקונטקסט, זיכרון ארוך טווח שמאוחסן במאגרים חיצוניים, ושכבת בקרה חכמה שמחליטה מה לשמור ומה לזקק כדי לחסוך בעלויות הטוקנים. כלים כמו Mem0 או Letta הפכו לחיוניים, כי הם מאפשרים לאייג׳נטים ללמוד מהאינטראקציות ולשפר את התשובות שלהם לאורך זמן — מה שמוריד את עלויות ההרצה בעשרות אחוזים בזכות שכבות קומפרסיה חכמות שמזקקות את ההיסטוריה לעובדות צפופות ומדויקות.

הכלי המרכזי שמאפשר לי לחבר את כל הנקודות האלו הוא קלוד קוד, שמאפשר להגדיר סאב אייג׳נטים בתוך הפרויקט עצמו ולנהל את ההרשאות שלהם דרך קובץ ה-CLAUDE.md שמשמש כחוקה של המערכת.

בניתי לאחרונה מערכת לתחקור עסקאות שמורכבת מצוות של ארבעה אייג׳נטים שרצים במקביל: אחד חוקר חדשות, השני מנתח מתחרים, וכולם מתקשרים דרך JSON מובנה תחת פיקוח של אייג׳נט סינתזה מרכזי. בנייה כזו הייתה דורשת בעבר חודשים של פיתוח צוותי — והיום היא נבנית בכמה ימים על ידי בילדר אחד שמבין איך לבנות את האורקסטרציה והתשתית בצורה נכונה ומדויקת.

הבילדר של 2026

הבילדר של 2026 לא מתחרה על היכרות עם המודל החדש ביותר, אלא על היכולת לבנות תשתית יציבה שבה האייג׳נטים רצים בבטחה לאורך ימים בלי ליפול.

אנחנו נמצאים בנקודה שבה כל מודל יכול לבצע פעולות בסיסיות, וההבדל האמיתי נוצר בדרך שבה אנחנו עוטפים אותו, מחברים אותו למערכות הארגון ומנהלים את הזיכרון שלו בצורה חכמה. מי שישכיל להשקיע בארכיטקטורה וניהול האייג׳נטים שלו כבר עכשיו, ימצא את עצמו בחזית של תעשייה שרק מתחילה להבין את גודל השינוי שעובר עליה.

והדמות שבחזית הפוסט רכבת קיטור ישנה שמושכת קרונות — כי זה בדיוק ההבדל: המנוע החזק לא משנה כלום אם המסילה, הקרונות וניהול המשא לא עומדים בעומס. התשתית היא המסילה.

ולמי שלא מכיר — אני מתניה מירז, ובשנתיים וחצי האחרונות אני בונה אייג׳נטים ומערכות AI לעסקים וחברות. אחרי מאות שעות של בנייה ושל לימוד מה עובד ומה לא, אני בונה בימים אלה מערכת לניהול סוכנים שמטמיעה את המתודולוגיות האלה ישירות בתוך סביבת הפיתוח.

אני מלמד איך לעבוד עם קלוד קוד, ובימים אלה הולך לצאת הקורס החדש שלי על ניהול התשתית והזיכרון של העבודה עם קלוד קוד.

רוצים להישאר מעודכנים על הקורס ולקבל הנחה? הצטרפו לקהילת הבילדרים בווצאפ — שם אני מעדכן הרבה יותר לעומק על תהליכי הבנייה של מערכות כאלה, ומעביר פרטים על הקורס החדש.

בפרק הבא: מכחול וקנבס — למה הפער הטכני בין רעיון למימוש נסגר כמעט לחלוטין, ואיך הטעם שלכם הופך לחפיר החדש בעידן שבו כולם מאותו כלי AI.