צריך לבנות guardrails לפני שרצים. 80% זה בניית ה-tooling הנכון, ה-guardrails, וה-observability — היכולת לראות בדיוק מה הסוכן עשה, למה, ומה היתה התוצאה. הבחירה הזו לא הייתה אקראית — היא אפשרה לנו לשלוט בזרימת ההחלטות של הסוכן בצורה מדויקת. הסוכן שבנינו עם חברת א’ מבוסס על framework שנקרא LangGraph — הרחבה של LangChain שמאפשרת לבנות סוכנים כגרפים של מצבים (state graphs). מנגנון בקרה (Guardrails) — הגבולות שמונעים מהסוכן לעשות דברים מסוכנים.
Ofir יכול/ה להציג אותך בפני 3 אנשים ב-Genpact
- הוא יכול להתמודד עם מצבים שלא תוכנתו מראש, לפרק בעיות מורכבות לצעדים, ולהתאים את ההתנהגות שלו לפי תוצאות ביניים.
- צריך להבסיס טוב לפני שמתעמקים ב-Agents ו-RAG.
- צוותי פיתוח שלא ילמדו לבנות סוכני AI אוטונומיים בשנתיים הקרובות — יגלו שהם מפתחים כלים שאף אחד לא צריך.
- בואו נראה איך זה עובד דרך תוכנית קצרה וגם נשווה זמנים בין גרסה טורית, מקבילית ואסינכרונית.
- דום סקרולינג זה השם שנתנו לרשתות חברתיות בהן אנשים גוררים עוד ועוד בשביל הסיכוי הקטן לקרוא משהו מעניין.
- רק אם המודל יחליט לטעון את הסקיל הוא יקרא את הקובץ המלא.
בפרק הקודם עסקנו בעולם הסוכנים המשרתים את המשתמש הבודד — מפתח, יזם, עובד שמתקין משהו על המחשב שלו. צריך סקרנות, נכונות ללכלך ידיים, וסביבת לימוד שלא מסתפקת בדמואים. כל אחד מהסיכונים האלה ניתן לפתרון — guardrails, rate limiting, input sanitization, cost caps, ו-least privilege permissions. לצוותים שרוצים שליטה מלאה ומתכננים לבנות מערכות מורכבות — LangGraph.
הארכיטקטורה: איך סוכן AI עובד מתחת למכסה המנוע
צריך observability לפני scale. צריך shadow mode לפני production. אם אתם בונים מערכת production עם דרישות reliability גבוהות — LangGraph. השוק מוצף בכלים לבניית סוכני Agentic AI.
כן, סוכן AI ללא guardrails יכול להיות מסוכן מאוד — במיוחד אם יש לו גישה לסביבת production. הוא יכול להתמודד עם מצבים שלא תוכנתו מראש, לפרק בעיות מורכבות לצעדים, ולהתאים את ההתנהגות שלו לפי תוצאות ביניים. ורוב ה-incidents נסגרים עכשיו בלי התערבות אנושית בכלל. זה כמו צוות SRE שלא ישן, לא שוכח, AI MVP development company ומשתפר עם כל incident.
בקורס מתקדם לומדים גם human-in-the-loop — עצירה אוטומטית של הסוכן כשהוא לא בטוח, ובקשת אישור מאנושי. צריך אסטרטגיית caching, בחירת מודלים חכמה (מודל זול לשלבים פשוטים, מודל חזק לשלבים קריטיים), ו-batching. Guardrails — מגבלות קשיחות על מה הסוכן יכול ומה לא יכול לעשות — הם לא אופציה, הם חובה. הפער הזה הוא בדיוק מה שקורס מקצועי צריך לגשר עליו. לצוותים שרוצים שליטה מלאה ומתכוונים לייצר מערכות מורכבות — LangGraph הוא הבחירה.
תבנית Guardrails מינימלית לסוכן בפרודקשן
בגדול, AI שלא רק עונה על שאלות אלא פועל. תתחילו עם התיעוד של LangGraph, תבנו סוכן פשוט שעושה משימה אחת, ותתקדמו משם. וזה לא סתם תשובה מנחמת — זו תשובה טכנית. מעבר לפייתון, צריך הבנה טובה ב-API design, ניסיון עם כלי DevOps (kubectl, Docker, CI/CD), והבנה בסיסית של אדריכלות מערכות מבוזרות. ותתחילו קטן — סוכן אחד, משימה אחת, כלי אחד. זה כשאף אחד לא שואל "מה קורה אם הסוכן טועה?" כי כולם נלהבים מדי מהדמו.
געגועים לספריות קוד פתוח
המערכת זיהתה ששינית את הנתונים באזור האישי ומעדכנת את ההמלצות על תפקידים ומשרות בהתאם. ניתן לצפות במשרות שסימנת בכל שלב תחת התפריט הראשי בקטגוריית ‘משרות שאהבתי’ הפיצ’ר מבטיח שתעבורת הנתונים בין MongoDB Atlas באזורים שונים של AWS תישאר בתוך הרשת הפרטית של AWS, ללא חשיפה לאינטרנט הציבורי. לקוחות מקבלים מסד נתונים אחד, API אחיד וסט יכולות עקבי — ללא קשר למיקום הפריסה. "MongoDB 8.3 הופכת עומסי עבודה של סוכני AI למהירים וזולים יותר על גבי התשתית שכבר קיימת אצל הלקוחות." החברה מציינת כי היכולת החדשה מבטלת את הצורך בהקמה ידנית ומורכבת של תשתיות חיפוש, כך שארגונים שבעבר השקיעו שבועות בבניית מערכות Semantic Search יכולים כיום להטמיע אותן בתוך דקות.
פיילוטים שמוכיחים ערך תוך 30 יום
הקוד מושך url מתור ואז עושה משהו עם ה url הזה, אבל מה שמעניין בו הוא כל פקודות הטיפול בשגיאות ובביטולים. על אותו משקל צריך למצוא מושג שיתאר את המרדף אחרי המודל הבא, הכלי הבא, הקסם הבא. כשמישהו מבטיח סוכן קולי שיסיים בשבילי משימות אני נזכר ב OpenClaw ובטעויות שהוא עשה לאנשים.
Production Engineer
אם יותר אנשים היו זוכים הלוטו אולי לא היה מרוויח. בפוסט היום נתבונן בפונקציה אחת מתוך הקוד ונאתר בה מספר Anti Patterns, כלומר תבניות קוד שליליות שאני מזהה שחוזרות בצורות שונות בקוד AI. החשיבות של משימה כזו היא לצורך טיפול בהודעה חלקית, כלומר אם כל החלקים הגיעו אז החלק האחרון יאסוף את כולם ויחבר אותם להודעה אחת. סך הכל זה חמוד שהם עושים לעצמם פרסומת למרות שצריך להגיד את האמת המודל שעשה את התיקון היה חיקוי סיני בשם qwen ולא קלוד אופוס. כן כדאי להקפיד לבקש מהסוכן כשצריך שישים לב כשיש קומפוננטה לשימוש חוזר ויבנה אותה בצד בתור קומפוננטה נפרדת. בינתיים דוגמת הקומפוננטה של הגיטרה לימדה אותי שמאוד נוח כשהסוכן בונה מאפס את הרכיב המדויק שאני צריך.
צריך logging מלא של כל שלב, כל החלטה, כל קריאת כלי. הכל היה הנדסת תוכנה — הגדרת state, חיבור כלים, ניהול זרימה. לכל אחד יתרונות וחסרונות — ולפעמים הבחירה הנכונה היא לשלב ביניהם. לזה צריך מעבדה, מנטורים ופרויקטים אמיתיים. אי אפשר ללמוד ממנו איך לבנות סוכן שלא "הוזה" (hallucination), שלא נתקע בלולאות אינסופיות, ושבאמת עושה מה שביקשתם ממנו בסביבת production.
זו מיומנות חדשה, ומי שירכוש אותה ראשון/ה — ירוויח/תרוויח. Python היא השפה הדומיננטית — כל הפריימוורקים המובילים (LangGraph, AutoGen, CrewAI) בנויים ב-Python. לכן בניית guardrails היא לא אופציונלית — היא הדבר הראשון שבונים.
Comentarios recientes