מיקרוסופט פרסמה ב-19 באוקטובר 2026 שינוי כיוון מהותי באופן שבו היא ממליצה לארגונים להתייחס לסוכני AI. החברה מציגה כלים חדשים שמטרתם להגן על רשתות ארגוניות מפני סוכני AI - לא כאיום חיצוני של תוקפים, אלא כאיום פנימי, בדיוק כמו עובד עם הרשאות גבוהות שעלול לבצע טעות או לפעול בצורה לא צפויה. ההודעה מגיעה על רקע קצב האימוץ המהיר של סוכנים אוטונומיים בארגונים, ואחריה כלי אבטחה חדש בשם Guardian Agents, שינויים ב-Microsoft Defender ושיתוף פעולה רחב עם Nvidia.
תקציר מהיר
- מיקרוסופט מגדירה סוכני AI מתקדמים ("frontier models") כגורם שלא ניתן לבטוח בו באופן מוחלט, גם ללא כוונה זדונית וגם ללא פריצה מצד גורם חיצוני.
- הכלי המרכזי החדש, Guardian Agents, מצטרף ל-Project Perception - המסגרת שמיקרוסופט השיקה ביוני 2026 לניטור סוכני AI בארגון.
- Microsoft Defender מקבל יכולת לאתר עד 60 סוגים של סוכני AI שעובדים מכניסים לסביבת העבודה בלי אישור, כולל Claude Code, Codex ו-OpenClaw.
- הרשאות הסוכנים הופכות לדינמיות - המערכת יכולה להגביל גישה לכתיבה, לדרוש אישור אדם לפעולות רגישות ולצמצם סמכויות בזמן אמת.
- מיקרוסופט הצטרפה כחברה מייסדת לפלטפורמת Open Agent Safety של Nvidia, יחד עם יותר מ-100 חברות נוספות, ומציגה גם מחשבי Surface Laptop Ultra המותאמים לריצת סוכנים בפיקוח חומרה.
- המנכ"ל סתיה נאדלה ובכירת האבטחה של החברה, הייט גאלו, מסרו שהבעיה אינה זדוניות אלא חוסר יכולת לחזות את התנהגות המודלים - ולכן יש להפריד בין "אספקת האינטליגנציה" לבין הסמכות לפעול בפועל.
למה מיקרוסופט מגדירה סוכני AI כ"איום פנימי"?
ההיגיון מאחורי ההחלטה פשוט: סוכן AI שמחובר למערכות CRM, לדואר אלקטרוני, לקבצים משותפים או לסביבות קוד, מקבל בפועל הרשאות גישה שדומות לאלו של עובד בכיר. לפי הייט גאלו, מי שמנהלת את תחום האבטחה במיקרוסופט, "מודלים מתקדמים, ללא קשר למקור שלהם, אינם ניתנים לאמון מוחלט" - לא כי הם זדוניים או קל יחסית לפרוץ אותם, אלא כי התנהגותם לא צפויה מראש. מודל מאומן להשלים משימה, לא לפעול לפי נורמות ארגוניות או שיקול דעת אנושי, ולכן תגובתו למצב חדש או לא שגרתי עלולה לחרוג ממה שהארגון התכוון לאפשר.
הגישה הזו מתקשרת ישירות למאמר שפרסם סתיה נאדלה ב-10 באוקטובר, שבו הוא טען כי יש להניח מראש שכל מודל עלול להיות "פגום" או סוטה מהתכנון, ולבנות את מנגנוני הבלימה מחוץ למודל עצמו - כך שאדם מורשה יוכל לעצור או לכבות סוכן באמצע משימה בכל רגע. נאדלה ניסח זאת כך: "אנחנו לא יכולים להעביר את האחריות למה שהאינטליגנציה עושה בשמנו הלאה לגורם אחר", והוסיף כי יש צורך "להפריד בין אספקת האינטליגנציה לבין הסמכות עליה".
מה זה Guardian Agents, ואיך זה עובד בפועל?
Guardian Agents הוא שכבת ניטור חדשה שמצטרפת ל-Project Perception, המסגרת שמיקרוסופט השיקה ביוני 2026 כתגובה למודלים חדשים בעלי יכולות פריצה חזקות שהגיעו מאנתרופיק (Mythos ו-Fable) ומ-OpenAI (Daybreak). במבנה המקורי של Project Perception פעלו שלושה סוגי סוכנים: צוות אדום שמדמה תקיפות, צוות כחול שמאתר תקיפות ומעריך פרצות, וצוות ירוק שמתקן אותן - כולם בהנחת עבודה שהאיום מגיע מגורם חיצוני לארגון.
Guardian Agents משנה את ההנחה הזו. מדובר בסוכנים שתפקידם לפקח באופן רציף על פעולות הסוכנים האחרים בארגון - כולל כאלה שהארגון עצמו פרס. בני אדם ממשיכים לקבוע את המדיניות ולהחזיק בשליטה על החלטות קריטיות, אבל Guardian Agents יכולים לבדוק התראות ולהפעיל הגנות מורשות בזמן אמת, בלי להמתין לאישור אנושי בכל צעד. בפועל, הגישה החדשה מאפשרת למערכת להגביל את יכולת הכתיבה של סוכן מסוים בעת הצורך, תוך השארת הרשאת קריאה בלבד, או לדרוש אישור אדם לפני ביצוע פעולה שמסווגת כמסוכנת.
איך Microsoft Defender מאתר סוכני AI "חשאיים" בארגון?
אחת הבעיות המרכזיות שארגונים מתמודדים איתה היא "AI צללים" - עובדים שמכניסים כלי AI משלהם לסביבת העבודה בלי לעבור אישור של צוות האבטחה. מיקרוסופט מרחיבה את Microsoft Defender כך שיוכל לזהות עד 60 סוגים שונים של סוכני AI שרצים בתוך הרשת הארגונית, כולל כלים נפוצים כמו Claude Code, Codex ו-OpenClaw. היכולת הזו חשובה כי לא ניתן להגדיר הרשאות ובקרות לסוכן שצוות האבטחה לא יודע שהוא קיים - וזיהוי הוא השלב הראשון לפני שניתן להחיל מדיניות גישה דינמית.
מה המשמעות של שיתוף הפעולה עם Nvidia?
מיקרוסופט הצטרפה כחברה מייסדת לפלטפורמת Open Agent Safety של Nvidia, יחד עם למעלה מ-100 חברות נוספות בתעשייה. הפלטפורמה מבודדת סוכני AI בסביבות מאובטחות וסגורות, ומאפשרת לעקוב אחרי ההתנהגות שלהם ואף לעצור אותם ברמת החומרה - מעין "מתג חירום" פיזי שלא תלוי בתוכנה של הסוכן עצמו. כחלק מהחזון הזה, מיקרוסופט הציגה גם מחשבי Surface Laptop Ultra שמיועדים להרצת סוכנים, מבוססים על שבבי Nvidia וכוללים בקרות אבטחה מוטמעות מראש לסוכנים הרצים עליהם.
המשמעות המעשית היא שמיקרוסופט לא מסתפקת בהגנה בשכבת התוכנה בלבד. השילוב בין ניטור תוכנה (Guardian Agents, Defender), בקרת גישה דינמית, וחומרה שמאפשרת כיבוי מיידי, נועד לתת לארגונים כמה שכבות הגנה שונות - כך שאם שכבה אחת נכשלת, יש רשת ביטחון נוספת שמונעת נזק בלתי הפיך.
טבלת סיכום - שכבות ההגנה של מיקרוסופט לסוכני AI
| שכבה | תפקיד | הנחת עבודה |
|---|---|---|
| צוות אדום (Project Perception) | מדמה תקיפות על סוכני AI ומערכות | איום מגיע מגורם חיצוני |
| צוות כחול (Project Perception) | מאתר תקיפות ומעריך פרצות אבטחה | איום מגיע מגורם חיצוני |
| צוות ירוק (Project Perception) | מתקן פרצות שאותרו | איום מגיע מגורם חיצוני |
| Guardian Agents | מפקח באופן רציף על סוכני AI פנים-ארגוניים ומפעיל הגנות בזמן אמת | האיום יכול לבוא גם מהסוכנים של הארגון עצמו |
| Microsoft Defender | מאתר עד 60 סוגי סוכני AI לא מאושרים ברשת | סוכני AI נכנסים לארגון בלי אישור ("AI צללים") |
| Nvidia Open Agent Safety Platform | מבודד סוכנים ומאפשר כיבוי ברמת החומרה | יש לבנות גם רשת ביטחון חומרתית, לא רק תוכנתית |
מה אומרים בכירי מיקרוסופט על הצעד הזה?
סתיה נאדלה הדגיש שהאחריות הארגונית לא יכולה לעבור לגורם חיצוני רק בגלל שהמשימה מבוצעת על ידי AI. לדבריו, "אנחנו לא יכולים להעביר את האחריות למה שהאינטליגנציה עושה בשמנו הלאה לגורם אחר" - כלומר, ארגון שמפעיל סוכן AI נושא באחריות לתוצאות הפעולה שלו, בדיוק כמו שהוא נושא באחריות לפעולות של עובד. הייט גאלו הוסיפה נקודת מבט טכנית: הבעיה אינה שהמודלים זדוניים או שקל לפרוץ אליהם, אלא שההתנהגות שלהם לא ניתנת לחזות באופן מלא מראש, מה שמחייב רשת הגנה חוץ-מודלית ולא רק אמון במודל עצמו.
מה המשמעות לארגונים שמשתמשים בסוכני AI כיום?
לארגונים שמטמיעים כלי AI אוטונומיים - בישראל ובעולם - ההודעה הזו מהווה אות אזהרה מעשי, לא רק הצהרת כוונות. הגישה המומלצת כעת היא לא לבדוק רק אם סוכן AI "עובד נכון", אלא גם איזו גישה יש לו, מה הוא יכול לעשות בלי אישור אדם, ואיך ניתן לזהות ולעצור אותו אם הוא חורג מהתפקיד שהוגדר לו. ארגונים שמריצים כלי קוד אוטונומיים, בוטים לשירות לקוחות או סוכני תהליכים עסקיים, צריכים לשקול מיפוי של כל הסוכנים הפעילים ברשת שלהם, כולל כאלה שהוכנסו על ידי עובדים בלי אישור רשמי, ולבנות מדיניות הרשאות שמותאמת לרמת הסיכון של כל משימה.
הצעד של מיקרוסופט משקף מגמה רחבה יותר בתעשייה: המעבר מ"האם ל-AI יש הרשאה לפעול" ל"כמה הרשאה בדיוק, ולכמה זמן, ותחת איזו בקרה". ברגע שגם מיקרוסופט, שמשקיעה מיליארדי דולרים בקידום סוכני AI בעצמה, מתייחסת למודלים המתקדמים ביותר כאל גורם שלא ניתן לבטוח בו במאה אחוז, קשה להתעלם מהמסר: אבטחת סוכני AI הופכת לתנאי בסיסי להמשך האימוץ שלהם בסקאלה ארגונית, ולא לשכבת הגנה משנית שמתווספת בדיעבד.
שאלות ותשובות
מה זה Guardian Agents של מיקרוסופט?
כלי ניטור חדש שמצטרף ל-Project Perception, ותפקידו לפקח באופן רציף על פעולות סוכני AI בארגון ולהפעיל הגנות מורשות בזמן אמת, בלי לפגוע בשליטה הסופית שנשארת בידי אנשים.
למה מיקרוסופט מגדירה סוכני AI כאיום פנימי ולא רק כסיכון אבטחה חיצוני?
כי לסוכנים יש גישה למערכות רגישות בדיוק כמו לעובדים, וההתנהגות שלהם לא צפויה באופן מלא - לא בגלל זדוניות, אלא בגלל שהמודל מאומן להשלים משימה ולא לפעול לפי שיקול דעת ארגוני.
כמה סוגי סוכני AI יכול Microsoft Defender לזהות?
עד 60 סוגים שונים של סוכני AI שעובדים עשויים להכניס לסביבת העבודה בלי אישור, כולל כלים כמו Claude Code, Codex ו-OpenClaw.
מה הקשר בין מיקרוסופט ל-Nvidia בהקשר הזה?
מיקרוסופט הצטרפה כחברה מייסדת לפלטפורמת Open Agent Safety של Nvidia, יחד עם יותר מ-100 חברות נוספות, במטרה לבודד סוכני AI ולאפשר כיבוי שלהם ברמת החומרה, לא רק בתוכנה.
האם ההודעה נוגעת רק למודלים של מתחרים, או גם למודלים של מיקרוסופט עצמה?
לפי הייט גאלו, בכירת האבטחה של מיקרוסופט, ההגדרה חלה על "מודלים מתקדמים, ללא קשר למקור שלהם" - כולל מודלים שמיקרוסופט עצמה מפעילה ומשווקת.
מה ארגון צריך לעשות בעקבות ההודעה הזו?
למפות אילו סוכני AI פעילים ברשת שלו, כולל כלים שהוכנסו בלי אישור רשמי, ולהגדיר מדיניות הרשאות דינמית שמתאימה את רמת הגישה של כל סוכן לרמת הסיכון של המשימה שהוא מבצע.
מקורות: TechCrunch, SiliconANGLE, Unite.AI, TechRadar.
