לבעלי עסקים, מנהלי IT ומנהלי משרד: המאמר הזה מסביר מה זה Shadow AI, למה כלי AI בלי אישור הם בעיית אבטחה ולא רק בעיית נוהל, ומה עושים כדי לקבל שליטה חזרה, בלי לחסום את הפרודוקטיביות.
מה זה Shadow AI, ולמה הוא מסוכן יותר מ-Shadow IT?
Shadow AI הוא שימוש בכלי בינה מלאכותית בתוך הארגון בלי ידיעת צוות ה-IT ובלי אישור רשמי. הסיכון גדול יותר משל Shadow IT רגיל: כלי AI מעבד את המידע שמדביקים בו ולעיתים שומר אותו, וסוכני AI גם פועלים באופן עצמאי בין כמה אפליקציות ומערכות, מחוץ לבקרות של הארגון (The Hacker News). למשל, סוכן כזה יכול לשלוח מיילים, לערוך קבצים ולהתחבר לשירותים בשם העובד.
עובד שמדביק הצעה מסחרית ב-ChatGPT, מנהלת שמעלה גיליון לקוחות לכלי כתיבה, מחלקת שיווק שמשתמשת בסוכן AI שמתחבר לחשבון הענן: כולם חלק מתופעה שגדלה בלי שהארגון ראה אותה.
בכתבה של Salesforce מיולי 2024 על הדוח Trends in AI for CRM, 55% מהעובדים שנסקרו דיווחו שהם משתמשים בכלי AI שלא אושרו בארגון, ורק 21% אמרו שבחברה שלהם יש מדיניות ברורה לגבי כלים מאושרים. בישראל, ניתוח של המכון הישראלי לדמוקרטיה לסקר של הלשכה המרכזית לסטטיסטיקה מיוני 2025 מצא ש-28% מהעסקים השתמשו ב-AI בפעילות העסקית בחצי השנה שקדמה לסקר.
ב-Microsoft 365 אפשר לראות חלק מהחיבורים האלה: ב-Microsoft Entra admin center, תחת Enterprise applications, רואים אילו הרשאות קיבלה כל אפליקציה, בהסכמת מנהל או בהסכמת משתמש. הרשאות שמנהל נתן לכל הארגון אפשר לבטל משם, ולפעולות אחרות מיקרוסופט מספקת סקריפטים של PowerShell (Microsoft Learn).
את הצעדים שבמאמר הזה העמוד בינה מלאכותית לעסקים מכנה ממשל AI: הגדרה של מה מותר להזין לכלי AI ומה אסור, בקרה על שימוש בכלים חיצוניים, וצמצום החשיפה של מידע עסקי מחוץ לגבולות הארגון.
השוואת סיכוני Shadow AI לפי סוג הכלי
לכל סוג כלי יש סיכון אחר, ולכן גם בדיקה אחרת:
| סוג הכלי | הסיכון העיקרי | מה בודקים |
|---|---|---|
| צ'אטבוט בחשבון אישי (ChatGPT, Claude) | מידע שמודבק יוצא מהארגון | אם יש חלופה בחשבון ארגוני |
| כלי ליצירת תוכן (Jasper, Copy.ai) | נתוני לקוחות בתוך ההנחיות | מה תנאי השימוש בנתונים אצל הספק |
| סוכן AI עם גישה לענן | פעולות אוטומטיות בשם העובד | אילו הרשאות OAuth אושרו לו |
| כלי AI עם מחבר לדואל | גישה לתיבת הדואר ולקבצים המצורפים | היקף ההרשאה שניתנה |
| תוסף AI לדפדפן | לפי Netwrix, תוסף עם הרשאות רחבות יכול לקרוא אסימוני התחברות ותוכן של דפים | אילו תוספים מותקנים במחשבים |
5 סיכוני אבטחה של Shadow AI
דליפת מידע לשרתים זרים
כשעובד מדביק מסמך פנימי, רשימת לקוחות או מייל רגיש לכלי AI חיצוני, המידע יוצא מגבולות הארגון. אם הוא משמש לאימון המודל תלוי בפלטפורמה ובסוג החשבון (The Hacker News): בחשבונות אישיים של ChatGPT (Free, Plus, Pro) שיתוף התוכן לשיפור המודלים פעיל כברירת מחדל, ואפשר לכבות אותו (OpenAI). צ'אט זמני לא משמש לאימון (OpenAI). גם כשהמידע לא משמש לאימון, הוא כבר נמצא אצל ספק שאין לכם איתו הסכם.
AI סוכני שפועל עם גישה בלתי מפוקחת
כלי AI סוכניים (Agentic AI) מתחברים לחשבון המייל, לאחסון הענן ולמסדי הנתונים. כשעובד מגדיר כלי כזה בלי תיאום עם IT, האינטגרציות שלו לא עוברות בדיקת הרשאות ולא מתועדות. לפי Netwrix, בסקר שלה ל-2026 41% מהארגונים מריצים AI סוכני שניגש למידע בשם אנשים, אבל 76% לא מנהלים באופן מלא את הזהויות שאינן אנושיות, בהן סוכני AI וחשבונות שירות.
היעדר בקרות אבטחה בסיסיות
לפי Netwrix, כלי AI שאומצו בלי בדיקה של IT חסרים לעיתים קרובות בקרות בסיסיות: הצפנה, אימות רב-שלבי, תיעוד פעילות והתחייבות למיקום הנתונים. הם נכנסים דרך "הדלת הצדדית" שמדיניות האבטחה של הארגון לא מכסה, ולכן גם לא ניתן לבדוק אותה.
חשיפה לפי תיקון 13
תיקון 13 לחוק הגנת הפרטיות הרחיב את ההגדרה של מידע אישי לכל מידע שקשור לאדם מזוהה או שאפשר לזהות, ונתן לרשות להגנת הפרטיות סמכות להטיל עיצומים כספיים על הפרות של החוק והתקנות (גורניצקי). מידע על לקוחות שמודבק לכלי AI חיצוני בלי הסכם עם הספק הוא בדיוק סוג החשיפה שכדאי לבדוק עם יועץ משפטי.
נראות מוגבלת וקושי בגילוי
לפי The Hacker News, רוב פלטפורמות ה-AI עובדות ב-HTTPS, ולכן חוקי חומת אש וניטור רשת רגילים לא רואים את תוכן השיחה בלי SSL inspection, בקרה שארגונים רבים לא הפעילו. זיהוי כלים כאלה דורש ניטור ברמת DNS, בדיקת הרשאות OAuth בחשבונות הענן של העובדים, ולא רק חסימת פורטים.
AI סוכני (Agentic AI): למה הוא מסוכן יותר
AI סוכני אינו עוד "כלי שעונה על שאלות". זוהי מערכת שמקבלת יעד, מתכננת שלבים ומבצעת פעולות: שולחת מיילים, מעדכנת CRM, יוצרת קבצים, מזמינה פגישות ולעיתים מבצעת רכישות. ההבדל הוא בין מחשבון לבין פקיד שמחליט בעצמו מה לעשות.
כשסוכן כזה מוגדר על ידי עובד שמתחבר עם חשבון Google או Microsoft שלו, הסוכן מקבל את ההרשאות שהעובד אישר לו, ולעיתים הן רחבות ונוגעות במערכות רבות של הארגון. לפי Netwrix, סוכנים כאלה מקבלים החלטות בעצמם, משרשרים פעולות בין מערכות, ובהתאם להגדרות עשויים אף להרחיב את ההרשאות של עצמם. בלי תיעוד של הפעולות שלהם אי אפשר לזהות התנהגות חריגה או לחקור אירוע.
מיקרוסופט מתארת Shadow AI כמצב שבו עובדים מביאים לעבודה כלי AI צרכניים, ומזהירה שמידע שמוקלד או מועלה אליהם עלול להישמר או לשמש לאימון מודלים. ב-Edge for Business היא מאפשרת לתעד או לחסום, עם Purview, הנחיות (prompts) וקבצים עם מידע רגיש לפני שהם נשלחים לכלי כזה.
מה עושים היום: 5 צעדים מעשיים
מיפוי לפני הגבלה. לפני שחוסמים הכל, כדאי להבין מה בשימוש ובאיזו תדירות. בדיקת הרשאות OAuth בחשבונות Microsoft 365 ו-Google Workspace יכולה לחשוף חיבורים שלא ידעתם עליהם. מי שיש לו Microsoft Defender for Cloud Apps יכול לסנן בקטלוג שלו את קטגוריית Generative AI, שכוללת יותר מאלף אפליקציות, ולסמן כל אפליקציה כמאושרת או חסומה (Microsoft Learn). ממצאים מהניטור השוטף של הרשת משלימים את התמונה.
מדיניות AI ברורה בכתב. מה מותר, מה אסור ובאיזה תנאים. עובדים לא מזיקים בכוונה, הם פשוט לא יודעים שיש גבולות. לפי The Hacker News, כללים נוקשים מדי רק דוחפים עובדים לכלים לא מאושרים, ולכן המדיניות צריכה להיות פשוטה לביצוע. דוגמה למה שכדאי לבדוק בתנאים של ספק AI מופיעה במדיניות השימוש של Claude: מה עסקים צריכים לבדוק.
רשימת כלים מאושרים. Microsoft 365 Copilot, Gemini ב-Google Workspace וחשבונות ארגוניים כמו ChatGPT Business, שבהם OpenAI לא משתמשת כברירת מחדל בתוכן לאימון (OpenAI). כלי מחוץ לרשימה דורש אישור IT לפני שימוש. לפני שמפעילים Copilot כדאי לסדר הרשאות, כי הוא מציג לכל עובד את מה שכבר פתוח לו (אבטחת Microsoft Copilot בעסקים).
הרשאות מינימליות לכל סוכן AI. כל כלי AI סוכני שמאושר פועל עם הרשאות מינימליות, לא עם הרשאות המנהל שהגדיר אותו. עקרון זה מגביל את נזק הפריצה גם אם הסוכן נפגע.
ניטור ועדכונים שוטפים. כלים וסוכנים חדשים נוספים כל הזמן, ומדיניות שנכתבה לפני שנה לא מכירה אותם. בשירות IT מנוהל לעסקים יש מי שבודק את זה באופן שוטף, גם כשאתם לא.
שאלות נפוצות
מה ההבדל בין Shadow IT ל-Shadow AI?
Shadow IT הוא כל תוכנה או שירות שנכנסים לארגון בלי אישור IT. Shadow AI הוא תת-קטגוריה שעוסקת בכלי בינה מלאכותית. ההבדל המעשי: כלי AI מעבד את המידע שמזינים לו ולעיתים שומר אותו, וכלים סוכניים גם מבצעים פעולות בשם העובד, ואילו תוכנה רגילה שהותקנה בלי אישור לא פועלת בשם העובד בלי שהוא מפעיל אותה.
האם עסקים קטנים-בינוניים צריכים לדאוג ל-Shadow AI?
כן. החשיפה תלויה ברגישות המידע, לא בגודל העסק. עובד שמשתמש בכלי AI לא מאושר עשוי לחשוף מידע על לקוחות בלי שאיש בעסק יידע על כך. בעסק קטן אפשר להסדיר את זה מהר יחסית: רשימת כלים מאושרים, מדיניות קצרה ובדיקת הרשאות.
האם שימוש ב-ChatGPT על ידי עובד נחשב Shadow AI?
כן, אם השימוש לא הותר רשמית ולא הוגדרה מדיניות. צ'אט זמני ב-ChatGPT לא משמש לאימון המודלים, ובחשבון אישי אפשר לכבות את שיתוף התוכן לאימון, אבל בשני המקרים המידע יוצא מהארגון לשרתים של OpenAI. הגדרת מדיניות ברורה וחינוך עובדים הם הצעד הראשון.
כיצד אפשר לגלות Shadow AI בארגון?
שילוב של ניטור DNS, בדיקת הרשאות OAuth בחשבונות הענן של העובדים, וניתוח תעבורת הרשת יכול לחשוף שימוש לא ידוע. כלי CASB (Cloud Access Security Broker) נועדו לתת נראות לשימוש באפליקציות ענן, וב-Microsoft Defender for Cloud Apps יש בקטלוג קטגוריית Generative AI עם יותר מאלף אפליקציות שאפשר לסנן, לאשר או לחסום.
מה הסיכון העיקרי של AI סוכני לארגון?
אוטומציה בלי פיקוח. כשסוכן AI מבצע פעולות בשם עובד, הוא יכול לשלוח מידע, לשנות רשומות ואפילו לאשר עסקאות, ובלי תיעוד ברור של מה שקרה. לפי Netwrix, 76% מהארגונים לא מנהלים באופן מלא את הזהויות שאינן אנושיות, בהן סוכני AI, ולכן קשה לדעת מה סוכן עשה ובאיזו הרשאה.
מה MSP יכול לעשות בנושא Shadow AI?
MSP שמלווה את הארגון יכול למפות כלי AI קיימים, לבנות מדיניות שימוש, להגדיר ניטור שוטף ולוודא שסוכני AI שמאושרים פועלים עם הרשאות מינימליות. זה חלק מניהול IT מנוהל לעסקים: לאפשר שימוש בטכנולוגיה בצורה מבוקרת ובטוחה, בלי לחסום פרודוקטיביות.
רוצים לדעת כמה חיבורי AI לא מאושרים פועלים כרגע בחשבונות Microsoft 365 של הצוות שלכם?
המומחים שלנו ב-SouliTek ישמחו לבצע סקירה מקצועית ולהתאים עבורכם תוכנית פעולה.
יוצא עולם הסייבר ההתקפי עם למעלה מ-10 שנות ניסיון בשירותי IT לארגונים. מוביל את SouliTek במתן שירותי מחשוב מנוהלים ואבטחת מידע לעסקים קטנים ובינוניים בישראל.