עובדים כבר מזינים מידע עסקי לכלי בינה מלאכותית, לפעמים מחשבון פרטי ובלי לדעת לאן המידע נשלח. במאמר: 7 הסכנות המרכזיות של AI בעסקים, מקרים מתועדים, ו-6 צעדים מעשיים להגנה.
⚡ TL;DR, תקציר מהיר
הסכנה: עובדים מזינים מידע סודי לכלי AI ציבוריים בלי פיקוח (Shadow AI), ומה שקורה עם המידע תלוי במדיניות של הספק, לא בכם.
7 הסיכונים: דליפת מידע, הפרת תיקון 13, הזיות, Prompt Injection, הונאות דיפ-פייק, קניין רוחני, וספקים לא מבוקרים.
מה לעשות: מדיניות שימוש ב-AI, כלים ארגוניים בלבד, DLP, הדרכת צוות, אימות בערוץ שני, ובדיקת ספקים.
הכלל: AI מסוכן רק לעסקים בלי גבולות, לא לעסקים שמנהלים אותו נכון.
תרחיש לדוגמה: עובד במחלקת הכספים מעלה את גיליון השכר של החברה ל-ChatGPT מחשבון פרטי ומבקש "תסכם לי את ההוצאות". תוך שניות הוא מקבל סיכום טוב. הוא גם הרגע מסר את נתוני השכר של 40 העובדים לשירות חיצוני, בלי הסכם ובלי שאף אחד ב-IT יודע על כך.
בינה מלאכותית חוסכת עבודה אמיתית במשרד, והיא גם פותחת שבעה פתחי סיכון חדשים. הסכנה המיידית היא לא ש-AI יחליף אתכם, אלא שעובדים משתמשים בו בלי כללים, בלי פיקוח, ובלי לדעת לאן המידע נשלח.
המונח המקצועי לתופעה הזו הוא Shadow AI, שימוש בכלי בינה מלאכותית בתוך הארגון בלי ידיעת מחלקת ה-IT ובלי אישורה. בדוח של Cyberhaven מפברואר 2026, 39.7% מהאינטראקציות עם כלי AI שהחברה מדדה כללו מידע רגיש, ו-32.3% מהשימוש ב-ChatGPT נעשה דרך חשבונות פרטיים, שעוקפים את הבקרות של הארגון (Cyberhaven).
עמוד בינה מלאכותית לעסקים מסביר למה החשבון הפרטי הוא הבעיה: כלי AI ציבורי בחשבון של עובד מוציא מידע עסקי מהארגון בלי בקרה ובלי תיעוד, וכלי ארגוני עם רישוי מתאים, הרשאות גישה ומדיניות ברורה שומר את המידע בתוך גבולות הארגון. במאמר הזה נפרק את 7 הסכנות של בינה מלאכותית בעסקים, עם מקרים מתועדים, ונראה מה אפשר לעשות כדי ליהנות מ-AI בלי לסכן את העסק.
למה הסיכון של AI שונה מכל איום אחר שהכרתם?
איום סייבר קלאסי מגיע בדרך כלל מבחוץ, מהאקר שמנסה לפרוץ פנימה. בסיכון ה-AI, חלק מהאיום מגיע מבפנים: מעובדים טובים שמנסים לעבוד מהר יותר ומדביקים מידע לכלי חיצוני. אין כאן כוונת זדון, ובדיוק בגלל זה קשה לעצור את זה. חלק אחר מגיע מבחוץ בדרכים חדשות, דרך הוראות זדוניות שה-AI קורא במסמך, או דרך קול ופנים מזויפים של מנהל.
ההבדל השני נוגע לנזק. בהתקפת כופרה אפשר לשחזר קבצים מגיבוי, אם הגיבוי תקין. מידע שהודבק לכלי AI חיצוני כבר יצא מהשליטה שלכם, ומה שקורה איתו תלוי במדיניות של הספק. Google, למשל, מבקשת לא להזין ל-Gemini מידע סודי שלא הייתם רוצים שבודק אנושי יראה, ושיחות שעברו בדיקה אנושית נשמרות אצלה עד שלוש שנים, גם אם מחקתם את הפעילות (Gemini Apps Privacy Hub).
במאי 2023 Samsung הגבילה זמנית את השימוש בכלי AI יוצר, כמו ChatGPT, במכשירי החברה וברשת הפנימית שלה, חודש אחרי שמידע פנימי רגיש דלף ל-ChatGPT (TechCrunch). אם זה קרה בחברה בגודל של Samsung, תארו לעצמכם מה קורה בעסק עם 30 עובדים בלי שום מדיניות.
7 הסכנות של בינה מלאכותית בעסקים
1. דליפת מידע רגיש לכלים ציבוריים (Shadow AI)
בתוכניות האישיות של הכלים, הספקים יכולים להשתמש במה שאתם מקלידים כדי לשפר את המודלים. OpenAI כותבת שבתוכניות Free, Plus ו-Pro היא עשויה לאמן את המודלים על התוכן, אלא אם מכבים את ההגדרה (OpenAI). כשעובד מדביק חוזה לקוח, דוח כספי, רשימת מחירים או קוד מקור, המידע הזה יוצא מהשליטה שלכם ונשמר בשרתים של ספק חיצוני. עובד אחד שמנסה לחסוך חצי שעה יכול לחשוף נכס שלקח לכם שנים לבנות. איך מאתרים כלים כאלה שכבר בשימוש מוסבר במדריך ל-Shadow AI.2. פגיעה בפרטיות והפרת תיקון 13
ברגע שאתם מזינים פרטים של לקוחות, עובדים, או מטופלים לתוך כלי AI חיצוני, אתם מעבירים מידע אישי לצד שלישי, ולפעמים בלי הסכם עיבוד נתונים מול הספק. מאז תיקון 13 לחוק הגנת הפרטיות, הרשות להגנת הפרטיות יכולה להטיל בעצמה עיצומים כספיים על הפרות של החוק ושל תקנות אבטחת המידע (Gornitzky). הרחבנו על החובות החדשות במדריך לתיקון 13 לעסקים קטנים ובינוניים.3. הזיות (Hallucinations) שמובילות להחלטות שגויות
מודל בינה מלאכותית לא "יודע" דברים, הוא מנחש את המילה הבאה הסבירה ביותר. כשהוא לא יודע משהו, הוא עלול להמציא תשובה בביטחון מלא. התופעה הזו נקראת הזיה (Hallucination), והיא מסוכנת במיוחד כשמסתמכים על AI להחלטות עסקיות. ב-2023 בית משפט פדרלי בניו יורק הטיל קנס של 5,000 דולר על שני עורכי דין ועל המשרד שלהם, אחרי שהגישו פסקי דין שלא קיימים, ש-ChatGPT המציא (פסק הדין בעניין Mata v. Avianca). תארו לעצמכם נציג שירות שעונה ללקוח על סמך מדיניות שה-AI בדה, או מנהל שמקבל החלטת רכש על בסיס נתון שגוי.4. AI כמשטח תקיפה חדש: Prompt Injection
ברגע שאתם מחברים בינה מלאכותית למערכות שלכם, צ'אטבוט באתר, עוזר AI שקורא את המיילים, או סוכן שמתחבר למסד הנתונים, אתם פותחים משטח תקיפה חדש. בטכניקה שנקראת Prompt Injection, תוקף מטמין הוראות נסתרות בתוך מסמך, מייל, או דף אינטרנט, וכשה-AI קורא אותן הוא "נחטף" ומבצע את פקודות התוקף, למשל מדליף מידע. על הסיכונים ש-OWASP מונה לסוכנים שמחוברים למערכות יש פירוט במדריך על סוכני AI בעסק. גם מפתחות API הם נקודת תורפה: לפי Verizon DBIR 2025, הזמן החציוני לתיקון סודות שדלפו ונמצאו במאגר GitHub היה 94 ימים. הרחבנו על האופן שבו תוקפים מנצלים AI במדריך להגנה מפני תקיפות סייבר מבוססות בינה מלאכותית.5. הונאות Deepfake והתחזות קולית
בינה מלאכותית יכולה לחקות קול ופנים של מנהל. תוקף שמתקשר לחשב כספים בקול של הבוס ומבקש "תעבירו דחוף 80 אלף שקל לספק החדש" נשמע אמיתי לחלוטין. ב-2024 עובד כספים בסניף של Arup בהונג קונג, חברת תכנון והנדסה בריטית, השתתף בשיחת וידאו עם מי שנראו כמו סמנכ"ל הכספים ועובדים נוספים, כולם דיפ-פייק, והעביר לתוקפים 200 מיליון דולר הונג קונגי, כ-25.6 מיליון דולר (CNN). זו גרסה חדשה של הונאת מנכ"ל (BEC).6. חשיפת קניין רוחני וזכויות יוצרים
כשעובד יוצר קוד, טקסט שיווקי, או עיצוב בעזרת AI, שאלת הבעלות מסתבכת. מי הבעלים של התוצר? במקרים מסוימים מודל בינה מלאכותית עלול לשחזר קטעי קוד או תוכן המוגנים בזכויות יוצרים מתוך נתוני האימון שלו, ולהכניס אתכם להפרה בלי שתדעו. עסק שמשלב קוד שנוצר ב-AI במוצר שלו עלול לגלות מאוחר מדי שהוא מכיל רכיבים ברישיון בעייתי, או שאינו ניתן להגנה משפטית כקניין רוחני.7. תלות יתר וספקי AI לא מבוקרים
ככל שמסתמכים יותר על בינה מלאכותית, כך נשחקת היכולת של הצוות לבדוק את התוצאות שלה. עובד שמקבל כל תשובה כמובנת מאליה מפסיק להפעיל שיקול דעת, ובדיוק שם נכנסות הטעויות. מעבר לכך, עובדים נרשמים לכלי AI חדשים בלי בדיקה: מה מדיניות האבטחה שלהם? איפה הם שומרים את המידע? מה קורה אם הספק נסגר מחר? עסק שתלוי בכלי לא מבוקר חשוף גם לדליפת מידע וגם לנעילה מול ספק בודד.מה לעשות: 6 צעדים לשימוש בטוח ב-AI
1. כתבו מדיניות שימוש ב-AI
הצעד הראשון. מסמך קצר וברור שאומר לעובדים מה מותר להזין לכלי בינה מלאכותית ומה אסור בתכלית, איזה מידע נחשב רגיש, ובאילו כלים מותר להשתמש. בלי מדיניות כתובה, כל עובד מחליט לבד. איך כותבים מסמך כזה מוסבר במדריך לניהול עסק עם AI.
2. אשרו כלים ארגוניים בלבד
בגרסאות העסקיות המצב שונה. OpenAI כותבת שכברירת מחדל היא לא משתמשת בקלט ובפלט של ChatGPT Business ו-ChatGPT Enterprise לשיפור המודלים, ו-Microsoft כותבת שהנחיות, תשובות ומידע ש-Microsoft 365 Copilot ניגש אליו דרך Microsoft Graph לא משמשים לאימון מודלי השפה הבסיסיים (Microsoft Learn). אם הצוות משתמש ב-AI, תנו להם כלי מאושר ובטוח, אחרת הם ישתמשו בחשבון פרטי.
3. חסמו העלאת מידע רגיש (DLP)
מערכת Data Loss Prevention מזהה ועוצרת ניסיון להעלות מספרי כרטיסי אשראי, תעודות זהות, או קבצים מסווגים לאתרי AI חיצוניים. זו רשת ביטחון טכנית שתופסת את מה שהמדיניות לבדה מפספסת.
4. הדריכו את הצוות
הסבירו לעובדים מה זה Shadow AI, איך נראית הונאת דיפ-פייק, ולמה אסור להדביק מידע סודי. הדרכה קצרה שחוזרת על עצמה עדיפה על מסמך שאף אחד לא קרא.
5. הוסיפו אימות בערוץ שני להעברות כספים
הגנה ישירה מפני דיפ-פייק: כל בקשה להעברת כסף או שינוי פרטי ספק מחייבת אישור בערוץ שני מוסכם מראש, שיחת טלפון חוזרת למספר ידוע, לא לפי הקול בשיחה. זה נוהל פשוט, וקול מזויף לא יכול לעקוף אותו לבד.
6. בדקו כל ספק AI לפני שמכניסים אותו
לפני שמאמצים כלי חדש, בדקו: איפה נשמר המידע, האם הספק מאמן עליו, והאם הוא חתום על הסכם עיבוד נתונים. ספק שלא עונה על השאלות האלה לא נכנס לעסק.
איך SouliTek מטפלת בזה
SouliTek עוזרת לעסקים לאמץ בינה מלאכותית בלי לפתוח דלת אחורית למידע שלהם. אנחנו מגדירים יחד איתכם מה מותר להזין לכלי AI ומה לא, מטמיעים את הגרסאות הארגוניות של הכלים עם רישוי והרשאות גישה, ומדריכים את הצוות לעבוד איתם. בצד האבטחה, אנחנו מריצים סימולציות פישינג ומדריכים עובדים לזהות התחזות. אותם עקרונות הגנה, שליטה במידע ובקרת גישה, מגנים עליכם גם מכופרה ומאיומי סייבר אחרים.
רוצים לדעת אם השימוש ב-AI אצלכם בטוח? השאירו פרטים וניצור קשר
שאלות נפוצות
האם מותר לעובדים להשתמש ב-ChatGPT בעבודה?
כן, אבל לא מחשבון פרטי ולא בלי כללים. לפי Cyberhaven, ניסיונות רחבים לחסום שימוש ב-AI לעיתים רחוקות מורידים את הסיכון, ודוחפים את השימוש אל מחוץ לבקרות של הארגון (Shadow AI). הגישה הנכונה היא לספק כלי ארגוני מאושר, כמו ChatGPT Business, ChatGPT Enterprise או Microsoft 365 Copilot, יחד עם מדיניות ברורה מה מותר להזין ומה אסור.האם הגרסה בתשלום של ChatGPT באמת בטוחה יותר?
תלוי באיזו גרסה. Plus ו-Pro הן תוכניות לאנשים פרטיים, ולפי OpenAI היא עשויה לאמן את המודלים על התוכן בהן, כמו בגרסה החינמית, אלא אם מכבים את ההגדרה. בתוכניות העסקיות, ChatGPT Business ו-ChatGPT Enterprise, OpenAI לא משתמשת כברירת מחדל בקלט ובפלט לשיפור המודלים. אם העסק משתמש ב-AI על מידע רגיש, הגרסה העסקית היא חובה, לא מותרות.מה זה Shadow AI ולמה צריך לדאוג מזה?
Shadow AI הוא שימוש של עובדים בכלי בינה מלאכותית ללא ידיעת מחלקת ה-IT ובלי אישורה. הסכנה היא שאתם לא יכולים להגן על מה שאתם לא יודעים שקיים: עובד שמדביק מידע סודי לכלי לא מאושר חושף את העסק לדליפה ולהפרת פרטיות, בלי שאף אחד יכול לעצור זאת. הפתרון הוא לא לרדוף אחרי כל כלי, אלא לספק חלופה מאושרת ובטוחה ולקבוע מדיניות.האם שימוש בבינה מלאכותית מפר את תיקון 13?
זה תלוי איך משתמשים. הזנת מידע אישי על לקוחות או עובדים לכלי AI חיצוני, בלי הסכם עיבוד נתונים ובלי בסיס חוקי, עלולה להפר את חוק הגנת הפרטיות. מאז תיקון 13, הרשות להגנת הפרטיות יכולה להטיל עיצומים כספיים על הפרות של החוק ושל תקנות אבטחת המידע, ולכן כדאי לדעת לאן המידע האישי זורם ומי מאבטח אותו. שימוש בכלים ארגוניים עם הסכם מסודר, וחסימת הזנת מידע אישי לכלים ציבוריים, הם הדרך להישאר בצד הנכון של החוק.בינה מלאכותית לא מסוכנת לעסקים שמציבים לה גבולות. היא מסוכנת לעסקים שנותנים לה לרוץ חופשי בלי לדעת לאן המידע נשלח.
רוצים לדעת אם השימוש ב-AI אצלכם בטוח?
המומחים שלנו ב-SouliTek ישמחו לבצע סקירה מקצועית ולהתאים עבורכם תוכנית פעולה.
יוצא עולם הסייבר ההתקפי עם למעלה מ-10 שנות ניסיון בשירותי IT לארגונים. מוביל את SouliTek במתן שירותי מחשוב מנוהלים ואבטחת מידע לעסקים קטנים ובינוניים בישראל.