הבינה המלאכותית היוצרת (Generative AI) i מערכות המסוגלות ליצור תוכן חדש כגון טקסט, תמונות, קוד, קול או וידאו בהתבסס על הוראות המשתמש ומודלים שאומנו על כמויות גדולות של מידע. הפכה בתוך זמן קצר לכלי עבודה יומיומי.

עובד שרוצה לקצר שעה של עבודה לכמה דקות אינו בהכרח ממתין שהארגון ירכוש מערכת AI ארגונית. הוא עשוי לפתוח כלי חיצוני, להדביק לתוכו מסמך ולבקש: "סכם לי את החוזה", "נתח את רשימת הלקוחות", "נסח תשובה לעובד", "מצא בעיה בקוד" או "הכן לי הצעה מסחרית".

מבחינת העובד, מדובר בכלי פרודוקטיביות. מבחינת הארגון, ייתכן שבאותו רגע מידע יצא מגבולות סביבת המידע המאושרת ועבר לספק חיצוני שהארגון לא בחן.

הרשות להגנת הפרטיות בישראל אף הזהירה כי שימוש במערכות בינה מלאכותית יוצרת עלול להביא לחשיפת מידע אישי, והמליצה לבחון בזהירות איזה מידע מוזן למערכות כאלה.

מהי בינה מלאכותית סמויה בארגון?

המונח בינה מלאכותית סמויה (Shadow AI) i שימוש במערכות, יישומים או שירותי AI במסגרת העבודה ללא אישור, פיקוח או הערכת סיכונים מסודרת של הארגון. מתאר מצב שבו יכולות AI נכנסות לפעילות העסקית מבלי לעבור דרך מנגנוני הרכש, אבטחת המידע, הפרטיות, המשפט או ה־IT.

זהו למעשה המשך של תופעת מחשוב צללים (Shadow IT) i שימוש של עובדים בתוכנות ושירותים טכנולוגיים שלא אושרו או מנוהלים על ידי מערכות המידע של הארגון. , אך עם הבדל משמעותי: כלי AI אינם רק מאחסנים מידע. הם מנתחים אותו, מסיקים ממנו מסקנות, מייצרים ממנו תוכן ולעיתים מתחברים למערכות אחרות ומבצעים פעולות.

לכן Shadow AI אינו רק סיכון טכנולוגי. הוא יכול ליצור סיכונים בתחומי פרטיות, סודיות, קניין רוחני, אבטחת מידע, חוזים, רגולציה, קבלת החלטות ומוניטין.

איך Shadow AI נראה ביום עבודה רגיל?

הסיכון אינו מחייב פרויקט AI מורכב. הוא עשוי להתחיל בפעולות שנראות לגמרי שגרתיות.

למה שימוש תמים יכול להפוך לסיכון ארגוני?

כאשר עובד שולח מסמך בדוא"ל לספק חיצוני, בדרך כלל ברור לו שהמידע יוצא מהארגון. בשימוש ב־AI הגבול הזה פחות מוחשי. הממשק נראה כמו חלון שיחה, ולכן קל לשכוח שכל פרומפט, קובץ או תמונה עשויים להיות העברת מידע למערכת חיצונית.

הסיכון תלוי בספק, בסוג החשבון, בתנאי השירות, בהגדרות הארגוניות, במיקום העיבוד, בתקופת השמירה, בשימושים שהספק רשאי לבצע במידע ובאמצעי האבטחה.

לכן אין להסיק שכל כלי AI שומר מידע או משתמש בו לאימון באותו אופן. צריך לבדוק את השירות הספציפי ואת תנאיו.

סיכון ראשון: מידע אישי ופרטיות

מערכות AI יכולות לקבל כמויות גדולות של מידע במהירות. עובד יכול להעלות קובץ של אלפי רשומות בלחיצה אחת. אם הקובץ מכיל מידע אישי, הפעולה עשויה ליצור שאלות הנוגעות למטרת העיבוד, לספק שמקבל את המידע, להרשאות, לשמירתו ולאבטחתו.

הרשות להגנת הפרטיות מדגישה כי מערכות AI עשויות לעבד מידע אישי בהיקפים משמעותיים, ובשנת 2026 אף פרסמה מדריך בנושא טכנולוגיות מגבירות פרטיות במערכות AI.

לכן, לפני העברת מידע אישי לכלי AI, יש לבחון אם המידע בכלל נדרש. לעיתים ניתן לבצע התממה (Anonymization) i עיבוד שמטרתו להסיר או לשנות מאפיינים מזהים באופן שמקטין את האפשרות לקשר את המידע לאדם מסוים. או לכל הפחות לצמצם את כמות המידע המועברת.

להרחבה בנושא ניהול מידע אישי בארגון ראו: הגנת פרטיות ואבטחת מידע: המדריך להתאמת ארגונים לתיקון 13 .

סיכון שני: סודות מסחריים ומידע חסוי

לא כל מידע רגיש הוא מידע אישי. רשימת מחירים עתידית, אסטרטגיית רכישה, תוכנית מיזוג, נוסחה, קוד מקור, תכנון מוצר או רשימת לקוחות יכולים להיות נכסים עסקיים משמעותיים גם אם אינם כוללים מידע אישי.

OWASP מצביע על חשיפת מידע רגיש (Sensitive Information Disclosure) i מצב שבו מערכת AI חושפת או מעבדת באופן לא רצוי מידע אישי, עסקי, פיננסי, משפטי או סודי. כסיכון משמעותי ביישומי מודלים גדולים.

הבעיה יכולה להתרחש בשני הכיוונים: מידע רגיש מוזן אל המערכת, או מידע שהמערכת יכולה לגשת אליו נחשף בפלט למשתמש שאינו אמור לקבלו.

סיכון שלישי: הזרקת הנחיות – כשהמידע עצמו תוקף את ה־AI

אחד הסיכונים הייחודיים למערכות מבוססות מודלי שפה הוא הזרקת הנחיות (Prompt Injection) i מניפולציה של הקלט שמטרתה לגרום למודל להתעלם מהוראותיו, לשנות התנהגות או לבצע פעולה שלא התכוונו לאפשר. .

התקיפה אינה חייבת להגיע ישירות מהמשתמש. היא יכולה להיות מוסתרת בתוך אתר, מסמך או תוכן שמערכת ה־AI התבקשה לקרוא.

לדוגמה: ארגון מפעיל כלי AI שמסכם מסמכים. מסמך חיצוני מכיל הוראה מוסתרת למודל להתעלם מהמשימה המקורית ולנסות לחשוף מידע מהמערכת שאליה הוא מחובר.

OWASP מזהיר כי Prompt Injection עלול להוביל, בהתאם להרשאות שניתנו למערכת, לחשיפת מידע, מניפולציה של פלט, שימוש בלתי מורשה בפונקציות ואף ביצוע פעולות במערכות מחוברות.

מסוכן יותר מצ'אט: סוכני AI והרשאות למערכות

השלב הבא באימוץ AI הוא מעבר מכלים שמציעים תשובה לכלים שמבצעים פעולות. סוכן AI עשוי לקבל הרשאה לקרוא מסמכים, לחפש בדוא"ל, לעדכן מערכת CRM, ליצור משימות או להפעיל API.

מכאן נולד עיקרון חשוב: יש להפריד בין היכולת של המודל להמליץ על פעולה לבין הסמכות לבצע אותה.

פעולות רגישות כגון מחיקה, העברת כספים, שינוי הרשאות, שליחת מידע או עדכון נתון קריטי עשויות להצדיק מנגנון אישור אנושי.

סיכון רביעי: תשובה משכנעת שאינה בהכרח נכונה

מערכות AI יכולות להפיק תשובה שנשמעת מקצועית גם כאשר היא כוללת שגיאה. התופעה מכונה לעיתים הזיית מודל (Hallucination) i יצירת מידע שנראה סביר ומשכנע אך אינו נתמך במקור אמין או אינו נכון. .

הסיכון משמעותי במיוחד כאשר הפלט משמש לקבלת החלטה משפטית, פיננסית, רפואית, תעסוקתית או עסקית.

לכן יש להגדיר מראש באילו שימושים AI הוא כלי עזר בלבד, מתי נדרשת בדיקת מקור ומתי אסור להסתמך על הפלט ללא אישור מקצועי.

קניין רוחני: מי הבעלים של הקלט ושל הפלט?

שימוש עסקי ב־AI מעלה שאלות שאינן מסתיימות באבטחת מידע. עובד יכול להזין יצירה, צילום, קוד, מסמך או חומר שהארגון קיבל ברישיון, ולאחר מכן להשתמש בפלט כחלק ממוצר מסחרי.

לפני אימוץ כלי יש לבדוק את תנאי השירות הרלוונטיים: אילו זכויות הספק מקבל בקלט, כיצד מוגדר הפלט, האם קיימות התחייבויות מיוחדות לחשבון ארגוני ומהן מגבלות השימוש.

השלב הראשון בניהול Shadow AI: מיפוי לפני חסימה

ארגון שאינו יודע באילו כלי AI נעשה שימוש מתקשה לנהל את הסיכון. לכן השלב הראשון אינו בהכרח חסימה אלא מיפוי.

מפת סיכונים ארגונית ל־AI

לא כל שימוש דורש אותה רמת בדיקה. יצירת רעיונות כלליים לשיווק שונה מהעלאת מאגר לקוחות, ותרגום טקסט ציבורי שונה מחיבור סוכן AI למערכת פיננסית.

מודל רמזור: מה מותר להזין ל־AI?

אחת הדרכים הפשוטות להפוך מדיניות למסמך שהעובדים באמת יכולים להשתמש בו היא להגדיר שלוש רמות.

מה צריכה לכלול מדיניות AI ארגונית?

מדיניות טובה אינה צריכה להיות מסמך ארוך שאף אחד אינו קורא. היא צריכה לתת לעובד תשובות ברורות בזמן העבודה.

בדיקת ספק AI: לא להסתפק בשם המותג

לפני אישור מערכת AI לשימוש ארגוני, יש לבחון את השירות והמסלול הספציפיים שהארגון רוכש. אותו ספק עשוי להציע תנאים שונים לחשבון פרטי, עסקי וארגוני.

ממשל AI: מי בארגון אחראי?

ניהול AI אינו יכול להיות באחריות מחלקת IT בלבד. מערכת אחת יכולה לערב במקביל אבטחת מידע, פרטיות, משפט, משאבי אנוש, רכש, טכנולוגיה והנהלה עסקית.

לכן כדאי ליצור מנגנון ממשל בינה מלאכותית (AI Governance) i מערכת של אחריות, מדיניות, תהליכים ובקרות לניהול השימוש ב־AI והסיכונים הנלווים אליו. .

NIST מציע במסגרת AI RMF גישה המבוססת על ארבע פונקציות: ממשל (Govern), מיפוי (Map), מדידה (Measure) וניהול (Manage). ה־Generative AI Profile של NIST מרחיב את המסגרת לסיכונים הייחודיים לבינה מלאכותית יוצרת.

הדרכת עובדים: להסביר את ה"למה", לא רק את האיסור

איסור שאינו מספק חלופה עלול לדחוף את השימוש מתחת לרדאר. אם AI חוסך לעובד שעות עבודה, קשה לצפות שהוא יוותר עליו רק משום שנשלח מייל האוסר שימוש.

לכן הדרכה צריכה להסביר אילו סוגי מידע רגישים, כיצד להסיר מזהים, איך לזהות כלי מאושר, מדוע אין להזין סיסמאות ומפתחות API, כיצד לבדוק פלט ומתי יש לפנות לאישור.

מה עושים אם עובד כבר הזין מידע רגיש?

יש להתייחס לכך כאירוע שדורש בירור, ולא להניח אוטומטית שהמידע כבר פורסם או נחשף.

יש לזהות מה הוזן, לאיזה שירות, באמצעות איזה סוג חשבון, מתי הדבר התרחש, אילו אפשרויות מחיקה קיימות ומהם תנאי השירות הרלוונטיים. בהתאם למידע ולנסיבות יש לערב את גורמי אבטחת המידע, הפרטיות והייעוץ המשפטי.

במקביל יש לבדוק אם האירוע מצביע על פער מערכתי: האם לא הייתה מדיניות? האם העובד לא הכיר אותה? האם לא הייתה חלופה מאושרת? או שהבקרות הטכנולוגיות לא התאימו למדיניות?

תוכנית עבודה: 90 יום להסדרת השימוש ב־AI

AI אינו תחום נפרד מאבטחת הסייבר

הטעות היא ליצור "מדיניות AI" שמנותקת ממערך אבטחת המידע הקיים. כלי AI הוא עוד רכיב במערכת המידע הארגונית ולכן יש לחבר אותו לניהול זהויות, הרשאות, ספקים, אירועים, גיבויים וניהול סיכוני סייבר.

להרחבה על המסגרת הכוללת מומלץ לקרוא גם: איומי סייבר לעסקים: המדריך המלא להגנה בעידן הדיגיטלי .

מאמרים נוספים בנושאי טכנולוגיה, פרטיות וסיכוני מידע ניתן למצוא בקטגוריית בינה מלאכותית ומשפט ובקטגוריית הגנת פרטיות ואבטחת מידע .

האתגר האמיתי: לא לעצור את החדשנות – אלא לשלוט בה

ארגון יכול לבחור לחסום כל שירות AI שאינו מאושר. במקרים מסוימים זהו צעד מוצדק. אבל חסימה לבדה אינה אסטרטגיה ארוכת טווח.

כאשר העובדים רואים בכלים הללו יתרון אמיתי, הארגון צריך להבין את הצורך ולספק מסלול מאושר שמאפשר להשיג את התועלת בלי לוותר על שליטה במידע.

המטרה אינה להגיע למצב שבו אף עובד אינו משתמש ב־AI. המטרה היא להגיע למצב שבו הארגון יודע מי משתמש, באיזה כלי, לאיזו מטרה, עם איזה מידע ובאילו הרשאות.

שאלות ותשובות נפוצות

סיכום: להפוך Shadow AI ל־Managed AI

בינה מלאכותית כבר נמצאת בתוך סביבת העבודה. בחלק מהארגונים היא נכנסה דרך פרויקט רשמי, ובאחרים דרך הדפדפן של העובד.

הסיכון המרכזי אינו עצם השימוש בטכנולוגיה, אלא הפער בין מה שהעובדים יכולים לעשות לבין מה שהארגון יודע ומנהל.

ארגון שמנסה לפתור את הבעיה רק באמצעות איסור עלול לגלות שהשימוש פשוט הפך לפחות גלוי. לעומת זאת, ארגון שממפה את הכלים, מסווג מידע, בוחן ספקים, מגביל הרשאות, מגדיר מדיניות ומספק לעובדים חלופות מאושרות יכול להפוך AI מסיכון בלתי מנוהל לכלי עבודה שנמצא תחת בקרה.

היעד הוא מעבר מ־Shadow AI ל־Managed AI: בינה מלאכותית שהארגון יודע היכן היא נמצאת, איזה מידע היא מעבדת, מי משתמש בה ומהם גבולות הפעולה שלה.

מקורות מקצועיים