בינה מלאכותית לא מפוקחת - Shadow AI

הבינה המלאכותית ״נחתה״ על רוב האנשים בעולם כרעם ביום בהיר והיא מאלצת אותנו ביחד עם כל ההאצה הטכנולוגית של השנים האחרונות ללמוד, להסתגל ולהתפתח עם ה׳עולם החדש׳ והמופרע טכנולוגית הזה. כולם כבר יוצרים תמונות, מסכמים פגישות, מייצרים טבלאות ורותמים את כלי הבינה המלאכותית לכל פעולה או בעיה, בין אם זה במשרד ובין אם זה בבית שאנחנו מחפשים מתכון טוב לחריימה טריפוליטאי.

אז אחרי שכולם מבינים כבר את היתרונות וכמה זה קל וכיף זה, עצרנו לכתוב על אחד הנושאים הכואבים ולמען הכנות המסוכנים לכל אחד ואחת מאיתנו שעובדים או מנהלים ארגונים. תופעת ה-Shadow AI או אם תרצו בעברית פשוטה - בינה מלאכותית לא מפוקחת.

היתרונות של שימוש בכלי בינה מלאכותית ידועים לכולנו. אחד המחקרים האחרונים שהתפרסמו בנושא (״Experimental Evidence on the Productivity Effects of Generative Artificial Intelligence״) ביולי 2023 על ידי חוקרי MIT הציג שני נתונים כמעט בלתי נתפסים: קבוצה אשר עשתה שימוש ב-ChatGPT לעומת קבוצה שביצעה את אותן הפעולות אך ללא ChatGPT הציגו 18% עלייה באיכות התוצר בכ-40% פחות מהזמן.

בנוסף, אלמנט שביעות הרצון אשר נמדד גם הוא במחקר אצל 2 הקבוצות הראה כי הקבוצה שהשתמשה ב-ChatGPT הייתה גבוהה בהרבה לעומת הקבוצה השניה. האלמנט הרביעי שהיה אפשר להבחין בו במחקר היה בחינת פערי הביצועים של עובדים אשר מוגדרים ״חזקים״ לעומת עובדים המוגדרים ״חלשים״. במחקר החוקרים זיהו כי הפער בין העובדים החזקים לחלשים הצטמצם באופן משמעותי בקבוצה שעשתה שימוש ב-ChatGPT בעבודתם.

אז גם עליה בפרודוקטיביות, גם איכות התוצר עולה, גם פחות זמן, גם כולם מרוצים - וואלה, נשמע לנו פגז! מה בדיוק הבעיה?

אז אם סגרנו את הפינה על Shadow IT, בואו נדבר רגע על Shadow AI. בינה מלאכותית לא מפוקחת מתארת שימוש אד-הוק או בלתי-מורשה בכלי בינה מלאכותית ג׳נרטיבית בתוך הארגון, ללא יידוע או פיקוח של מחלקת ה-IT/סייבר. או במילים פשוטות, העובדים ״מכניסים״ מודל חיצוני לביצוע משימות יומיומיות מאחורי הגב של הארגון.

רגע, זה משהו נפוץ? אז כן! במחקר שנערך על ידי Microsoft ו-LinkedIn במאי 2024 עלה כי לפחות 75% מהעובדים כבר משתמשים בבינה מלאכותית ג׳נרטיבית במרחב העבודה.

גם מחקר אחר של חברת KPMG מציגים נתונים גבוהים של שימוש בכלי בינה מלאכותית של עובדים בעבודה (58%) כאשר רוב העובדים מעדיפים להשתמש בכלים ציבוריים וחינמיים ולא בכלים שמסופקים על ידי הארגון עצמו. אגב, באותו המחקר כ-50% מהעובדים הודו כי הם מסתירים את השימוש שלהם בכלי AI ומציגים את התוצרים כאילו היו שלהם.

בסקר שנערך על ידי חברת Next DLP בקרב 250 אנשי אבטחת מידע גלובליים אפילו הם הודו ובאחוזים מדאיגים כי 73% מהם השתמשו ביישומי SaaS שלא סופקו על ידי צוות ה-IT של החברה שלהם. 1 מתוך 10 הודה כי הוא בטוח שארגונו סבל מפריצת נתונים או אובדן נתונים כתוצאה מכך.

1. הכשרה מדייקת - במקביל להכשרות על כלי בינה מלאכותית, שימושים, כתיבת פרומפטים, שיפור תוצרים ומה לא, שווה כדאי ומומלץ להכשיר את העובדים שלכם בארגונים גם על סכנות סייבר, הפרת זכויות יוצרים, חשיפה להטיות, הזיות וטעויות של המכונה, אבטחת מידע בבית ובעבודה ולחשוף אותם לסיכונים בשימוש לא אחראי.

2. קביעת מדיניות AI - כל חברה צריכה להכיר, לחתום ולהתחייב למדיניות ה-AI של הארגון. לרוב מדובר במסמך קצר (4-5 עמודים) שצריך להיות מונגש לכל עובד בארגון עם Use Cases ״מה מותר״ ו״מה אסור״. שווה להתייחס במסמך בצורה מדייקת גם לכלים המותרים לשימוש בארגון.

3. יצירת חשבונות מאובטחים ו-SandBoxes - למה לא ליצור ״ארגזי חול״ מאובטחים בהם העובדים שלכם יוכלו ״לשחק״ ולהתנסות בכלים חדשים. בנוסף, מומלץ מאוד לרכוש מנויים ולהימנע מהרשמות לכלים ואתרים חינמיים. זכרו כלל אצבע - ״כאשר השירות בחינם - אתם המוצר!״.

4. יצירת תרבות חדשנות וקידמה בעזרת תמריצים ושקיפות - עודדו את העובדים שלכם לחקור, ללמוד ולהתנסות בכלים אך גם להכיר את אמנת אבטחת המידע. תמיד אפשר להעניק תגמולים לעובדים אשר מגישים כלי AI לבדיקה שיכולים ליצור אימפקט עסקי.

5. ליווי מקצועי - מעבר להכשרות בסיס עלינו לדאוג להכשרה וליווי לאורך כל חיי העובד בארגון.