שרשרת הפגיעויות של Copilot SearchLeak מראה כיצד כל עוזר בינה מלאכותית יכול להתפתח מתכונת פרודוקטיביות לנתיב חדש לנתונים שיורשים את טווח ההגעה של המשתמש. אילו לקחים יכולים מנהיגי אבטחה ותאימות ללמוד?
ביוני, חוקרים במעבדות Varonis Threat Labs חשף שרשרת פגיעויות קריטית ב-Microsoft 365 Copilot Enterprise המכונה "SearchLeak". מעקב אחר CVE-2026-42824, תוקפים יכלו להשתמש בפגם כדי לגנוב נתונים רגישים - כולל מיילים, קודי אימות רב-גורמי (MFA) וקבצים אינדקסים - בלחיצה אחת.
מיקרוסופט תוקנה במהירות את SearchLeak לפני שנוצלה למתקפות אמיתיות. עם זאת, בעיית Copilot הדגימה כיצד כל עוזר בינה מלאכותית יכול להתפתח מתכונת פרודוקטיביות לנתיב חדש לנתונים שיורשים את טווח ההגעה של המשתמש.
אילו לקחים יכולים מנהיגי אבטחה ותאימות ללמוד?
קליק אחד, ללא תוכנות זדוניות
הפגם של SearchLeak מראה שכל עוזר בינה מלאכותית מחובר מוגבל רק במידה שיש לו את ההרשאות של האדם שמפעיל אותו. כאשר הוא מנוסה, הוא יכול להגיע ולהדליף כל דבר שמשתמש יכול.
SearchLeak משלבת סוג חדש יחסית של פגיעויות ספציפיות לבינה מלאכותית המכונות פרמטר-ל-הזרקה מהירה עם שני באגים קלאסיים באבטחת אינטרנט: פגם בתנאי מרוץ בהזרקת HTML ו- זיוף בקשה בצד השרת נושא.
"באופן אינדיבידואלי, כל פגיעות עשויה להיראות ניתנת לניהול", כתב חוקר האבטחה דולב טלר ב... בלוג"כאשר הם מחוברים יחד, הם נותנים לתוקף את היכולת לחלץ בשקט הודעות דוא"ל, קודי אבטחה ותוכן רגיש אחר מתיבת הדואר, היומן, SharePoint ו-OneDrive של הקורבן - והכל בלחיצה אחת על קישור לא חשוד."
מומחים אומרים שבעיית SearchLeak הייתה מדאיגה בשל פשטותה. "לחיצה אחת, ללא תוכנות זדוניות, ללא גניבת אישורים", מעיר טים פריסטון, מנהל אסטרטגיה ראשי ב-Kiteworks. "Copilot קרא את כל מה שהיה בכתובת האתר כהוראה, מצא את האימיילים או קודי ה-MFA, ושלח אותם באמצעות תגית תמונה שהוצגה לבינג עוד לפני שהתגובה הסתיימה לטעון".
סיכוני ניהול נתונים
SearchLeak מדגיש את הסיכונים בתחום ניהול הנתונים שמציב בינה מלאכותית. ארגונים רבים עדיין חסרים הבנה מקיפה לגבי מי יכול לגשת למידע רגיש, באיזו מידה מידע זה משותף, או כיצד הרשאות משתלבות במערכות עסקיות שונות.
הבעיה אפילו לא הייתה הרשאות רחבות מדי: Copilot ניגש רק למה שכבר הייתה למשתמש גישה אליו, אומר טריסטן שורטלנד, מנהל טכנולוגיות ראשי בקבוצת אינפיניטי. "הבעיה היא כיצד ניתן להפעיל את הגישה הזו ולאוטומט אותה. אפילו הרשאות בעלות היקף מוגדר היטב יכולות להיות מנוצלות אם שכבות הבקרה סביב הבינה המלאכותית חלשות."
AI ג'ארד אטקינסון, מנהל הטכנולוגיה הראשי של SpecterOps, אומר כי גורם להרשאות מקוטעות "להתנהג כמודל הרשאות יחיד". IO"למשתמש עשויה להיות גישה לכאורה בלתי מזיקה בפלטפורמות Outlook, Teams, SharePoint, GitHub, Salesforce, ServiceNow ופלטפורמות ענן בנפרד. ברגע שעוזר בינה מלאכותית יכול להבין את כולם; השילוב יכול לחשוף הרבה יותר מכל יישום בנפרד."
ככל שארגונים מאמצים בינה מלאכותית, ניהול נתונים הופך פחות למקום שבו המידע מאוחסן, ויותר להבנת הזהויות ויחסי ההרשאות המאפשרים את שילובו, אומר אטקינסון.
בינה מלאכותית מבטלת את "האבטחה באמצעות ערפול" שארגונים רבים מסתמכים עליה בטעות, אומר דריי אגה, מנהל בכיר של פעולות אבטחה ב-Huntress. "ללא ניהול נתונים קפדני, כלי בינה מלאכותית מאפשרים לעובדים - או לחשבונות שנפרצו - למצוא ולסכם באופן מיידי מידע רגיש שהוסתר בעבר ברעש ובנפח העצום של רשתות ארגוניות."
משטח התקפה הולך וגדל
ככל שסוכנים משתרעים על פני יותר אפליקציות, משטח ההתקפה גדל עקב מספר הולך וגדל של מקורות נתונים, פעולות ושרשראות מורכבות. בהתחשב בכך, Shortland מקבוצת Infinity צופה שבעתיד יהיו פחות פגיעויות "גדולות" בודדות ו"יותר פרצות מרובות שלבים בבינה מלאכותית, זהות וממשקי API".
עוזרי הבינה המלאכותית של ימינו מאחזרים מידע. הדור הבא של סוכני הבינה המלאכותית "יבצע עבודה על פני מספר יישומים עסקיים, תוך התאמת פעולות בדוא"ל, מאגרי קוד מקור, פלטפורמות ענן, מערכות כרטוס, פלטפורמות CRM, ספקי זהויות ושירותים ארגוניים אחרים", אומר אטקינסון מ-SpecterOps.
אוטונומיה זו תוביל לשימוש רחב יותר בסמכויות שהוקצאו, הוא אומר. "סוכנים יקבלו אישורים שהוקצאו, זהויות שירות או הרשאות ספציפיות ליישום שיאפשרו להם לבצע פעולות שהמשתמש לא יכול היה לבצע ישירות. זה ייצור הזדמנויות חדשות לחשיפת נתונים לא מכוונת, הסלמת הרשאות או ניצול לרעה, אם הרשאות שהוקצאו לא יטופלו בקפידה."
להחזיר את השליטה
בעוד שסוכני בינה מלאכותית ממשיכים להוות סיכונים לעסקים, מנהיגי אבטחה ותאימות יכולים לנקוט בכמה צעדים פשוטים כדי להחזיר את השליטה ולהגביל את רדיוס הפיצוץ אם יתעוררו בעיות דומות לאלו של SearchLeak.
חשוב לציין שחסימת גישה פשוטה לא תעבוד. "איסור רק מוביל את השימוש לחשבונות שאינם ארגוניים, שבהם יש לך אפילו פחות נראות", אומר פריסטון מ-Kiteworks.
במקום לסגת מהתחום של בינה מלאכותית, שורטלנד מקבוצת אינפיניטי ממליצה להתייחס לטכנולוגיה "כמו לשכבת הפשטה בעלת הרשאות גבוהות".
"באופן מעשי, זה אומר הגדרה מדויקת של מה ש-Copilot יכול לאינדקס ולאחזר: לא רק הרשאות משתמש, אלא גם היקף אחזור באמצעות בינה מלאכותית."
שורטלנד גם מייעץ לפילוח מקורות נתונים רגישים. "אל תניחו שכל דבר צריך להיות ניתן לגילוי דרך גרף."
בינתיים, חברות יכולות לנטר דפוסי אחזור חריגים ולהפחית אמון מרומז בתחומים פנימיים, הוא מייעץ. "SearchLeak עבד כי הקישור נראה לגיטימי. בקיצור: נניח שהבינה המלאכותית תוטעה בשלב מסוים ותכנן סביב זה."
ניהול גישה לבינה מלאכותית
כפי שמראה בעיית SearchLeak, אי אפשר להפוך עוזר בינה מלאכותית לבלתי ניתן לתעלולים, ולכן השליטה החשובה ביותר היא הגבלת מה שהוא יכול להגיע אליו. נראות היא צעד מפתח.
מנהיגי אבטחה צריכים לערוך רשימה של המקומות בהם נפרסים סוכני בינה מלאכותית, להבין אילו זהויות הם פועלים תחתיהן ולזהות כל אישורים שהוקצתו או זהויות שירות שהם מקבלים, אומר אטקינסון מ-SpecterOps. "משתמשים אנושיים, חשבונות שירות, זהויות אפליקציה וסוכני בינה מלאכותית צריכים להיבחן כחלק מאותה מערכת אקולוגית של זהויות."
בעוד ISO 27001 לא נכתב עבור בינה מלאכותית, הפקדים שלו "ממופים ישירות לשרשרת ההתקפה של SearchLeak", לפי Freestone מ-Kiteworks. לדוגמה, נספח א.9 בקרת גישה היה בודק לאן קופיילוט יכול להגיע.A.12.4 רישום וניטור "היה הופך את ניסיון החילוץ לגלוי בזמן אמת", הוא מציין. "ו A.8.2 סיווג מידע היה מונע מתוכן מוסדר לחצות גבול מוסדר."
התקן מספק את הבקרות אך חסר את המסגרת להחליט מה מערכות בינה מלאכותית מורשות לעשות מלכתחילה, הוא מסביר. שם... ISO 42001, התקן הבינלאומי למערכות ניהול בינה מלאכותית, נכנס לתמונה.
זה דורש הערכת השפעה לפני הפריסה, מנגנוני פיקוח אנושיים וטיפול מפורש בסיכונים ספציפיים לבינה מלאכותית, כולל מניפולציה מהירה והתנהגות מודל לא מכוונת.
"זהו בדיוק סוג האיום ש-SearchLeak מייצג", אומר פריסטון. "ISO 27001 מכסה את בקרות האבטחה ואת ראיות הביקורת. ISO 42001 מכסה את החלטות הממשל הנמצאות במעלה הזרם של בקרות אלה. הרגולטורים מתחילים לצפות לשניהם."
הרחב את הידע שלך
מדריך: אבטחת משטח התקיפה של בינה מלאכותית
בלוג: השעיית אנתרופיק היא קריאת השכמה לסיכון ספקי בינה מלאכותית
