מערכות מלאכותיות שיכולות לחשוב ולקבל החלטות עם מעט מאוד תרומה אנושית מציגות גם פוטנציאל אדיר – וגם דאגה – עבור אנשי מקצוע בתחום אבטחת הסייבר. טכנולוגיה זו, המכונה בינה מלאכותית סוכנתית, כבר משנה באופן קיצוני את אופן פעולתם של מרכזי פעולות האבטחה המסורתיים על ידי מיון איומים כדי להפחית עייפות התראה, התאמת מדיניות בהתאם לנוף הרגולטורי המשתנה, בלימת מתקפות סייבר ועוד ועוד.
כתוצאה מכך, אנשי מקצוע בתחום אבטחת הסייבר אינם מוסחים על ידי התראות מיותרות או עבודה אדמיניסטרטיבית, והם יכולים להתמקד במה שחשוב באמת: לחימה בפשעי סייבר. יתרה מכך, בינה מלאכותית סוכנתית יכולה לפעול מסביב לשעון, ולאפשר זיהוי ולטפל בבעיות אבטחה גם מחוץ לשעות העבודה או כאשר צוותי האבטחה פשוט נמצאים תחת לחץ. מסיבות אלה 87% מצוותי אבטחת הסייבר נמצאים כיום... לתת עדיפות פריסת בינה מלאכותית סוכנתית בכל המחלקות שלהם.
עם זאת, מתן יד חופשית לבינה מלאכותית בתחום כה קריטי של העסקים המודרניים אינו מגיע ללא סיכונים. בהתחשב בכך שבינה מלאכותית סוכנית עדיין בחיתוליה, קיימת אפשרות שהיא עלולה לסווג או להגיב לסיכונים בצורה שגויה. שלא לדבר על כך, פושעי סייבר... יותר ויותר מינוף בינה מלאכותית סוכנתית, והזמינות הגוברת שלה, רק יוביל לרמות גבוהות יותר של פשעי סייבר. לכן, יש צורך בזהירות. זה מעלה את השאלה: האם בינה מלאכותית סוכנתית באמת שווה את זה בהקשר של אבטחת סייבר?
בינה מלאכותית סוכנתית ב-SOC
למרות היותה בשלבים המוקדמים של התפתחותה, לבינה מלאכותית סוכנתית כבר יש השפעה מוחשית על פעולות אבטחת הסייבר. דיוויד ורשבסקי, מייסד שותף ומנהל מוצר ראשי של סטארט-אפ אבטחת סייבר. טוניק אבטחה, טוען כי הטכנולוגיה הולכת מעבר לאספקת סיכומי התראות סייבר בלבד על ידי טיפול במשימות מתקדמות, כגון תיאום צוותי ניתוח אבטחה מתוחים.
ורשבסקי מסביר שבמקום פשוט להתריע בפני אנשי מקצוע בתחום אבטחת הסייבר על פעילות חשודה, מערכות סוכנות יכולות לספק תמונה כוללת של הבעיה הקיימת על ידי שילוב נקודות נתונים מרובות. על ידי ניתוח נתונים החל מאירועים היסטוריים ופגיעויות ועד כרטיסי תמיכה ומסדי נתונים של ניהול תצורה, הוא אומר שהטכנולוגיה יכולה לעזור לצוותי אבטחת סייבר להגיע לשורש האירועים ולקבוע מי צריך לטפל בהם. הוא מוסיף: "עומק ההקשר הזה חוסך לאנליסטים הרבה עבודה של כיסא מסתובב".
תחום נוסף במרכז פעולות האבטחה שבו בינה מלאכותית סוכנתית עושה צעדים משמעותיים הוא תיקונים. לדברי ורשבסקי, מערכות כאלה מתחילות לתקן "זרימות עבודה פגומות מאוד". הוא אומר שהן יכולות לקבוע את בעלי הנכסים הפגיעים, להגיש את פניות התמיכה הנכונות, למצוא את כל ההקשר הזמין, להבין את ההבדל בין נכסים מבוססי אינטרנט לנכסים מבוססי זהות, ובעיקר, להבטיח שתקריות אכן נפתרות.
סוכני בינה מלאכותית לא רק מזהים איומי סייבר. הם אפילו מגיבים אליהם באופן אוטונומי, לדברי רוב אוקונור, מנהל אבטחת מידע ראשי של EMEA בחברת הייעוץ IT Insight. הוא אומר שטכנולוגיות אלו יכולות להגיב לסיכוני סייבר באופן מיידי, כגון "חסימת תעבורה זדונית", ואינן דורשות מעורבות אנושית.
יתרה מכך, הוא אומר שארגונים יכולים לשלב סוכני בינה מלאכותית במערכות אבטחת הסייבר הנוכחיות שלהם, כולל פלטפורמות SOAR (תזמור אבטחה, אוטומציה ותגובה). בכך הם יכולים ליהנות מיכולות כמו "סריקה מהירה" ו"סיווג נתונים". דברים אלה, הוא אומר, "יבטיחו שנתונים רגישים יישארו מוגנים".
סוג חדש של סיכון
למרות שלמערכות בינה מלאכותית סוכניות יש פוטנציאל לייעל פעולות אבטחת סייבר בקנה מידה שלא נראה כמותו מעולם, מומחים טוענים שהן גם מציגות סוג חדש של סיכונים שארגונים חייבים להתייחס אליהם ברצינות.
ג'ייק מור, יועץ אבטחת סייבר גלובלי ביצרנית תוכנות האנטי-וירוס ESET, מזהיר כי מתן אוטונומיה לטכנולוגיות אלו בזמן שהן עדיין חדשניות יוביל "באופן בלתי נמנע" לטעויות. הוא אומר, "הבינה המלאכותית תשתפר באופן טבעי ככל שנשתמש בה יותר, אך שלבים מוקדמים אלה מראים לנו שטעויות יכולות להתרחש, ולעתים קרובות גם בקנה מידה גדול".
או'קונור מ-Insight מודאג גם מהסיכונים הפוטנציאליים של שימוש בבינה מלאכותית סוכנתית בתוך מחלקת אבטחת הסייבר. הוא מזהיר כי ככל שמערכות אלו יקבלו "אחריות, אוטונומיה וגישה מוגברות" בתוך צוותי אבטחת הסייבר, סביר להניח שמשטחי התקיפה של ארגונים יתרחבו במקביל. כתוצאה מכך, הם עלולים להפוך לקורבנות של "הזרקות ודליפות נתונים מהירות".
טעויות אנוש יכולות גם לגרום לשגיאות בבינה מלאכותית של סוכנים עבור צוותי אבטחת סייבר, לדברי ורשבסקי מ-Tonic Security. הוא מסביר שאם מישהו יתיייג באופן שגוי את הסביבה שבה סוכן בינה מלאכותית פועל או יעניק לו יותר מדי הרשאות, סביר להניח שיתעוררו בעיות. "זהו סוג חדש של סיכון - לא רק פלט רע הוא אלא פעולות רעות שהכי מדאיגות."
ממשל הוא חיוני
בהתחשב ברמת הסיכון שמערכות בינה מלאכותית יכולות להציג לצוותי אבטחת סייבר ולארגונים הרחבים יותר, יש צורך בבירור באמצעים מקלים ובמסגרות ממשל חזקות.
אבל כפי שמציין מור מ-ESET, זהו אתגר בפני עצמו. הוא אומר שמכיוון שלא ניתן לשלוט בטכנולוגיות אלה או להטיל עליהן אחריות באותו אופן שבו בני אדם יכולים, התעשייה צריכה להעריך סיכונים ולפתח מעקות בטיחות מאפס. זה משהו שלדעתו "ייקח זמן".
למרות האתגר, לחלק מהמומחים כבר יש רעיונות כיצד להתמודד עם הסיכונים החדשים שמציבה בינה מלאכותית סוכנתית. עבור או'קונור מ-Insight, נקודת התחלה טובה היא לפתח וליישם מסגרת המתארת את המערכות שאליהן בינה מלאכותית סוכנתית יכולה לגשת ואת הפעולות המיועדות שהיא יכולה לנקוט.
"כדי ליצור מסגרת כזו, ארגונים צריכים לבחון את הסיכונים שלהם, להגדיר היכן מותר לבינה מלאכותית לתמוך, להוסיף מעקות בטיחות תומכים, ליישם אמצעי ביקורת ולבדוק עמידה בתקנות התעשייה", הוא ממליץ.
בכל הנוגע לניהול מערכות בינה מלאכותית של סוכנים, ורשבסקי מ-Tonic Security קורא לארגונים לקבוע מי הם בני האדם שמאפשרים לסוכנים לבצע משימות, אילו מערכות ונתונים הם יכולים לגשת אליהם, מתי נדרש אישור אנושי, ואת מי להטיל אחריות כאשר טכנולוגיות אלו עושות טעויות.
למרות שמענה על שאלות אלו הוא בעל חשיבות עליונה, ורשבסקי אומר שצוותי אבטחת סייבר ובינה מלאכותית אינם יכולים לענות עליהן בעצמם. במקום זאת, הם דורשים שיתוף פעולה הדוק בין צוותי אבטחה, IT, משפט, ציות, הנדסה ותפעול. הוא מוסיף: "אחרת אנו מסתכנים בחזרה לדפוס הארגוני הקלאסי: טכנולוגיה רבת עוצמה שהוכנסה לזרימת עבודה ללא מודל בעלות ברור סביבה."
בכל הנוגע לבינה מלאכותית וסייבר-אבטחה, יש הרבה מה להתרגש לגביהם. סוכני בינה מלאכותית עוזרים לצוותי אבטחת סייבר להתמודד עם מטח הולך וגדל של איומים מקוונים באמצעות מקרי שימוש כמו מיון איומים אוטומטי ועוזרים להם למלא את רשימת ההתחייבויות הרגולטוריות ההולכת וגדלה שלהם הודות להתאמות מדיניות אוטומטיות.
אבל יחד עם זאת, יש הרבה מה לחשוש לגבי הטכנולוגיה הזו. זה עדיין תחום חדש יחסית של בינה מלאכותית, וכפי שהזהירו מומחים רבים, טעויות עלולות להיעשות. זו הסיבה שמשילות כל כך חיונית. המציאות, עם זאת, היא שפיתוח מסגרות משילות עבור טכנולוגיה שאנשים עדיין יודעים עליה מעט מאוד לא יהיה משימה קלה ובוודאי שלא תקרה בן לילה.
הרחב את הידע שלך
בלוג: האם פרצת אבטחה של בינה מלאכותית של סוכן היא בלתי נמנעת בשנת 2026?
