הממשלה משקיעה הכל בבינה מלאכותית. הוכרזה בינואר, תוכנית פעולה של הזדמנויות בינה מלאכותית שואפת להניע צמיחה כלכלית, לשפר את איכות השירותים הציבוריים ולספק יותר הזדמנויות לאנשים. אבל כדי להצליח בתוכנית השאפתנית שלה, הממשלה יודעת שעסקים חייבים לסמוך על המוצרים והשירותים שהם רוצים להשקיע בהם. כאן נכנסת לתמונה אבטחת בינה מלאכותית.

זהו מגזר קטן אך צומח שכבר שווה מיליארד ליש"ט בערך מוסף גולמי (GVA) בשנת 2024. הממשלה מאמינה שעם הגיבוי הנכון, הוא יוכל להגיע לכמעט 19 מיליארד ליש"ט עד 2035. כדי להגיע לשם, היא פרסמה זה עתה... מפת דרכים חדשה עבור ספקי אבטחת צד שלישי - חלק מתעלם אך בעל פוטנציאל משמעותי בשוק.

השוק עדיין מתבגר

יחסית לפעילות הכלכלית, שוק אבטחת הבינה המלאכותית בבריטניה גדול מזה של ארה"ב, גרמניה וצרפת, על פי נתוני הממשלה. כמו כן, היא מעריכה כי עד 80% מחברות אבטחת הון חיצוניות מציגות "אותות צמיחה" - כלומר, התנאים המתאימים להפוך את בריטניה למובילה עולמית בתחום. עם זאת, ישנם אתגרים. בין אלה המוזכרים במפת הדרכים נמנים:

  • איכות הסחורות והשירותים המוצעים על ידי ספקי צד שלישי בתחום הבטחת בינה מלאכותית. עדיין לא ברור אילו סטנדרטים טכניים יש להחיל על השוק כדי להפחית את הסיכון לנזק או להצעות באיכות נמוכה.
  • מגזר אבטחת הבינה המלאכותית בבריטניה כבר מעסיק כ-12,500 עובדים, אך ספקים מתקשים ככל הנראה למצוא מועמדים בעלי שילוב נכון של כישורים. חלק מהאתגר הוא שאלה עשויים לנוע באופן משמעותי, החל מיכולת טכנית ועד לידע בחוקים רלוונטיים, ניהול ותקני בינה מלאכותית. הממשלה טוענת כי גם חוסר גיוון פוגע במגזר.
  • גישה למידע על מערכות בינה מלאכותית חיונית לחברות המעוניינות לספק שירותי אבטחה רלוונטיים. אך בין אם מדובר מסיבות אבטחה, מסחריות או אחרות, ספקים רבים מהססים לשתף מידע מסוג זה - שיכול לכלול נתוני הדרכה, מודלים של בינה מלאכותית ומידע על ניהול וממשל.
  • חדשנות בתחום אבטחת הבינה המלאכותית חיונית לעידוד צמיחה, אך דורשת קלט ממגוון רחב של מומחים, כולל מפתחי בינה מלאכותית. האתגר הוא שישנם יחסית מעט פורומים לעבודות מו"פ שיתופיות בתחום זה, טוענת הממשלה.

איכות הבנייה

למרבה המזל, לממשלה יש תוכנית להתמודדות עם כל אחד מהאתגרים הללו בתורו. המוקד הראשון הוא שיפור אבטחת האיכות. על מנת לסייע לחברות אבטחת בינה מלאכותית בבריטניה להתבדל, ובאופן כללי להגביר את אמון הלקוחות בשוק, לממשלה יש שלושה רעיונות לשיפור האיכות. היא רוצה להפוך את התעשייה למקצועית באמצעות הסמכה ו/או רישום ליחידים - אם כי היא מודה שתוכניות כאלה יצטרכו להיות מתוכננות בקפידה, מפותחות בשיתוף פעולה עם גופים מקצועיים ונתמכות על ידי מערכת אקולוגית של הכשרה איכותית. הדו"ח מודה שכנראה עדיין מוקדם מדי עבור גוף תעשייתי מוסדר ותקן מקצועי הקשור לאבטחת בינה מלאכותית.

דרך נוספת לשיפור האיכות יכולה לכלול אימות איכות של תהליכי אבטחה ספציפיים - כגון הערכת סיכונים או ביקורת הטיה. תקנים כמו ISO 24027 יכולים לשמש לפיתוח הסמכות רלוונטיות בתחום זה, טוען הדו"ח. עם זאת, בעוד שסטנדרטיזציה של תהליכי אבטחה יכולה לשפר את העקביות והגישה לשווקים גלובליים, היא עלולה לחסום חברות קטנות יותר עם פחות משאבים מחוץ לשוק.

לבסוף, הממשלה מציעה ששירות ההסמכה הלאומי של בריטניה (UKAS) יוכל לסייע בהערכת האם ארגונים יכולים לבצע פעילויות הערכת תאימות כמו הסמכה, בדיקות ופיקוח "באופן מיומנת, אובייקטיבי ועקבי". עם זאת, הדו"ח מציין כי אין סטנדרטים רבים שיכולים לתמוך בהסמכה על ידי ספקי אבטחה מוסמכים, דבר המגביל את ההשפעה של מהלכים כאלה.

כדי להוציא לפועל את תוכניותיו, משרד המדע, החדשנות והטכנולוגיה (DSIT) מכנס קונסורציום של בעלי עניין כדי לפתח את "אבני הבניין" הדרושות למקצועיות של מגזר אבטחת הבינה המלאכותית. זה כולל פיתוח קוד אתי וולונטרי, מסגרת מיומנויות וכישורים, ומשם תוכנית הסמכה או רישום מקצועית, שעשויה להתחיל בביקורת בינה מלאכותית.

תחומי פעולה נוספים

כישורים: הממשלה צפויה לעבוד עם אותו קונסורציום כדי לבצע שיפורים בתחום זה, בטענה שבריטניה צריכה להכשיר עשרות אלפי אנשי מקצוע בתחום הבינה המלאכותית במהלך חמש השנים הקרובות - הן בתחומים טכניים והן בתחומים שאינם טכנולוגיים כמו השפעה חברתית ועמידה בתקנות אתיות. תוכניות הכשרה והסמכה קיימות כמו... תעודת AI Governance של IAPP ותוכניות בתחומי אבטחת סייבר, מדעי נתונים, ביקורת פנימית והנדסת תוכנה יכולות לעזור כאן. אבל עדיין אין מסלול ברור עבור אנשי מקצוע מתחילים בתחום ביקורת בינה מלאכותית.

DSIT תעבוד תחילה עם הקונסורציום על "מסגרת מקיפה של מיומנויות וכישורים להבטחת בינה מלאכותית", כולל תוכנית הסמכה מקצועית לבינה מלאכותית שעשויה להסתמך על אישורים ותקנים קיימים בתחומים כמו אבטחת סייבר. לאחר סיום עבודה זו, DSIT תוכל להעריך האם יש צורך ביותר כדי לתמוך בפיתוח קורסי הכשרה והסמכות.

גישה למידע: הקונסורציום צפוי לעבוד עם ספקי שירותי אבטחת מידע בבריטניה כדי להבין את דרישות המידע שלהם עבור סוגים שונים של שירותי אבטחת בינה מלאכותית. זה יעזור לו לפתח הנחיות לשיטות עבודה מומלצות עבור חברות המשתמשות בשירותי אבטחת מידע, כך שיידעו מראש איזה סוג של גישה למידע צפויה.

חדשנות: הממשלה תקים פורום חדש לשיתוף פעולה רב-בעלי עניין; קרן החדשנות להבטחת בינה מלאכותית. היא תקבל 11 מיליון ליש"ט לתמיכה במחקר על מנגנוני הבטחת בינה מלאכותית חדשניים, כך שבעלי עניין יוכלו לזהות טוב יותר את הסיכונים בתחום. הגשת מועמדויות לסבב המימון הראשון תהיה פתוחה באביב 2026. הקרן תוכל גם לתמוך במרכזי אימוץ הבינה המלאכותית של בריטניה.

צעד חשוב

שרון גאן, מנכ"לית BCS, המכון המוסמך ל-IT, אומרת ל-ISMS.online כי תוכנית הממשלה תסייע להצמיח את שוק אבטחת הבינה המלאכותית ולבנות את אמון הציבור במערכות בינה מלאכותית.

"מחויבות הממשלה ליצירת מקצוע אבטחת בינה מלאכותית, שהעוסקים בו גאים להיות אחראים לקוד אתי, היא צעד ענק קדימה", היא מוסיפה. "זה גם נכון שקונסורציום, הכולל גופים מקצועיים, יוטל על פיתוח קוד זה, ועל המלצה על המסלולים הנכונים לרישומים והסמכות לאבטחת בינה מלאכותית."

ג'ניפר אפלטון, מנכ"לית ISO Quality Services, טוענת כי מפת הדרכים היא צעד חשוב שיעזור לארגונים "לתרגם שאיפות לפעולה מעשית".

היא מספרת ל-ISMS.online: "עסקים רבים נרגשים מההזדמנויות שבינה מלאכותית יכולה להביא, אך נותרים זהירים בנוגע לממשל, סיכונים ואחריות. על ידי מתן מסגרת מובנית, למפת הדרכים יש פוטנציאל להנחות ארגונים בשילוב בינה מלאכותית בפעילותם בצורה אחראית."

אפלטון מרוצה במיוחד מהתאמת מפת הדרכים לתקן ISO 42001.

"תקן בינלאומי מוכר עוזר לעסקים להפגין לא רק תאימות, אלא גם אמון, שקיפות ואחריות אתית באופן שבו הם מאמצים בינה מלאכותית. עבור ארגונים רבים, זה יעשה את ההבדל בין חקירת בינה מלאכותית בתיאוריה לבין יישומה בביטחון", היא אומרת.

"כמובן, כמו בכל מסגרת מתפתחת, האתגר יהיה למצוא את האיזון הנכון בין גמישות לקפדנות, ולהבטיח שהיא תעבוד עבור עסקים מכל הגדלים והמגזרים. אבל בסך הכל, היא מייצגת התפתחות חיובית ונחוצה מאוד, ואנו מצפים לתמוך בעסקים ביישומה הלכה למעשה."

טום מקנמרה, מנכ"ל אטורו, מקבל את התוכניות בברכה זהירה יותר. הוא מתאר אותן כמתווכות "דרך הגיונית והגיונית" על ידי ניסיון להגדיר את המקצוע ולבנות ידע לפני תהליכי הסמכה. עם זאת, הוא טוען כי הקונסורציום חייב להיות מונהג על ידי אלו הנמצאים בחזית, עם "ניסיון מעשי בבנייה ואבטחת מערכות בינה מלאכותית".

"הצלחת המסגרת נשענת על הנחה מסוכנת: שהאנשים הנכונים זמינים לבנות אותה", אומר מקנמרה ל-ISMS.online.

"אבטחת בינה מלאכותית יעילה דורשת ידע טכני מעמיק באופן שבו מודלים אלה פועלים, לא רק בתוצאות שהם מייצרים. המשימה הראשונה והקריטית ביותר של הקונסורציום היא להביא מומחי בינה מלאכותית אמיתיים לחדר. בלעדיהם, המסגרת תהיה תרגיל בעל כוונות טובות אך ריק."