טכנולוגיית בינה מלאכותית (AI) Deep Fake אינה תופעה חדשה. המונח 'זיוף עמוק' שימש לתיאור מדיה סינתטית מאז 2017, ודוגמאות רבות לזיופים עמוקים פורסמו בהרחבה. דוגמאות ויראליות כוללות סרטון שנוצר על ידי בינה מלאכותית של מארק צוקרברג מדבר על הכוח המרושע של פייסבוק, חשבון TikTok המוקדש לשיתוף סרטונים מזויפים עמוקים של השחקן קיאנו ריבס, ואפילו סרטון של יו"ר בית ארה"ב ננסי פלוסי, שרופאה כדי לגרום לה להיראות שיכורה. 

טכנולוגיית ה-Deepfake ממשיכה להתקדם בקצב, וזה מסובך מתמיד לדעת מה אמיתי ומה לא. עם הבחירות הכלליות בבריטניה, האם זיופים עמוקים עיצבו את הדרך שבה הבוחרים רואים מועמדים פוליטיים - ואפילו השפיעו על האופן שבו הם מצביעים?

Deepfakes בבחירות הכלליות בבריטניה

בחודש שעבר פורסם ב-X (לשעבר טוויטר) סרטון מעוות של פוליטיקאי מפלגת הלייבור, ווס סטריטינג, שבו לכאורה נראה אותו מכנה את חברת הפרלמנט דיאן אבוט, חברת פרלמנט אחרת ממפלגת הלייבור, "אישה טיפשה". ה-BBC דיווח כי הסרטון ורבות מהתגובות בתגובה ב-X הגיעו מרשת של חשבונות שיוצרים ומשתפים סרטונים של פוליטיקאים ולאחר מכן מפרסמים תגובות מטעות כדי לחזק את הרושם שהן אמיתיות.

האם הרשת שואפת לערער ולהכפיש את הפוליטיקאים הממוקדים, בין אם למטרות פוליטיות או סתם בשביל בידור? הדיווח של ה-BBC מצא שאותם חשבונות פרסמו קטעים מזויפים של לוק אקהרסט של הלייבור וכן של ה-Reform UK Nigel Farage, המשתרעים על הקשת הפוליטית של בריטניה. באירוע לא קשור, סרטוני דיפ זיוף סאטיריים של ראש ממשלת בריטניה רישי סונק הפכו גם הם לוויראליים לאחרונה לאחר שהכריז על הצעות שירות לאומי. 

ההשפעה של הבינה המלאכותית אינה מוגבלת למדיה החברתית: יש אפילו מועמד עצמאי בתחום הבינה המלאכותית בשם סטיב , דמותו של איש העסקים האמיתי סטיבן אנדקוט.

מחקר של YouGov מצא כי 43% מהבריטים מקבלים את החדשות שלהם במהלך הבחירות הכלליות דרך הרשתות החברתיות, שני רק לטלוויזיה (58%). בסך הכל, 77% מקבלים את החדשות שלהם באינטרנט. לכן, בעוד שיישומים רבים של טכנולוגיית דיפפייק יכולים להיות מזיקים ובידוריים, ההשלכות של סרטונים כמו הסרטון של וס סטריטינג עלולות להיות מזיקות פוליטית. כאשר הבריטים יצביעו, עבור חלקם, דיפפייקים צפויים להשפיע על בחירות ההצבעה שלהם.

GenAI ממשיכה להשפיע גם על עסקים

גורמי איום ממשיכים גם הם לפרוץ לעסקים ולקוחותיהם. בשבוע שעבר, ערוץ החדשות האוסטרלי 7News גילה כי ערוץ היוטיוב שלו נפרץ על ידי גורמי איום, שהשתמשו בו כדי לשדר בשידור חי סרטון שנוצר על ידי בינה מלאכותית של אילון מאסק שמשבח הונאת מטבעות קריפטוגרפיים. ה"סידני מורנינג הראלד " דיווח כי הזיוף העמוק עודד את הצופים לסרוק קוד QR של טסלה ולהפקיד כסף בתוכנית הקריפטו כדי "להכפיל את נכסי הקריפטו שלהם".

הפריצה מראה שגורמי איום הופכים מתוחכמים יותר ויותר בגישתם לפריצת גישה של עסקים לנתונים קריטיים - וללקוחות. לערוץ היוטיוב של 7News יש למעלה ממיליון מנויים, מה שמאפשר לנוכלים שמאחורי המתקפה להגיע לקהל היעד המשמעותי של 7News: CryptoNews דיווח כי השידור החי נצפה על ידי כ-60,000 צופים, ושידור נוסף בו זמנית נצפה על ידי כ-45,000 איש.

זיופים עמוקים (Deepfakes) מאפשרים גם לגורמי איום לבצע התקפות בסגנון פריצת דוא"ל עסקית (BEC) על ארגונים, תוך שימוש באודיו, תמונות ווידאו שנוצרו על ידי בינה מלאכותית כדי להתחזות לאנשי צוות בכירים. באפריל, LastPass שיתפה שגורם איום התחזה למנכ"ל כרים טובה באמצעות וואטסאפ, ושלח לעובד שיחות, הודעות טקסט והודעות קוליות שהכילו דיפפייק אודיו. במקרה זה, העובד דיווח על התקרית והאיום הופחת על ידי LastPass. עם זאת, ישנם אירועים רבים לאחרונה בהם אופן התקפה זה הצליח, מה שהוביל להפסד כספי.

ההתקדמות בטכנולוגיית AI מובילה לאיומי סייבר מוגברים

בינה מלאכותית הופכת לטכנולוגיה נגישה יותר ויותר עבור גורמי איום, מה שמוביל לעלייה במתקפות על יחידים ועסקים. דו"ח מצב אבטחת המידע שלנו סקר למעלה מ-1,500 אנשי מקצוע בתחום אבטחת מידע ומצא שכמעט שליש (30%) מהחברות חוו מתקפת דיפפייק ב-12 החודשים האחרונים.

עם זאת, רוב הנשאלים (76%) הסכימו גם שטכנולוגיית AI ולמידת מכונה (ML) משפרת את אבטחת המידע, ומציעה דרכים חדשות לאוטומציה, ניתוח ושיפור אמצעי האבטחה. 62% מצפים להגדיל את ההוצאות שלהם על יישומי אבטחה של AI ו-ML ב-12 החודשים הקרובים. 

עם טכנולוגיה המונעת בינה מלאכותית המציעה לעסקים גם אתגרים וגם הזדמנויות מדהימות, איך נוכל לטפל ולמנוע תקריות מזויפות עמוקות?

הפחתת הסיכון לאירועי Deepfake

עבור עסקים, הכשרה ומודעות עובדים יהיו חיוניים להפחתת הסיכון לאירועי זיוף עמוקים. תקנים כמו ISO 27001, תקן אבטחת המידע הבינלאומי, מספקים מסגרת לבנייה, תחזוקה ושיפור מתמיד של מערכת ניהול אבטחת מידע (ISMS). זה כולל הטמעת מדיניות אבטחת מידע, שתדריך את העובדים שלך בדיווח על אירוע חשד, כגון מתקפת BEC, באמצעות דואר אלקטרוני או בצורה של זיוף עמוק. 

בבחירות הכלליות בבריטניה, הציבור הרחב חייב להיות ערני כשהוא שוקל אם סרטונים וקטעי אודיו שפורסמו לפלטפורמות מדיה חברתית הם אמיתיים או מניפולציות. מספר רמזים חזותיים ושמעיים יכולים לעזור לזהות זיוף עמוק. 

רמזים חזותיים כוללים: 

  • תנועת עיניים לא טבעית (או חוסר בתנועת עיניים)
  • הבעות פנים לא עקביות
  • תנועות גוף מפורקות או קופצניות
  • שיניים שאינן נראות אמיתיות או היעדר קווי מתאר של שיניים בודדות
  • תמונות חזותיות מטשטשות או לא מיושרות. 

רמזים שמיעתיים כוללים:

  • רעשים שנשמעים רובוטיים
  • תקלות שמע 
  • אודיו לא עקבי
  • הגיות מוזרות של מילים
  • שגיאות סנכרון שפתיים עם פערים בין המילים הנאמרות לבין תנועות השפתיים.

מאבק בהשפעת המדיה הסינתטית

יהיה קשה למדוד את ההשפעה של זיופים עמוקים שנוצרו על ידי בינה מלאכותית על הבחירות הכלליות בבריטניה. כאשר 43% מהבריטים מקבלים את החדשות שלהם מהמדיה החברתית, סביר להניח שבוחרים רבים ראו סוג של מדיה סינתטית הקשורה למפלגה פוליטית - בין אם הם מודעים לכך או לא. 

עם זאת, משתמשים ב-X מזהים באופן קבוע זיופים עמוקים פוטנציאליים ומזהירים משתמשים אחרים באמצעות תכונת הערות הקהילה. לפלטפורמת ה-X עצמה יש כעת מדיניות מדיה שעברה מניפולציות הקובעת כי "אסור לשתף מדיה סינתטית, מניפולציה או מחוץ להקשר שעלולה להונות או לבלבל אנשים ולהוביל לפגיעה". החשבון שפרסם במקור את הסרטון עם מניפולציות של ווס סטריטינג הושעה כעת, אך עדיין נותר לראות את השפעתו.

עם אירועי זיוף עמוקים בעלייה, עסקים צריכים גם לשקול כיצד ניתן לשפר את עמדת האבטחה שלהם. פיתוח ISMS חזק המותאם לתקן ISO 27001:2022 מסייע לארגונים לחזק את ההגנה שלהם מפני איומי סייבר, להפחית את הסיכון להתקפות מוצלחות ולהבטיח שהעובדים מודעים לתפקידים ולאחריות שלהם באבטחת מידע.