טכנולוגיית בינה מלאכותית (AI) Deep Fake אינה תופעה חדשה. המונח 'זיוף עמוק' שימש לתיאור מדיה סינתטית מאז 2017, ודוגמאות רבות לזיופים עמוקים פורסמו בהרחבה. דוגמאות ויראליות כוללות סרטון שנוצר על ידי בינה מלאכותית של מארק צוקרברג מדבר על הכוח המרושע של פייסבוק, חשבון TikTok המוקדש לשיתוף סרטונים מזויפים עמוקים של השחקן קיאנו ריבס, ואפילו סרטון של יו"ר בית ארה"ב ננסי פלוסי, שרופאה כדי לגרום לה להיראות שיכורה.
טכנולוגיית ה-Deepfake ממשיכה להתקדם בקצב, וזה מסובך מתמיד לדעת מה אמיתי ומה לא. עם הבחירות הכלליות בבריטניה, האם זיופים עמוקים עיצבו את הדרך שבה הבוחרים רואים מועמדים פוליטיים - ואפילו השפיעו על האופן שבו הם מצביעים?
Deepfakes בבחירות הכלליות בבריטניה
בחודש שעבר פורסם ב-X (לשעבר טוויטר) סרטון סרטון של פוליטיקאי מפלגת הלייבור ווס סטריטינג, שלכאורה מראה אותו מכנה את חברת הלייבור בפרלמנט דיאן אבוט "אישה מטופשת". ה-BBC דיווח שהסרטון ורבות מהתגובות בתגובה ב-X הגיעו מרשת של חשבונות שיוצרים ומשתפים קליפים של פוליטיקאים ולאחר מכן מפרסמים תגובות מטעות כדי לחזק את הרושם שהם אמיתיים.
האם הרשת שואפת לערער ולהכפיש את הפוליטיקאים הממוקדים, בין אם למטרות פוליטיות או סתם בשביל בידור? הדיווח של ה-BBC מצא שאותם חשבונות פרסמו קטעים מזויפים של לוק אקהרסט של הלייבור וכן של ה-Reform UK Nigel Farage, המשתרעים על הקשת הפוליטית של בריטניה. באירוע לא קשור, סרטוני דיפ זיוף סאטיריים של ראש ממשלת בריטניה רישי סונק הפכו גם הם לוויראליים לאחרונה לאחר שהכריז על הצעות שירות לאומי.
ההשפעה של בינה מלאכותית אינה מוגבלת גם לרשתות חברתיות: יש אפילו מועמד AI Independent בשם AI Steve, אווטאר של איש העסקים האמיתי סטיבן אנדקוט.
מחקר של YouGov מצא כי 43% מהבריטים מקבלים את החדשות שלהם במהלך הבחירות הכלליות מהמדיה החברתית, שניים רק לטלוויזיה (58%). בסך הכל, 77% מקבלים את החדשות שלהם באינטרנט. לכן, בעוד שיישומים רבים של טכנולוגיית Deepfake יכולים להיות לא מזיקים ומשעשעים, ההשלכות של סרטונים כמו הקליפ של Wes Streeting עלולות להזיק פוליטית. ככל שהבריטים יצביעו, עבור חלקם, זיופים עמוקים עשויים להשפיע על בחירות ההצבעה שלהם.
GenAI ממשיכה להשפיע גם על עסקים
גם שחקני איומים ממשיכים לכוון לעסקים וללקוחותיהם. בשבוע שעבר, ערוץ החדשות האוסטרלי 7News מצא את היוטיוב שלו נפרץ על ידי שחקני איומים, שהשתמשו בו כדי לשדר בשידור חי סרטון שנוצר על ידי בינה מלאכותית של אילון מאסק שמציג הונאה במטבעות קריפטוגרפיים. סידני מורנינג הראלד דיווח כי הזיוף העמוק עודד את הצופים לסרוק קוד QR ממותג טסלה ולהפקיד כסף לתוך ערכת המטבעות הקריפטוגרפיים כדי "להכפיל את נכסי הקריפטו שלהם".
הפריצה מראה ששחקני איומים הופכים יותר ויותר מבינים בגישתם להתפשר על עסקים כדי לגשת לנתונים קריטיים - וללקוחות. לערוץ היוטיוב של 7News יש למעלה ממיליון מנויים, מה שמאפשר לרמאים מאחורי המתקפה להגיע לקהל המשמעותי של 7News: CryptoNews דיווח כי בזרם החי נצפה על ידי כ-60,000 צופים, ובזרם נוסף בו זמנית צפו כ-45,000 אנשים.
Deepfakes גם מאפשרים לשחקני איומים לבצע התקפות בסגנון פשרה בדואר אלקטרוני (BEC) על ארגונים, תוך שימוש באודיו, תמונות ווידאו שנוצרו על ידי בינה מלאכותית כדי להתחזות לחברי צוות בכירים. באפריל, LastPass שיתפה כי א שחקן האיומים התחזה למנכ"ל קארים טובבה באמצעות WhatsApp, שליחת שיחות לעובד, הודעות טקסט והודעות קוליות הכוללות זיוף אודיו עמוק. במקרה זה, העובד דיווח על האירוע והאיום הופחת על ידי LastPass. ובכל זאת, ישנם תקריות רבות לאחרונה בהן אופן ההתקפה הזה הצליח, והוביל להפסד כספי.
ההתקדמות בטכנולוגיית AI מובילה לאיומי סייבר מוגברים
בינה מלאכותית הופכת לטכנולוגיה נגישה יותר ויותר עבור גורמי איומים, מה שמוביל לעלייה בהתקפות על אנשים ועסקים. שֶׁלָנוּ דוח מצב אבטחת מידע סקר למעלה מ-1,500 אנשי מקצוע בתחום אבטחת המידע ומצא שכמעט שליש (30%) מהחברות חוו מתקפת זיוף עמוק ב-12 החודשים האחרונים.
עם זאת, רוב הנשאלים (76%) הסכימו גם שטכנולוגיית AI ולמידת מכונה (ML) משפרת את אבטחת המידע, ומציעה דרכים חדשות לאוטומציה, ניתוח ושיפור אמצעי האבטחה. 62% מצפים להגדיל את ההוצאות שלהם על יישומי אבטחה של AI ו-ML ב-12 החודשים הקרובים.
עם טכנולוגיה המונעת בינה מלאכותית המציעה לעסקים גם אתגרים וגם הזדמנויות מדהימות, איך נוכל לטפל ולמנוע תקריות מזויפות עמוקות?
הפחתת הסיכון לאירועי Deepfake
עבור עסקים, הכשרה ומודעות עובדים יהיו חיוניים להפחתת הסיכון לאירועי זיוף עמוקים. תקנים כמו ISO 27001, תקן אבטחת המידע הבינלאומי, מספקים מסגרת לבנייה, תחזוקה ושיפור מתמיד של מערכת ניהול אבטחת מידע (ISMS). זה כולל הטמעת מדיניות אבטחת מידע, שתדריך את העובדים שלך בדיווח על אירוע חשד, כגון מתקפת BEC, באמצעות דואר אלקטרוני או בצורה של זיוף עמוק.
בבחירות הכלליות בבריטניה, הציבור הרחב חייב להיות ערני כשהוא שוקל אם סרטונים וקטעי אודיו שפורסמו לפלטפורמות מדיה חברתית הם אמיתיים או מניפולציות. מספר רמזים חזותיים ושמעיים יכולים לעזור לזהות זיוף עמוק.
רמזים חזותיים כוללים:
- תנועת עיניים לא טבעית (או חוסר בתנועת עיניים)
- הבעות פנים לא עקביות
- תנועות גוף מפורקות או קופצניות
- שיניים שאינן נראות אמיתיות או היעדר קווי מתאר של שיניים בודדות
- תמונות חזותיות מטשטשות או לא מיושרות.
רמזים שמיעתיים כוללים:
- רעשים שנשמעים רובוטיים
- תקלות שמע
- אודיו לא עקבי
- הגיות מוזרות של מילים
- שגיאות סנכרון שפתיים עם פערים בין המילים הנאמרות לבין תנועות השפתיים.
מאבק בהשפעת המדיה הסינתטית
יהיה קשה למדוד את ההשפעה של זיופים עמוקים שנוצרו על ידי בינה מלאכותית על הבחירות הכלליות בבריטניה. כאשר 43% מהבריטים מקבלים את החדשות שלהם מהמדיה החברתית, סביר להניח שבוחרים רבים ראו סוג של מדיה סינתטית הקשורה למפלגה פוליטית - בין אם הם מודעים לכך או לא.
עם זאת, משתמשים ב-X מזהים באופן קבוע זיופים עמוקים פוטנציאליים ומזהירים משתמשים אחרים באמצעות תכונת הערות הקהילה. לפלטפורמת ה-X עצמה יש כעת מדיניות מדיה שעברה מניפולציות הקובעת כי "אסור לשתף מדיה סינתטית, מניפולציה או מחוץ להקשר שעלולה להונות או לבלבל אנשים ולהוביל לפגיעה". החשבון שפרסם במקור את הסרטון עם מניפולציות של ווס סטריטינג הושעה כעת, אך עדיין נותר לראות את השפעתו.
עם אירועי זיוף עמוקים בעלייה, עסקים צריכים גם לשקול כיצד ניתן לשפר את עמדת האבטחה שלהם. פיתוח ISMS חזק המותאם לתקן ISO 27001:2022 מסייע לארגונים לחזק את ההגנה שלהם מפני איומי סייבר, להפחית את הסיכון להתקפות מוצלחות ולהבטיח שהעובדים מודעים לתפקידים ולאחריות שלהם באבטחת מידע.
