רבים מההוראות הסופיות של חוק הבינה המלאכותית של האיחוד האירופי צפויות להיכנס לתוקף בשנת 2026. ב-2 באוגוסט, רוב חוק הבינה המלאכותית של האיחוד האירופי יחול על מפעילי מערכות בינה מלאכותית בכל הרמות, למעט סעיף 6(1) ומערכות המוזכרות בסעיף 111(1). בשלב זה, החוק יחול על מפעילי מערכות בינה מלאכותית בסיכון גבוה שהוצאו לשוק או הוכנסו לשירות לפני תאריך זה.
כדי לתמוך בעסקים בהתאמתם לדרישות השקיפות בסעיף 50, פרסמה הנציבות האירופית את הטיוטה השנייה של קוד הנוהג לשקיפות של תוכן שנוצר על ידי בינה מלאכותית. הקוד, כלי התנדבותי שנוסח על ידי מומחים עצמאיים, מתייחס לשיקולים מרכזיים עבור ספקים ומפיצים של מערכות בינה מלאכותית המייצרות תוכן הנכלל במסגרת סעיף 50; הוא תומך בארגונים בהוכחת עמידה בחוק.
הקוד מורכב משני סעיפים. סעיף 1 מכיל כללים לסימון וזיהוי של תוכן שנוצר ומנוצל על ידי בינה מלאכותית, החלים על ספקי מערכות בינה מלאכותית. בינתיים, סעיף 2 מכיל כללים לסימון דיפפייקס וטקסט שפורסם שנוצר ומנוצל על ידי בינה מלאכותית, החלים על פורסי מערכות בינה מלאכותית.
מונחים מרכזיים המשמשים בקוד הנוהג
קונצרט – טקסט מבוא בתחילת סעיף המפרט את הנימוקים להוראותיו האופקיות.
התחייבויות: ההתחייבויות שחתומים על קוד הנוהג מתחייבים אליהן, למשל יישום אמצעים מסוימים כדי להבטיח שהתפוקות של מערכות הבינה המלאכותית שלהם ניתנות לזיהוי ככאלו שנוצרו או שבוצעו על ידי בינה מלאכותית.
צעדים ותתי-צעדים: הפעולות הספציפיות שעל החותמים לנקוט כדי להתאים את עצמם להתחייבויות המפורטות בקוד הנוהג.
סעיף 1: כללים לסימון וזיהוי של תוכן שנוצר ומנוהל על ידי בינה מלאכותית
סעיף 1 חל על ספקי מערכות בינה מלאכותית ומתייחס לסעיפים 50(2) ו-(5) של חוק הבינה המלאכותית של האיחוד האירופי.
המטרות הספציפיות של סעיף 1 לקוד הן לשמש כמסמך מנחה להוכחת עמידה בחובות החוק, אם כי עמידה בקוד אינה ראיה חד משמעית לעמידה בחובות אלה. סעיף זה נועד לסייע לספקי מערכות בינה מלאכותית המייצרות אודיו, תמונה, וידאו או טקסט סינתטיים לעמוד בחובותיהם ולאפשר לרשויות פיקוח השוק להעריך את העמידה בדרישות.
התחייבות 1: סימון רב-שכבתי של תוכן שנוצר על ידי בינה מלאכותית
בהתחייבות 1, חותמי הקוד מתחייבים לסמן כל תוכן שמע, תמונה, וידאו או טקסט שנוצר או מטופל על ידי מערכות בינה מלאכותית שהן מוציאות לשוק או מכניסות לשירות באיחוד האירופי באופן קריא על ידי מכונה. זה חל על התפוקות של מערכות בינה מלאכותית יצירתיות וכולל... מערכות בינה מלאכותית לשימוש כללי.
לפיכך, האמצעים של התחייבות 1 כוללים:
יישום גישת סימון רב-שכבתית, תוך הקפדה על סימון פלטים אלה בלפחות שתי שכבות של סימון פעיל קריא על ידי מכונה.
מטא-נתונים חתומים דיגיטלית, טכניקות סימון מים בלתי מורגשות השזורות בתוכן, ומתקני טביעת אצבע או רישום הם כולם שיטות נדרשות לסימון תוכן שנוצר על ידי בינה מלאכותית אם התוכן נוצר או מיוצא בפורמט התומך בטכניקות אלה. לדוגמה, חותמים על הקוד צריכים להוסיף מידע לגבי האם התוכן נוצר על ידי בינה מלאכותית או שעבר מניפולציה על ידי בינה מלאכותית כחלק מהמטא-נתונים עבור קובץ שמע, תמונה, וידאו או מסמך.
אי הסרת סימון קריא על ידי מכונה דורש מהחותמים "לעשות כמיטב יכולתם" לשמר סימני מסחר על תוכן שנוצר או מטופל על ידי מערכת הבינה המלאכותית שלהם על ידי הימנעות משינוי או הסרה של מטא-נתונים קיימים במידת האפשר מבחינה טכנית.
שקיפות שרשרת המקור זהו צעד אופציונלי, המעודד את החותמים ליישם סטנדרטים של מקור, המספקים מידע נוסף על שרשרת המקור של תוכן שנוצר או מטופל על ידי בינה מלאכותית בזרימות עבודה, במידת האפשר מבחינה טכנית.
פונקציונליות אופציונלית לסימונים מורגשים (עבור זיופים עמוקים וטקסט שפורסם על ידי בינה מלאכותית שנוצר ומנוהל על ידי בינה מלאכותית) מעודד ספקי מערכות בינה מלאכותית גנרטיבית המסוגלות לייצר דיפפייקים וטקסט שפורסם ונוצר ומנופול על ידי בינה מלאכותית לספק פונקציונליות אופציונלית בממשק המערכת שלהם וליישם אפשרות משולבת המאפשרת למפעילים ולמשתמשים אחרים להחיל ישירות סימן או תווית קריאים על ידי מכונה על פלט שנוצר לפי שיקול דעתם.
התחייבות 2 – זיהוי סימון של תוכן שנוצר על ידי בינה מלאכותית
התחייבות 2 מחייבת את החותמים על הקוד ליישם אמצעים שיאפשרו זיהוי של תוכן שמע, תמונה, וידאו או טקסט (או שילוב של אלה) כפי שנוצר או מטופל על ידי מערכת הבינה המלאכותית שלהם. עליהם גם להבטיח שמידע זה מסופק בצורה ברורה, ניתנת להבחנה ונגישה באמצעות כלים או ממשקי API.
האמצעים של התחייבות 2 כוללים:
מנגנוני זיהוי לסימון פעיל זמינים לפורשים, משתמשי קצה וצדדים שלישיים אחרים. צעד זה מחייב את החותמים להבטיח כי יועמד לרשותם ממשק, ללא תשלום, המאפשר לפורשי מערכות בינה מלאכותית, משתמשים, משתמשי קצה וגורמים לגיטימיים אחרים לאמת האם תוכן נוצר או עבר מניפולציה על ידי מערכת הבינה המלאכותית שלהם.
מנגנוני גילוי פורנזיים זהו צעד אופציונלי, המעודד את החותמים לתמוך בפיתוח גלאים פורנזיים המסוגלים לזהות את התפוקות של מודלים של בינה מלאכותית גנרטיבית הזמינים בשוק האיחוד, כולל כאשר הם משולבים במערכות.
גילוי ברור ונגיש של תוצאות אימות וגילוי דורש מהחותמים להבטיח שתוצאות הגילוי והאימות מוצגות בצורה ברורה וקלה להבנה לאנשים המעוניינים לאמת את מקור התוכן. זה כולל הבטחה שהתוצאות מספקות מידע המבוסס על סימן מים, מטא-נתונים, גילוי פורנזי או טכניקות אחרות.
עליהם גם להבטיח שתוצאות מנגנוני הזיהוי וממשקי המשתמש שלהם, במידת הצורך, יהיו נגישים לאנשים עם מוגבלויות.
תמיכה באוריינות בטכנולוגיות סימון ואימות של בינה מלאכותית מעודד את החותמים להבטיח כי תיעוד מיועד למשתמשים מן השורה ומידע רלוונטי אחר (לא כולל סודות מסחריים) יינתן למפעילים ולמשתמשים אחרים כדי לתמוך בהם בקבלת החלטות מושכלות לגבי מנגנוני הסימון והזיהוי בהם הם עשויים להשתמש. כמו כן, הם מעודדים לספק משאבי אוריינות בינה מלאכותית למשתמשי הקצה כנדרש.
התחייבות 3 – אמצעים לעמידה בדרישות לטכניקות סימון וזיהוי
התחייבות 3 מחייבת את החותמים להבטיח שהפתרונות הטכניים המועסקים לסימון וזיהוי תוכן שנוצר או מנוצל על ידי בינה מלאכותית יהיו יעילים, ניתנים לתפעול הדדי, חזקים ואמינים. עליהם לשאוף להשיג את היעילות, יכולת התפעול ההדדי, החוסן והאמינות הגבוהות ביותר האפשריות של פתרונות סימון וזיהוי ולהשיג אותם במידה האפשרית מבחינה טכנית.
יעילות דורש מהחותמים ליישם פתרונות סימון וזיהוי המתאימים למטרה ומסוגלים לאפשר ביעילות לאנשים להבחין בין תוכן שנוצר או מטופל על ידי בינה מלאכותית לבין תוכן שנכתב על ידי בני אדם.
אמינות דורש מהחותמים על הקוד ליישם פתרונות סימון וזיהוי המשיגים רמת אמינות גבוהה בהקשרים ובמקרי שימוש שונים. זה כולל את התייחסות לשני מרכיבים: מידת הדיוק של זיהוי הסימון בתנאים מבוקרים וכיצד דיוק פתרונות הסימון והזיהוי משתנה בהתאם לאורך, לאנטרופיה ולסמנטיקה של התוכן.
חוסן דורש מהחותמים ליישם פתרונות סימון וזיהוי המשיגים רמת חוסן גבוהה בפני שינויים נפוצים והתקפות עוינות. זה כולל הבטחה שטכניקות הסימון והזיהוי שלהם עמידות בפני פעולות עיבוד אופייניות, כולל שיקוף, חיתוך, דחיסה, צילום מסך ועוד. על החותמים גם להעריך את החוסן העוין של פתרונות הסימון והזיהוי שלהם ולעדכן את הערכות האיומים לעתים קרובות.
יכולת פעולה הדדית דורש מהחותמים על הקוד ליישם פתרונות טכניים לסימון וזיהוי של תוכן שנוצר או עבר מניפולציה על ידי בינה מלאכותית, הפועלים על פני ערוצי הפצה וסביבות טכנולוגיות. מטרת הצעד הזה היא להבטיח יכולת פעולה הדדית מלאה של פתרונות הסימון והזיהוי של ספקים שונים של מערכות בינה מלאכותית, עם סטנדרטים משותפים לסימון וזיהוי.
קידום הטכנולוגיה המתקדמת בתחום הסימון והזיהוי מעודד את החותמים להשקיע במחקר ופיתוח מדעיים כדי לקדם את הטכנולוגיה המתקדמת במנגנוני סימון וזיהוי של תוכן שנוצר ומנוהל על ידי בינה מלאכותית. הדבר מותנה ביכולתם ובמשאביהם.
התחייבות 4 – בדיקה, אימות ותאימות
התחייבות 4 מחייבת את החותמים להתחייב להקים, לעדכן וליישם תהליכי בדיקה, אימות ותאימות.
מדדי המחויבות 4 כוללים:
מסגרת תאימות, אשר מחייבת את החותמים לגבש, ליישם ולעדכן מסגרת תאימות המתארת את תהליכי הסימון והזיהוי והאמצעים שהחותמים מיישמים כדי להבטיח עמידה בסעיפים 50(2) ו-(5) של חוק הבינה המלאכותית של האיחוד האירופי. יש ליישם אמצעי זה באופן פרופורציונלי, תוך התחשבות בגודל ובמשאבים של הספק.
השמיים בדיקה, אימות וניטור האמצעי מחייב את החותמים לבדוק את פתרונות הסימון והזיהוי לצורך עמידתם בדרישות ובאמצעים המפורטים בסעיף 1 של הקוד בתנאים אמיתיים, ולפני ההשקה לשוק. ספקים במורד הזרם של מערכות בינה מלאכותית גנרטיביות עשויים להסתמך על תוצאות בדיקות שבוצעו על ידי מודל במעלה הזרם או ספק צד שלישי של טכניקות סימון וזיהוי.
הדרכה דורש מהחותמים לספק הכשרה מתאימה לצוות בעל תפקידים הרלוונטיים להבטחת עמידה בסעיפים 50(2) ו-(5) של חוק הבינה המלאכותית של האיחוד האירופי, המעורבים בתכנון ופיתוח של מערכות ומודלים של בינה מלאכותית ואחראים על הבטחת יישום יעיל של האמצעים המפורטים בסעיף 1 של הקוד.
שיתוף פעולה עם רשויות פיקוח השוק דורש מהחותמים על הקוד לשתף פעולה עם רשויות פיקוח שוק מוסמכות כדי להדגים עמידה בסעיפים 50(2) ו-(5) של חוק הבינה המלאכותית של האיחוד האירופי ואת התחייבויותיהם במסגרת סעיף 1 של הקוד.
סעיף 2: כללים לתיוג Deepfakes וטקסט שפורסם על ידי בינה מלאכותית שנוצר ומנוהל על ידי בינה מלאכותית
סעיף 2 חל על פורסי מערכות בינה מלאכותית ומתייחס לסעיפים 50(4) ו-(5) של חוק הבינה המלאכותית של האיחוד האירופי.
המטרות הספציפיות של סעיף 2 לקוד הן לשמש כמסמך מנחה להדגמת עמידה בחובותיהם של פורסי מערכות בינה מלאכותית גנרטיבית בחוק, אם כי עמידה בקוד אינה ראיה חד משמעית לעמידה בחובות אלה. סעיף זה נועד לסייע לפורסי מערכות בינה מלאכותית המייצרות או מניפולציות תוכן תמונה, אודיו או וידאו המהווה דיפפייק או טקסט בעמידה בחובותיהם ולאפשר לרשויות פיקוח השוק להעריך את העמידה בדרישות.
התחייבות 1 – גילוי של דיפפייקים וטקסטים שפורסמו שנוצרו ומנופלים על ידי בינה מלאכותית
התחייבות 1 מחייבת את החותמים להבטיח גילוי עקבי של המקור המלאכותי של קבצי דיפ-זיוף שנוצרו או שעברו מניפולציה על ידי בינה מלאכותית או טקסט שפורסם בנושאים בעלי עניין ציבורי.
חותמים יכולים לעשות זאת באמצעות סמל האיחוד האירופי האחיד ברגע שיהיה זמין, או על ידי בחירת סמל או פתרון תיוג חלופי העומד בדרישות המפורטות באמצעים הבאים:
דרישות עיצוב עבור סמלים, תוויות או כתבי ויתור כולל רשימה של דרישות לעיצוב סמלים או תוויות חזותיות. זה כולל את האלמנט החזותי העיקרי של "בינה מלאכותית" באות גדולה, אולי בתוספת תווית טקסט קצרה המציינת את סוג המעורבות של הבינה המלאכותית, לדוגמה "נוצר באמצעות בינה מלאכותית". עבור תוכן שמע בלבד, על החותמים לכלול הצהרת ויתור קולית קצרה. מידע נוסף על הדרישות הספציפיות ניתן למצוא בקוד.
דרישות מיקום עבור סמלים, תוויות או הצהרות אחריות דורש מהחותמים להציג את הסמל, התווית או הצהרת הוויתור במיקום מתאים ומובן, התואם את הפורמט וההקשר של התוכן. מידע נוסף על הדרישות הספציפיות ניתן למצוא בקוד.
שימוש אופציונלי בסמל של האיחוד האירופי והשתתפות בפיתוחו זוהי התחייבות אופציונלית המעודדת את החותמים להשתמש בסמל כלל-איחוד האירופי ולתמוך בפיתוח תווית אחידה של האיחוד האירופי שנועד לספק מידע מתקדם ושימושי יותר על רכיבי התוכן שנוצרו או עברו מניפולציה על ידי בינה מלאכותית.
התחייבות 2 – ציות פרופורציונלי, מודעות ובדיקה
כדי לעמוד בהתחייבות 2, על החותמים ליישם תהליכים פנימיים פרופורציונליים, אמצעי מודעות ומנגנוני סקירה ליישום נכון של תיוג של זיופים עמוקים ופרסומי טקסט במסגרת סעיף 50(4) לחוק הבינה המלאכותית של האיחוד האירופי.
תאימות פנימית דורש מהחותמים ליצור, להתאים או לתחזק תיעוד פנימי פרופורציונלי כדי לפרט כיצד הם מיישמים את חובות הגילוי על פי הסעיפים הנ"ל של חוק הבינה המלאכותית של האיחוד האירופי.
מודעות והדרכה דורש מהחותמים לעשות מאמצים סבירים ומידתיים כדי להבטיח מודעות לחובות הגילוי לפי סעיף 50(4) ו-(5) של חוק הבינה המלאכותית של האיחוד האירופי בקרב אנשי צוות המעורבים ישירות ביישום אמצעי תיוג או פיקוח על ציות לאמצעים שבסעיף 2 של הקוד.
סקירה, משוב ושיתוף פעולה עם הרשויות דורש מהחותמים לתמוך ביישום יעיל של חובות גילוי באמצעות מנגנוני סקירה ומשוב, כגון מתן ערוצים המאפשרים לאנשים פרטיים או לצדדים שלישיים מהימנים כגון בודקי עובדות עצמאיים לסמן גילויים שגויים או חסרים.
התחייבות 3 – גילוי נאות עבור יצירות אמנותיות, יצירתיות ודומות
התחייבות 3 מחייבת את החותמים ליישם צעדים לחשיפת תוכן דיפפייק המהווה חלק מיצירה או תוכניות אמנותיות, יצירתיות, סאטיריות, בדיוניות או אנלוגיות. הגילוי צריך להיעשות באופן הולם שאינו פוגע בתצוגה או בהנאה מהיצירה. הצעות ספציפיות למיקום ניתן למצוא בתקנון.
התחייבות 4 – סקירה אנושית, שליטה עריכתית ואחריות ביחס לפרסומי טקסט שנוצרו או עברו מניפולציה על ידי בינה מלאכותית
כדי להבטיח עמידה בהתחייבות 4, על החותמים ליצור, להתאים או לתחזק תיעוד מינימלי המדגים כי הטקסט שנוצר או שעבר מניפולציה באמצעות בינה מלאכותית שפורסם למטרות ליידע את הציבור בנושאים בעלי עניין ציבורי עבר בדיקה אנושית או בקרה עריכתית לפני פרסומו, וכי אדם טבעי או משפטי נושא באחריות עריכה לפרסום.
התיעוד צריך לכלול את זהותו של האדם האחראי על העריכה, לרבות שמו, תפקידו ופרטי התקשרות, וסקירה כללית של האמצעים שהוקצו להבטחת ביצוע בדיקה אנושית נאותה.
עמידה בקוד העיסוק של ISO 42001
קוד הנוהג הוא וולונטרי. עם זאת, הוא מציע דרך לספקים ולמפעילים של מערכות בינה מלאכותית להוכיח את עמידתם בחובות השקיפות החוקיות של חוק הבינה המלאכותית של האיחוד האירופי.
השמיים תקן ISO 42001 מספק מסגרת של שיטות עבודה מומלצות לבנייה, תחזוקה ושיפור מתמיד של מערכת ניהול בינה מלאכותית (AIMS), ויכול גם לתמוך בתאימות רחבה יותר לחוק הבינה המלאכותית של האיחוד האירופי. התקן נועד להבטיח שארגונים יתחשבו בסוגיות ספציפיות הקשורות לבינה מלאכותית, כולל אבטחה, בטיחות, הוגנות, שקיפות, איכות נתונים ואיכות מערכות בינה מלאכותית לאורך כל מחזור חייהן.
תקן ISO 42001 מספק בסיס לארגונים ליישום מערכת AIMS אתית ושקוף המכסה מודלים, מערכות ופריסה של בינה מלאכותית. מערכת AIMS חזקה ותואמת ISO 42001 יכולה לאפשר לארגונים לתחזק ולהדגים בקלות ראיות לעמידה בקוד הנוהג ובחוק הבינה המלאכותית של האיחוד האירופי.
עמידה בקוד הנוהג של חוק הבינה המלאכותית של האיחוד האירופי בנושא שקיפות של תוכן שנוצר על ידי בינה מלאכותית
יישום האמצעים הנדרשים כדי להתאים את עצמם לקוד הנוהג יכול להיות אתגר. לכל הפחות, על ארגונים לאמץ את האמצעים הנדרשים לסימון וזיהוי שקופים של בינה מלאכותית, לסקור את תיעוד תהליכי הפיקוח האנושי ולזהות פערים בין גישתם הנוכחית לשקיפות לבין האמצעים הנדרשים על פי קוד הנוהג.
אם הארגון שלכם שוקל עמידה בתקן ISO 42001, צרו קשר כדי לראות כיצד ISMS.online יכול לעזור. קחו את הצעד הבא לקראת ניהול אחראי ושיטתי של בינה מלאכותית וודאו שהשימוש בבינה מלאכותית בארגון שלכם תואם את החובות החוקיות של חוק הבינה המלאכותית של האיחוד האירופי.
הרחב את הידע שלך
בלוג: מועד אחרון לחוק בינה מלאכותית מרכזי של האיחוד האירופי מתקרב: הנה מה שעסקים צריכים לדעת
בלוג: האם ISO 42001 יכול להפוך לרגולטור ה-De Facto AI בבריטניה?
סמינר מקוון: לקחים מאחת מהסמכות ISO 42001 הראשונות בעולם
