שנת 2023, ונראה כי בינה מלאכותית נמצאת בכל מקום. ChatGPT, הבינה המלאכותית שמיוצרת על ידי מכון OpenAI, שנוסד על ידי אילון מאסק, כותבת חיבורים לסטודנטים , מוציאה לאור ספרים ואפילו מאתגרת קנסות חניה . באחד האירועים שמוכיחים שאנחנו חיים בפרק של "מראה שחורה", עובד אוניברסיטה חסר נשמה במיוחד אף השתמש בה כדי לנחם סטודנטים לאחר ירי המוני.
איך ChatGPT עובד
מומחי פרטיות ואבטחה עשויים לתהות כיצד AI יכול לעזור גם להם. האם זה, למשל, יכול לכתוב את מדיניות הפרטיות שלך? התשובה היא כן - בערך.
כדי לפרוק את השאלה בצורה יסודית יותר, כדאי להבין כיצד פועל המותג החדש יותר של AI של ChatGPT. זה מבוסס על משהו שנקרא מודל שפה גדול (LLM). זהו מודל בינה מלאכותית שאומן באמצעות קורפוס גדול של טקסט, בדרך כלל מגורד מהאינטרנט. תהליך האימון מפרק את הטקסט הזה לאסימונים, שעשויים להיות חלקים ממילים. לאחר מכן, הוא משתמש בכמויות עצומות של כוח מחשוב כדי למצוא דפוסים בשפה שעוזרים לו להבין כיצד האסימונים הללו קשורים.
כשמישהו מנחה את הבינה המלאכותית בבקשה (נניח, "הסבירו היתוך קר בסגנון שרלוק הולמס"), הבינה המלאכותית משתמשת במודל האימון העצום שלה כדי לקחת חתיכות של מילים ולחזות אילו מהן צפויות להגיע בהמשך. כך הוא יכול לייצר שפה משכנעת שנראית בהתאם למושגים המפורטים בהנחיה.
בטוח וטיפש: שילוב גרוע
הבעיה עם גישה זו היא שהבינה המלאכותית לא יודעת על מה היא מדברת. חוקרים השוו אותה ל"תוכי סטוכסטי", אשר מחבר מילים אקראיות מבלי להבין אותן. מאמר המתאר זאת, " על הסכנות של תוכים סטוכסטיים " , מציין כי "שפות הן מערכות של סימנים, כלומר זיווגים של צורה ומשמעות". כשמישהו אומר "ארנב", אתה מבין את המושג ארנב וכיצד הוא קשור לדברים שונים אחרים (פסחא, אביב, חיות מחמד, תבשיל טעים וכו'). "אבל נתוני האימון עבור תוכים סטוכסטיים הם רק צורה", אומרים החוקרים. "אין להם גישה למשמעות".
זה יוצר בעיות עבור LLMs שאתה מסתמך עליהם עבור תוכן עובדתי. מכיוון שהם מוצאים מילים המבוססות על הסתברות סטטיסטית ולא על ידע, הם נוטים לכתוב דברים שאינם נכונים. בעגה של AI, זה ידוע בשם 'הזוי', וזו בעיה אם אתה רוצה להסתמך עליהם לתוכן עובדתי.
אנשים ניסו להשתמש ב-ChatGPT כדי לכתוב מדיניות פרטיות, עם תוצאות מפוקפקות. הם גילו, כצפוי, שהתוצאות היו גרועות יותר כאשר התואר השני במשפטים היה צריך למלא יותר חללים.
בינה מלאכותית פשוטה מבקשת מדיניות חוזרת שלא התבססה על חוקי פרטיות ספציפיים ולא הייתה קשורה לפרקטיקות עסקיות ספציפיות. מדיניות הפרטיות השתפרה ככל שהבודקים הוסיפו מידע נוסף, עד לנקודה שבה היא הניבה תוצאה מרשימה. עם זאת, בשלב זה, "תצטרך להקדיש שעות, ימים או אפילו שבועות תחילה לקבוע אילו חוקי פרטיות חלים עליך, לנתח את דרישות החשיפה של החוקים הללו ולאחר מכן לספק מידע זה ל-ChatGPT, יחד עם שיטות העבודה הספציפיות שלך, " היא אומרת. מה שמעלה את השאלה: למה לא פשוט לעשות את כל העניין בעצמך מלכתחילה?
אחרים תיארו ChatGPT ו-LLM דומים כ"מחשבונים למילים". הם באמת שימושיים לכתיבה רק אם אתה משקיע הרבה עבודה בעצמך ומאמת בקפידה את התוצאות.
השימוש של אנשים ב-AI הוא לעתים קרובות גם בטוח וגם מטומטם
אנחנו לא יכולים לסמוך על כלי AI, אבל אנחנו יכולים לסמוך על אנשים שישתמשו בהם לרעה. כבר ראינו את הנשורת מבינה מלאכותית שאינה מיושם כהלכה, מה שמוביל לנשורת משמעותית שמשפיעה על החיים האמיתיים.
הרשויות השתמשו במערכות המופעלות על ידי בינה מלאכותית שהוכחו כמוטות בעת המלצות על גזרי דין משפטיים. לדוגמה, שימוש לרעה בתוכנות בינה מלאכותית על ידי רשות המסים ההולנדית הוביל את הסוכנות להאשים באופן לא הוגן הורים בהונאה - אמונה עיוורת באלגוריתמים פגומים של זיהוי פנים המופעלים על ידי בינה מלאכותית הובילה למעצר שלא כדין של אנשים חפים מפשע . הטיה הופיעה גם במערכת הגיוס המופעלת על ידי בינה מלאכותית של אמזון, אשר בוטלה לאחר שנכשלה בהמלצה חוזרת ונשנית על נשים מתאימות למשרות טכנולוגיות.
כיצד נוכל לגשת לבעיה זו? כמה מומחים כבר קראו להקפאה של שישה חודשים על פיתוח בינה מלאכותית כדי להבין את כל הבלגן המצער לפני שהדברים ייצאו משליטה עוד יותר.
לא חסרות הנחיות
כבר יש לנו שפע של הנחיות לבינה מלאכותית אחראית לבחור מהן, והן אומרות דברים דומים. קבוצת הסברה Algorithm Watch מחזיקה רשימה של הנחיות לבינה מלאכותית ממוסדות שונים, כולל הנחיות האתיקה של האיחוד האירופי לבינה מלאכותית אמינה . אחת שלא נכללה בזמן כתיבת שורות אלה הייתה מסגרת ניהול הסיכונים של הבינה המלאכותית של המכון הלאומי לתקנים וטכנולוגיה (NIST) , שפורסמה בינואר השנה. כמו רוב ההנחיות האחרות, מסגרת NIST שואפת לספק כמה מסלולים לפיתוח ויישום של בינה מלאכותית. היא גם מהדהדת מספר עקרונות נפוצים בהנחיות אתיות אחרות, כגון שקיפות, אחריות, פרטיות, אבטחה וחוסן.
על פי ה- OEDC , נכון לכתיבת שורות אלה, קיימות למעלה מ-800 יוזמות מדיניות בתחום הבינה המלאכותית בכמעט 70 מדינות, אך קיים הבדל גדול בין מדיניות מחייבת למדיניות שאינה מחייבת. ציות לרוב היוזמות, כולל NISTs, הוא וולונטרי.
מבט על חברות כמו Clearview AI מראה את החשיבות של אכיפה חוקית של מדיניות בינה מלאכותית אחראית במקום סתם לבקש דברים יפה. הסטארט-אפ, שמוכר שירותי זיהוי פנים לרשויות אכיפת החוק, מפעיל אותן באמצעות מיליוני תמונות שנגנבו מרשתות חברתיות ללא הסכמת אנשים.
אין מספיק רגולציה
מדינות נחלקו בגישתן להסדרת המדיניות שלהן. כולם מתמודדים עם אותו אתגר: מעט מדי רגולציה, והם מסתכנים בשימושים בלתי צפויים וחסרי אחריות בטכנולוגיה. יותר מדי, והם עלולים לאלץ מחדשי AI בעלי פוטנציאל רווחים להתרחק.
ארה"ב עדיין לא רגולציה את הבינה המלאכותית. הקונגרס הציע את חוק האחריות האלגוריתמית בשנת 2022, אך הוא נפל ללא הצבעה. ה-FTC הבטיח להשתמש בסמכויות הקיימות שלו כדי להגן על תושבי ארה"ב מפני שימוש בוטה בבינה מלאכותית. כמו כן, היא פרסמה הודעה מוקדמת על קביעת כללים מוצעת שעשויה לבשר על כללי סחר חדשים גורפים לטיפול במערכות קבלת החלטות ומעקב אוטומטיות.
האיחוד האירופי היה אגרסיבי יותר, והציע את חוק הבינה המלאכותית , המקווה שיאושר השנה. הוא יכסה את כל מוצרי ושירותי הבינה המלאכותית, יסווג אותם לפי רמת הסיכון הנתפסת שלהם ויחיל הערכות קפדניות וכללי תאימות נתונים על אלו בעלי סיכון גבוה יותר. מפרים את החוק יעמדו בפני קנסות כבדים.
בריטניה נקטה במה שהיא מכנה בלשון נקייה " גישה פרו-חדשנות ". במקום למנות רגולטור חדש יחיד לבינה מלאכותית, היא תחלק את האחריות על ויסות הבינה המלאכותית בין הרגולטורים הקיימים ולא תיתן להם בתחילה סמכויות משפטיות חדשות לעשות זאת.
בעוד פוליטיקאים הולכים על החבל הדק בין אתיקה לתועלת כלכלית, עתיד הבינה המלאכותית תלוי על הכף. דבר אחד בטוח: להשאיר את זה לחברות הטכנולוגיה לבדן לפעול באחריות יהיה...חוסר אחריות.
