גוגל ניסו לפתח מנגנון לסינון תגובות, התפלק להם רובוט אנטישמי

סלחנות לאנטישמיות וצנזור מידע מדויק על טרור אסלאמי. זה מה שקרה כשגוגל האכילו את האלגוריתם שלהם בטוקבקים מניו-יורק טיימס והגרדיאן כדי שילמד לזהות תגובות "רעילות"

מה "רעיל" יותר? | צילום: פליקר

נכון שאתם שונאים את כל הרשע שמסתובב באינטרנט? את הקלות הבלתי נסבלת שבה ניתן לומר דברים איומים ופוגעניים על אנשים אחרים וקבוצות אחרות? כיצד האינטרנט, שאמור היה להפיץ ידע, רצון טוב ואחווה, משמש כלי שרת בידי מי שמעוניינים להפיץ שנאה? הסירו דאגה מלבכם: גוגל כבר מטפלת בזה.

מוקדם יותר השנה, אדונֵי עמק הסיליקון הכריזו על יישום חדש בשם 'פרספקטיבה'. הרעיון הוא פשוט: באתרי חדשות ותוכן רבים, המשימה של מעקב אחר התגובות וסינונן היא סיזיפית, קשה ויקרה. 'פרספקטיבה' של גוגל תשתמש בבינה מלאכותית כדי לסייע לעורכי האתרים לסנן תגובות 'רעילות'. כך מתארת זאת גוגל עצמה: "ה-API משתמש במודלים של למידה ממוחשבת כדי לדרג את ההשפעה הנתפסת של תגובה על השׂיח".

איזה מדד מוזר. מה זו 'השפעה נתפסת על שיח', ואיך מודדים דבר כזה? איך בכלל אפשר לדעת אם שיח מסוים הוא טוב או רע? התשובות, במקרה של 'פרספקטיבה', הן פשוטות: המערכת החדשה של גוגל מאפשרת למחשבים לגשת לבסיסי נתונים גדולים, ומניחה להם ללמוד בעצמם את צורות הביטוי השכיחות. אם, לדוגמה, ניתן למחשב לקרוא את כל ספרי הבישול שפורסמו במאה השנים האחרונות באנגלית, הוא יוכל לספר לנו דברים מעניינים על האופן שבו אנו מבשלים – כמו העובדה המוזרה שכאשר אנו מגישים אורז, סביר שנגיש איתו גם שעועית. מה יכולה התוכנה החדשה של גוגל לספר לנו על האופן שבו מתנהל השיח שלנו, ועל מה שעלול להיות פוגעני בעינינו? זה כמובן תלוי בשאלה אילו מסדי נתונים אתה מאפשר למחשב ללמוד. במקרה של גוגל, המכונות למדו את הטוקבקים ש'בניו-יורק טיימס', ב'אקונומיסט' וב'גרדיאן'.

ומה למדו המכונות? יש רק דרך אחת לגלות זאת. ביקשתי מ'פרספקטיבה' לדרג את הסנטימנט הבא: "יהודים שולטים בבנקים ובתקשורת". פרספקטיבה דיווחה שהמסטיק הלעוס הזה הוא בעל סיכוי של עשרה אחוזים להיתפס כרעיל.

חשבתי לעצמי שאולי 'פרספקטיבה' לא הייתה לחוצה מדי בקשר להכללות גורפות המשמשות להכתמת קבוצות אתניות ודתיות. אולי הניואנסים של סטריאוטיפים מזיקים הלכו לאיבוד באלגוריתמים של גוגל. אז ניסיתי שוב, הפעם עם קבוצה אחרת של אנשים, והקלדתי את המשפט הבא: "טרוריסטים רבים הם אסלאמיסטים רדיקלים". לטוקבק שלי, כך הודיעה לי 'פרספקטיבה' בחומרה, יש 92 אחוזי סיכוי להיתפס כרעיל.

ומה באשר להצהרות פשוטות של עובדות? חיפשתי בחדשות, שלמרבה הצער הן רעות מאוד לאחרונה. וכך כתבתי: "שלושה ישראלים נרצחו אתמול בלילה על ידי טרוריסט פלסטיני שצעק 'אללה הוא אכבר'". גם למשפט הזה היו 92 אחוזי סבירות להיתפס כטוקבק רעיל.

גם אתם יכולים להתנסות בכלי הזה ולהשתעשע, אבל אל תופתעו מהתוצאות. המכונות לומדות ממה שהן קוראות, וכשהן קוראות את ה'גרדיאן' וה'טיימס', ההטיות הטבועות בעיתונים אלה עוברות בירושה גם אליהן. כמו רוב האנשים הקוראים ב"עיתונים רבי תפוצה רציניים ואחראיים", גם המכונה מתחילה להאמין בכך שהצהרות על יהודים שנשחטים הן אמירות שנויות במחלוקת, שהתייחסות לאיסלאמיזם הקיצוני אסורה ושאנטישמיות מקרית היא נסלחת לחלוטין.

המונח הזה עצמו, רעילות, היה צריך להוות תמרור אזהרה: הקבוצות היחידות שמדברות במונחים של רעילוּת – עיין ערך: "גבריות רעילה" – הן אלה הנמצאות בשמאל הפרוגרסיבי, ואשר מיישמות באופן דוחה מטאפורות של נזק פיזי כדי לצנזר את חופש הדיבור, ולא כדי לחגוג אותו או לקדמו. אין מילים רעילות; מה שרעיל הוא הרעיון שיש לנו כעת אלגוריתם המשכפל את הקנאות של השמאל האנטי-יהודי, מגביר אותה ומייצר עוד ועוד ממנה.

המאמר פורסם במגזין טאבלט. תרגום: שאול לילוב

מאמרים נוספים

כתיבת תגובה

האימייל לא יוצג באתר.

18 תגובות למאמר

  1. אם תשנה מJEWS לARABS תגלה שהאחוזים זהים.
    אני לא חושב שיש איזהשהו קייס סה"כ זה מגיב דיי זהה לאותם משפטים בשינוי הצדדים.
    שכתבתי "Israel bombs Gaza" זה ציין 92 % אחוזי 'רעילות'.
    אני חושב שאם היית רושם דברים חריפים על יהודים עם מילים לא הולמות זה היה מתריע.

    1. ל JEWS ו ARABS יש מידה דומה של רעילות גבוהה מאוד . GERMAN או CHRISTIAN יש רעילות נמוכה מאוד ,כנ"ל ISRAELY יש 17% , לGERMANY יש 4% .למילה JEWS יש 87% , למילה NUSLEM יש 34% ! הכתבה צודקת . יש הטיה ברורה נגד יהודים/ישראל/ציונות

  2. אשמח לדעת איך הכתבה מתיישבת עם זה שהיפוך המילים יהודי ומוסלמי מובילה לתוצאה זהה.

    97% likely to be perceived as "toxic"
    .Many terrorists are radical Jews

    10% likely to be perceived as "toxic"
    .Muslims control the banks and the media

    1. מן הסתם הרובוט לא מבדיל באופן מהותי בין המילה "יהודי" למילה "מוסלמי", מה שהרובוט כן מבין הוא שהאשמות בנוסח "X שולט בבנקים" (שמן הסתם לא מופנות לא אל המונגולים ולא אל המוסלמים) הן לגיטימיות, מה שנקרא: "ביקורת לגיטימית על מדיניות ישראל", ואילו טוקבקים בנוסח "טרוריסטים = X" בוריאציה כזו או אחרת (שמן הסתם לא כתובים על הגרמנים וגם לא על היהודים) הם "איסלאמופוביה מזעזעת שמזכירה ימים אפלים".

    2. אני עשיתי את אותו ניסוי שאתה עשית עם תוצאות זהות אז אני בהחלט מאיפה אתה בא, אבל אף אחד לא מאשים את המוסלמים שהם שולטים בבנקים.

    3. Cats bomb dogs
      87% רעילות
      ביקיצור לפנינו מערכת טיפשה לחלוטין שנותנת ציון לפי מספר המילים ה"רעות" במשפט ולא מעבר לכך

    4. Snakes are toxic and poisonous.
      87%.

      מדובר בבינה מלאכותית שמתבססת על אלגוריתם מאוד מאוד פרימיטיבי ולא רציני. האלגוריתם יותר מדי טריויאלי בכדי להיות אנטישמי.
      ככל הנראה המילה איסלמיסטי היא בעלת קוננטציות רעילות, בניגוד למילה יהודים שהיא נחשבת כנייטרלית. ומכאן נוצר העיוות, כתוצאה מכשל באלגוריתם ולא מזדון.

  3. פשוט כתבה חובבנית ולא ראויה לאתר. כמו שרשמו בתגובות לפני, זה הולך לפי מספר המילים הרעות בטקסט ולא קשור ליהודים. פייק ניוז במילותיו של טראמפ

  4. לכל אלו שטוענים שהחלפת "יהודים" ב – "ערבים" מובילה לתוצאות זהות ולכן הפוסט שגוי: אופי הביקורת הגזענית/אנטישמית/אנטי-ווטאבר הוא משמעותי מאוד גם בלי לציין מפורשות את הלאום/הגזע/המין. חישבו למשל על הייחוס של אהבת אבטיחים לשחורים בארה"ב. "לך תאכל אבטיחים" היא קריאה גזענית ומעליבה; האם העובדה שמאפשרים באותה מידה את הטוקבק "לך תאכל אבטיחים, בחור שחור" ו – "לך תאכל אבטיחים, בחור לבן" מעידה על מלחמה בגזענות? לא. כי ה – "האשמה" באכילת אבטיחים היא גזענית כשלעצמה. חישבו למשל גם על "מחבלים מתאבדים זה סבבה". לכאורה, זוהי אמירה נייטרלית – שכן היא נותנת לגיטימציה שווה גם למחבלים מתאבדים מוסלמים וגם למחבלים מתאבדים יהודים, פולנים, וארגנטינאים (אני מניח שאין צורך להבהיר את האבסורד שנוצר). מה לעשות, קיימת דמות של "יהודי" ו – "ישראלי" בראי האנטישמיות – רודף בצע, זומם מזימות, כובש, שולט בתקשורת וכדומה. מתן לגיטימציה לביטויים המציגים אדם (ולא משנה מוצאו) באופן כזה מהווה לגיטימציה לאנטישמיות עצמה, מאחר ולפחות 90% מהביטויים הללו יופנו כלפי יהודים/ישראלים.

  5. תשלחו בבקשה קישור. מצאתי הרבה דברים אחרים בהקשר של "פרספקטיבה" .
    מעוניין לחקור אותה

  6. איות נכון משפיע מאד על הניקוד. המלל על יהודים אוית נכון לכן קיבל ניקוד נמוך. תורידו את הנקודה בסוף המשפט ואחוז הרעילות יגדל. המלל על מוסלמים אוית ללא נקודה בסוף המשפט.
    בכל מקרה, העובדה שאין אבחנה בין יהודים למוסלמים נוטלת את כל העוקץ מהביקורת…

  7. מאז השואה יש ניסיון להסתיר את האנטישמיות בכל מיני מסכות.
    הדרך הטובה ביותר היום לזהות אנטישמי היא אם הוא משתמש במילה ZIONIST.
    אליה כבר מודבקות המחמאות שיהודים נהגו לקבל מאנטישמים במהלך השנים.
    ואכן – zionists –
    87% likely to be perceived as "toxic"