השיח באינטרנט בכלל ובמדיה החברתית בפרט, הוא רעיל. הוא מלא בפילוג, בהסתה, בגזענות, יש בו עידוד למעשי אלימות ולטרור, מיזוגיניה, הומופוביה ועוד. גוגל, פייסבוק, טוויטר וחברות אחרות מפתחות אלגוריתמים שמנסים לאתר ביטויים שנכנסים לקטגוריות השנאה השונות ואז לחסום אותם בזמן אמת, אבל הגולשים מוצאים דרכים יצירתיות לעקוף אותם והיצירתיות הזו מייצרת השלכות בלתי צפויות. בכתבה שפורסמה באחרונה ב"וושינגטון פוסט" נטען שבאינטרנט מתפתחת שפה חדשה שכל מטרתה לאפשר לאנשים להתבטא כך שהאלגוריתמים לא יחסמו אותם. לשפה הזו קוראים "אלגו-ספיק".

קישורים:

הפרויקט של GIFCT

https://slate.com/technology/2020/08/gifct-content-moderation-free-speech-online.html

בינה מלאכותית לא תוכל לנקות את האינטרנט

https://journals.sagepub.com/doi/full/10.1177/2053951720920686

מערכת הסינון של גוגל עדיין לא מבינה שנאה

https://qz.com/918640/alphabets-hate-fighting-ai-doesnt-understand-hate-yet/

"אלגו-ספיק" משנה את האופן שבו אנשים מתבטאים

https://www.washingtonpost.com/technology/2022/04/08/algospeak-tiktok-le-dollar-bean/

צנזורה אלגוריתמית: כוח והתנגדות מאת ג'ניפר קוב

https://link.springer.com/article/10.1007/s13347-020-00429-0

הדוח שהוגש לאיחוד האירופי