Algoritmy sociálnych sietí automaticky potláčajú obsah, ktorý obsahuje citlivé slová ako „samovražda“, „znásilnenie“ alebo „sex“. Tvorcovia preto začali používať ich pozmenené varianty – mŕtvy sa mení na „unalive“, znásilnenie na „grape“ či „SA“, sex na „seggs“. Tento jazyk, označovaný ako algospeak, chráni účty pred penalizáciou, ale zároveň zásadne mení spôsob, akým sa o vážnych témach hovorí. Podľa štúdie publikovanej v Social Media + Society sa algospeak objavuje najmä v titulkoch a popisoch videí, pretože práve texty algoritmy najčastejšie vyhodnocujú, informuje portál Antiyoutuber.
Mnohí používatelia považujú tento vývoj za problematický. „Neznášam algospeak. Je ponižujúce hovoriť o tom, že niekto bol znásilnený a potom sa zabil, a previesť to na vetu ‚On sa unalivol potom, čo bol grapenutý‘,“ napísal jeden z komentujúcich na YouTube. Podľa iného tým stráca vyjadrenie váhu. „To, čo na algospeaku neznášam, je, že zľahčuje vážne témy,“ uviedol ďalší divák.
Online jazyk preniká do reálneho života
Podobná skúsenosť sa objavuje aj v offline prostredí. „Prezidentka klubu duševného zdravia na našej univerzite používa slovo ‚unalive‘ aj na oficiálnych schôdzach. Nemôžeme predsa začať hovoriť takto aj v škole,“ bolo napísané v komentári. Jazyk, ktorý mal pôvodne oklamať algoritmus, sa tak postupne presúva aj do bežnej reči.
Psychológ Jay Johnson z University of Michigan upozorňuje, že nahrádzanie výrazov môže mať nechcené dôsledky. „Eufemizmy zahmlievajú realitu. Ak mladý človek narazí na slová ako ‚unalive‘ namiesto samovraždy, nemusí si uvedomiť závažnosť témy,“ hovorí.
Kritika sa netýka len dopadu na používateľov. Podľa odborníkov sa oslabuje samotné filtrovanie. Ak nechceme vidieť obsah so slovom „samovražda“, algoritmus ho dokáže skryť. No keď sa použije výraz „unalive“, systém ho nerozpozná. „Cenzúra je ako vojna proti drogám. Nielenže nefunguje, ale situáciu ešte zhoršuje,“ ozýva sa z verejnosti.
Riešenie podľa expertov spočíva v kontextovej kontrole obsahu – algoritmy by nemali trestať použitie určitých slov, ale vyhodnocovať, či ide napríklad o vzdelávací alebo preventívny obsah. Platformy by tiež mali jasne vysvetľovať, aké pravidlá platia a prečo.
Algospeak môže mať zásadný vplyv na to, ako otvorene dokážeme hovoriť o veciach, ktoré by sa nemali zjemňovať ani obchádzať.
Najbežnejšie frázy:
- samovražda = unalive alebo „sewer slide“
- znásilnenie = grape či skratka SA
- sex = seggs
- sebaneznášanlivosť = elf ate
Objavujú sa aj zdanlivo absurdné výrazy ako le dollar bean = „lesbian“, accountant = sexuálna práca alebo panini = pandémia.