💡 Zhrnutie pre tých, ktorí rýchlo scrollujú:
- TikTok podľa analýzy zaplavuje AI-generovaný obsah.
- Takmer 60 percent videí pre nových používateľov tvorí takzvaný AI slop.
- Najviac zasiahnutá je kategória obsahu pre deti.
- Odborníci varujú pred dezinformáciami aj vplyvom na vývoj mladých ľudí.
Otvoríš TikTok, začneš scrollovať a o pár sekúnd sleduješ hovoriace zvieratá či ovocie, neexistujúcich ľudí alebo zvláštne animácie, ktoré pôsobia ako sen po vysokej horúčke. Problém je, že čoraz väčšia časť takéhoto obsahu nevzniká v hlavách tvorcov, ale v algoritmoch umelej inteligencie, píše portál Futurism.
Podľa novej analýzy spoločnosti Kapwing, ktorá sa venuje úprave videí, tvorí takmer 60 percent videí zobrazovaných novým používateľom na stránke For You takzvaný AI slop - lacno vytvorený obsah generovaný umelou inteligenciou, ktorého cieľom je najmä zbierať pozornosť a zobrazenia. To je približne trojnásobne viac, než dostávajú noví používatelia na YouTube.
Najväčší problém sú deti
Výskumníkov najviac znepokojila kategória obsahu určená deťom. Hashtag #cartoonkids bol podľa analýzy prakticky úplne ovládnutý AI videami. „Takmer celý obsah pod hashtagom tvoril AI balast. Zo 100 videí, ktoré sme skontrolovali, boli iba tri vytvorené ľuďmi,“ uviedla spoločnosť Kapwing.
Situáciu zhoršuje aj samotný algoritmus. Ak používateľ naznačí, že ho AI obsah zaujíma, aplikácia mu začne servírovať ešte viac podobných videí. Vzniká tak uzavretý kruh, v ktorom algoritmus neustále posilňuje to, čo už používateľ sleduje.
Kritici upozorňujú, že deti a tínedžeri sú vystavení obrovskému množstvu nekvalitného obsahu, ktorý môže negatívne vplývať na ich schopnosť sústrediť sa a rozlišovať medzi realitou a fikciou. Súčasne sa rozširujú aj fotorealistické deepfaky, ktoré dokážu vytvoriť presvedčivé falošné videá politikov, celebrít či bežných ľudí a stávajú sa nástrojom na šírenie dezinformácií.
Nie je to len problém TikToku
Podobný vývoj zasiahol aj Facebook a Instagram. Sociálne siete spoločnosti Meta dnes zapĺňajú bizarné AI obrázky a videá, pri ktorých je často náročné určiť, či ich vytvoril človek alebo stroj. TikTok sa snaží situáciu aspoň čiastočne riešiť. Používatelia si môžu upraviť množstvo AI obsahu vo svojom feede.
„Vieme od našej komunity, že mnohí ľudia majú radi obsah vytvorený pomocou AI nástrojov, od digitálneho umenia až po vedecké vysvetlenia. Chceme im preto dať možnosť rozhodnúť sa, či chcú takéhoto obsahu vidieť viac alebo menej podľa vlastných preferencií,“ povedala pre The Guardian Jade Nester, európska riaditeľka verejnej politiky pre bezpečnosť a ochranu súkromia v TikToku.
Otázkou zostáva, či to bude stačiť. Technológia napreduje tak rýchlo, že rozlíšiť realitu od výtvorov umelej inteligencie je čoraz náročnejšie. Ako nedávno upozornil The New York Times, dokonca aj Hany Farid, považovaný za jedného z najväčších expertov na deepfaky na svete, „už prestal dôverovať vlastným očiam“.
