Deepfake videí a fotiek pribúda raketovým tempomUnsplash/Igor Starkov
StoryEditor

AI deepfake trend sa vymkol spod kontroly. Internetom kolujú videá pre dospelých s vyše 4-tisíc celebritami, prevažne ženami

Miroslav Kamody24.03.2024., 13:30h

Na piatich najnavštevovanejších weboch s deepfake p*rnografiou sú videá s takmer 4-tisíc celebritami, predovšetkým ženami - herečkami, speváčkami i televíznymi a internetovými osobnosťami. Zistila to britská verejnoprávna stanica Channel 4. Trpia však aj obyčajní ľudia.

Lajkuj Brainee.sk na

Termín deepfake v prípade videí pre dospelých označuje upravené videá, ktoré relatívne vierohodne imitujú hlas i vzhľad ľubovoľnej osoby za pomoci umelej inteligencie. Ide o rapídne narastajúci trend. Za prvé tri štvrtiny minulého roka vzniklo deepfake p*rnografie viac ako za všetky predchádzajúce roky dokopy.

Videá na piatich najnavštevovanejších nemenovaných weboch mali za tri mesiace 100 miliónov zhliadnutí. Na 40 najnavštevovanejších weboch podľa inej štúdie, ktorú mala stanica Channel 4 k dispozícii, mali videá za celú dobu ich existencie 4,2 miliardy zhliadnutí.

image

Zavraždili im deti, pomocou AI oživili ich hlasy. Rodičia tak volajú zákonodarcom a žiadajú ich o sprísnenie držania zbraní

Je to nezvládnuteľné

Pozornosť tento rok vzbudili explicitné deepfake fotografie speváčky Taylor Swift, ktoré na sieti X mali okolo 45 miliónov zhliadnutí, kým ich platforma odstránila. Na Facebooku a Instagrame sa zase objavili reklamy, ktoré vyobrazovali explicitné, hoci rozmazané fotografie herečky Jenny Ortega.

Na vytvorenie falošného obrazu bola použitá fotografia herečky z doby, keď mala 16 rokov. Meta, ktorá obe sociálne siete prevádzkuje, reklamu odstránila.

Hoci deepfake pornografia s celebritami je čoraz rozšírenejšia, jeho najčastejšími obeťami sú ženy, ktoré slávne nie sú. Podľa nezávislého výskumu, ktorý mal Channel 4 k dispozícii, sa na desiatich takto zameraných weboch v minulom roku šírili stovky tisíc falošných fotografií a videí vyobrazujúcich ľudí, ktorí slávni nie sú.

image

Deepfake videí a fotiek pribúda raketovým tempom

Profimedia

Trpia aj obyčajní ľudia

„Je to násilné a ponižujúce. Akoby ženy nič neznamenali, sme bezcennými kusmi mäsa. Muži môžu robiť, čo sa im zachce,” popísala svoje pocity 31-ročná Sophie Parrishová, ktorá zistila, že jej falošné nahé fotografie nahrali na internet. „Bolo mi na vracanie, doslova som išla zvracať na záchod v posilňovni,” dodala v odpovedi na otázku, ako sa cítila, keď obrázky prvýkrát videla.

Parrishová prípad nahlásila na políciu a vyšetrovatelia páchateľa zadržali, nedlho potom ho však prepustili. Šírenie falošných videí a snímok bez súhlasu vyobrazovanej osoby je v Británii od tohtoročného 31. januára nelegálne, ich tvorba však nie. Dotyčný zdieľal falošné snímky Parrishovej ešte než zákon začal platiť.

Aktivisti a niektorí právni experti v Británii tiež kritizujú Ofcom, vládny regulačný orgán dohliadajúci na vysielanie, že nedostatočne tlačí na veľké technologické spoločnosti prevádzkujúce sociálne siete, ktoré sa síce od obsahu dištancujú, ale na jeho šírení zarábajú, uvádza Channel 4.

image

Deepfake pornografické fotografie Taylor Swift zaplavili internet. Speváčka sa chce brániť žalobou, čo však môže urobiť obyčajný človek?

Na pár klikov

„Chápeme, ako poburujúci takýto obsah môže byť. Sme odhodlaní rozšíriť našu ochranu voči nemu tak, aby sme pomohli zasiahnutým osobám,” uviedla vo vyhlásení spoločnosť Google.

„Meta prísne zakazuje zobrazovanie detskej nahoty, obsahu, ktorý deti sexualizuje, aj služby, ktorá za pomoci umelej inteligencie vytvára nekonsenzuálny erotický obsah,” povedal zástupca Mety. Channel 4 oslovil 40 slávnych osobností, ktoré sa stali obeťami deepfake pornografie. Žiadna z nich vec nechcela verejne komentovať.

„Ak to raz uvidíte, nedostanete to z hlavy. Už len tú predstavu, že takto manipulovaných boli tisíce žien. Je znepokojujúce, že kliknutím tlačidla môžete toto nájsť a že ľudia vytvárajú groteskné paródie reality s úplne minimálnym úsilím,” poznamenala Cathy Newmanová, novinárka Channel 4, ktorá na reportáži pracovala a videla svoje vlastné falošné erotické video.

menuLevel = 4, menuRoute = notsorry/news/kultura/socialne-siete, menuAlias = socialne-siete, menuRouteLevel0 = notsorry, homepage = false
05. november 2024 07:01