Táto tragédia odhalila len jeden z prípadov podvodov založených na takzvanom sexuálnom vydieraní (známom tiež pod anglickým označením sextortion), ktoré sa zameriavajú na deti po celom svete. Umožňuje ich rýchle šírenie takzvaných vyzliekacích aplikácií, ktoré využívajú AI, aby digitálne „zvliekli” svoju obeť alebo vytvorili sexualizované snímky.
Šestnásťročný Elijah Heacock bol jedným z tisícok amerických maloletých, ktorí sa stali terčom podobného digitálneho vydierania. Teraz silnejú hlasy vyzývajúce na väčší zásah zo strany technologických platforiem a regulačných orgánov.
Elijahovi rodičia americkým médiám oznámili, že mu textové správy nariaďovali zaplatiť, inak jeho príbuzní a priatelia dostanú jeho nahou fotku, ktorá bola zrejme generovaná umelou inteligenciou.
Alarmujúci nárast samovrážd
„Ľudia, ktorí idú po našich deťoch, sú dobre organizovaní,” povedal dnes v rozhovore v televízii CBS News chlapcov otec John Burnett. „Majú dostatok finančných prostriedkov a sú neúprosné. Nepotrebujú, aby fotografie boli skutočné, môžu generovať, čo chcú, a potom to použijú na vydieranie dieťaťa,” dodal.
Americkí vyšetrovatelia prípad preverujú. Podľa polície ide o súčasť širšieho kriminálneho trendu, keď sa vyzliekacie aplikácie, ktoré pôvodne cielili predovšetkým na celebrity, čoraz častejšie zneužívajú proti deťom.
Federálny úrad pre vyšetrovanie (FBI) informoval o desivom náraste počtu prípadov sexuálneho vydierania zameraného proti americkým maloletým. Obeťami sú zvyčajne chlapci vo veku 14 až 17 rokov. Vyhrážky už viedli k „alarmujúcemu počtu samovrážd”, varovala FBI.
Nezisková organizácia Thorn, ktorá sa zameriava na prevenciu zneužívania detí na internete, v nedávnom prieskume zistila, že priamou obeťou falošných nahých fotografií sa stalo šesť percent amerických tínedžerov.
Už nepotrebujú skutočné fotky
„Správy o falošných a upravených snímkach, z ktorých mnohé sú generované pomocou týchto ‘vyzliekacích aplikácií‘, sa zdajú byť úzko spojené so správami o vydieraní s pomocou sexuálne explicitných obrázkov,” uviedla vo svojej minuloročnej správe britská organizácia Internet Watch Foundation (IWF).
„Páchatelia už nemusia získavať intímne fotky od detí, pretože obrázky, ktoré sú dostatočne presvedčivé, aby boli škodlivé – v niektorých prípadoch možno dokonca rovnako škodlivé ako skutočné fotky – možno vytvoriť pomocou generatívnej umelej inteligencie,” dodala IWF.
Tej sa podarilo na internete nájsť „pedofilnú príručku”, ktorá priamo vyzývala páchateľov, aby používali vyzliekacie aplikácie na vytváranie snímok, s ktorými budú môcť deti vydierať. Autor príručky tvrdil, že týmto spôsobom úspešne vydieral niekoľko 13-ročných dievčat.
Lukratívny biznis
Nástroje slúžiace na vytváranie falošných nahých snímok sú lukratívny biznis. Nová analýza 85 webových stránok, ktoré predávajú podobné aplikácie či programy, ukázala, že ich celková hodnota môže dosahovať až 36 miliónov dolárov ročne. Analýza spoločnosti Indicator, ktorá sa zaoberá digitálnymi podvodmi, potom ukazuje, že 18 týchto webov zarobilo za šesť mesiacov do tohtoročného mája od 2,6 milióna do 18,4 milióna dolárov.
Väčšina webov využíva na prevádzku technologickú infraštruktúru spoločností Google, Amazon a Cloudflare a zostáva zisková aj napriek zásahom platforiem a regulačných orgánov, uviedla spoločnosť Indicator.
Rozšírenie nástrojov umelej inteligencie vedie k novým formám zneužívania detí alebo šikany, vrátane pornografických škandálov na univerzitách a školách po celom svete, kde tínedžeri vytvárali sexualizované obrázky svojich spolužiakov.
Nedávny prieskum organizácie Save the Children zistil, že každý piaty mladý človek v Španielsku sa stal obeťou falošných nahých fotografií, ktoré bez jeho súhlasu začali kolovať online. Na začiatku tohto roka španielski štátni žalobcovia oznámili, že vyšetrujú tri maloleté osoby v meste Puertollano. Dotyční s pomocou AI údajne vytvárali pornografický obsah zameraný na ich spolužiakov a učiteľov, a šírili ho vo svojej škole.
Zmena legislatívy po celom svete
Vo Veľkej Británii vláda tento rok zaradila vytváranie sexuálne explicitných falošných snímok či videí medzi trestné činy. Usvedčeným páchateľom za ne hrozia až dva roky väzenia. Podobný zákon podpísal tento rok v máji tiež americký prezident Donald Trump. Na jeho základe je trestné zverejňovanie intímnych obrázkov bez súhlasu danej osoby. Zákon zároveň nariaďuje ich odstránenie z online platforiem.
Napriek všetkým opatreniam ale weby ponúkajúce vyzliekacie aplikácie a podobné služby nemiznú. Boj s nimi je podľa odborníkov ako snaha useknúť chobotnici neustále dorastajúce chápadlá.