💡 Zhrnutie pre tých, ktorí rýchlo scrollujú:
- Až 42 percent detí používa AI chatboty ako „digitálnych spoločníkov“.
- Z nich 37 percent rieši v konverzáciách násilie, často aj sexuálne.
- Najrizikovejšia skupina sú 11-ročné deti.
- Trh s AI chatbotmi je prakticky neregulovaný a kontrola stojí najmä na rodičoch.
Nová správa spoločnosti Aura, ktorá sa zaoberá digitálnou bezpečnosťou, odhaľuje znepokojivý pohľad na to, ako deti používajú AI chatboty. Výskumníci analyzovali anonymizované dáta z online aktivít približne 3 000 detí vo veku od päť do 17 rokov, ktorých rodičia využívajú rodičovskú kontrolu, a doplnili ich prieskumami, píše portál Futurism.
Výsledok? Až 42 percent neplnoletých sa obracia na AI chatboty vyslovene kvôli „spoločnosti“, teda konverzáciám, ktoré napodobňujú reálne sociálne interakcie alebo roleplay scenáre. Do analýzy pritom vstupovalo takmer 90 rôznych chatbotových služieb, od známych platforiem ako Character.AI až po menej známe „AI companion“ aplikácie.
Násilie ako hlavný motor záujmu
Z detí, ktoré používajú umelú inteligenciu ako spoločníka, 37 percent viedlo konverzácie s násilným obsahom. Výskumníci násilie definovali ako interakcie s témami fyzického ubližovania, agresie, nátlaku alebo donucovania, vrátane sexuálneho aj nesexuálneho násilia.
Polovica týchto násilných konverzácií pritom obsahovala témy sexuálneho násilia. Správa dodáva, že deti zapojené do takýchto rozhovorov písali chatbotom viac než tisíc slov denne. Podľa autorov to naznačuje, že práve násilie je mimoriadne silným faktorom, ktorý zvyšuje mieru zapojenia.
Máme pred sebou obrovský problém
Správa ešte čaká na odborné recenzovanie a vznikla v prostredí firmy, ktorá predáva rodičovský dohľad, čo si sama priznáva. Aj tak však upozorňuje na chaotický stav trhu s AI chatbotmi a na to, ako málo rozumieme tomu, ako ich mladí ľudia reálne používajú.
„Máme pred sebou pomerne veľký problém, ktorého rozsah podľa mňa ešte úplne nechápeme,“ povedal pre portál Futurism klinický psychológ Scott Kollins, hlavný medicínsky riaditeľ Aura. „Ide o množstvo platforiem, na ktoré sa deti dostávajú, aj o samotný obsah.“
Podľa neho chatboty pútajú oveľa viac pozornosti detí, než si dospelí uvedomujú. „Tieto veci si nárokujú oveľa viac pozornosti našich detí, než si myslíme alebo priznáme. Musíme ich sledovať a uvedomovať si to,“ dodal.
Najviac ohrození sú prekvapivo mladí
Jedno z najšokujúcejších zistení výskumu sa týka veku. Vrchol násilných konverzácií nastáva už u 11-ročných detí, kde až 44 percent interakcií nadobudlo násilný charakter.
Sexuálne a romantické roleplaye zas kulminujú u mierne starších detí. Až 63 percent konverzácií 13-ročných obsahovalo flirtovanie, náklonnosť alebo explicitný sexuálny obsah.
Súdne spory a digitálny divoký západ
Výskum prichádza v čase, keď sa súdmi preháňajú viaceré žaloby proti chatbotovým platformám. Character.AI, platforma prepojená s Googlom, čelí žalobám rodičov, ktorí tvrdia, že jej chatboty sexuálne a emocionálne zneužívali deti, čo viedlo k psychickým kolapsom a samovraždám.
Aj OpenAI čelí žalobám v súvislosti s úmrtiami tínedžerov po intenzívnych interakciách s ChatGPT. Dôležité je, že problematické interakcie sa neobjavujú len na pár známych platformách. AI priemysel je prakticky neregulovaný a zodpovednosť za bezpečnosť detí tak ostáva najmä na rodičoch.
Aura identifikovala viac než 250 rôznych konverzačných chatbotových aplikácií, ktoré sa dajú bežne nájsť v obchodoch s aplikáciami. Vo väčšine prípadov stačí, aby dieťa zaškrtlo políčko, že má viac než 13 rokov.
Neexistujú pritom jasné zákony, ktoré by určovali bezpečnostné štandardy pre AI platformy určené deťom. Ak jedna služba sprísni pravidlá, okamžite ju môže nahradiť iná s minimálnymi obmedzeniami. V tomto digitálnom Divokom západe je vstupná bariéra mimoriadne nízka.
Deti nie sú len pasívni diváci
Násilný či sexuálny obsah na internete nie je novinkou a deti sa k nemu dostávali aj v minulosti. Rozdiel je v tom, že chatboty sú interaktívne. Deti nie sú len divákmi, ale aktívnou súčasťou príbehu.
„Musíme si otvorene priznať, že naše deti s týmito vecami interagujú a učia sa pravidlá správania,“ povedal Kollins pre Futurism. „Učia sa, ako komunikovať s niekým - s počítačom, s botom. Netušíme, aké to bude mať dôsledky, ale musíme ich pomenovať, aby sme ich dokázali skúmať a pochopiť.“