💡 Zhrnutie pre tých, ktorí rýchlo scrollujú:
- 13-ročný študent z Floridy sa spýtal ChatuGPT, ako zabiť kamaráta.
- Školský systém Gaggle to okamžite nahlásil polícii.
- Chlapec tvrdil, že išlo o žart, no skončil v putách.
- Prípad otvára diskusiu o tom, kam až siaha školský online dohľad.
Incident sa odohral v meste Deland na Floride, kde 13-ročný študent zo Southwestern Middle School údajne použil školský počítač, aby sa cez ChatGPT opýtal, „ako zabiť kamaráta uprostred hodiny“. Systém, ktorý monitoruje všetky online aktivity študentov, okamžite spustil alarm, píše portál Gizmondo.
Prevádzkuje ho spoločnosť Gaggle, ktorá dodáva podobné bezpečnostné riešenia pre školy po celých Spojených štátoch. Podľa miestnej televízie WFLA polícia tínedžera rýchlo vypátrala a vypočula. Študent vyšetrovateľom povedal, že „len trollil kamaráta, ktorý ho otravoval“.
Polícia však nebola nadšená. „Ďalší ‘vtip’, ktorý vyvolal poplach na škole,“ uviedla kancelária šerifa Volusia County. „Rodičia, prosíme, porozprávajte sa so svojimi deťmi, aby neurobili rovnakú chybu.“ Chlapec bol nakoniec zadržaný a umiestnený do väzby, no zatiaľ nie je jasné, aké obvinenia voči nemu padli.
Školský dohľad alebo digitálne väzenie?
Spoločnosť Gaggle sa opisuje ako bezpečnostné riešenie pre žiakov základných a stredných škôl. Na svojom blogu uvádza, že využíva monitoring webového správania a analyzuje kľúčové slová (napr. „kill“), aby mala „prehľad o používaní prehliadača vrátane rozhovorov s AI nástrojmi ako Google Gemini či ChatGPT“.
Ak systém zachytí niečo podozrivé, okamžite to nahlási a priloží aj snímky obrazovky. Na webe spoločnosti sa pritom otvorene píše, že študenti by pri školských zariadeniach nemali očakávať žiadne súkromie.
„Keď vaše dieťa používa technológiu poskytnutú školou, nemalo by očakávať súkromie. Školy sú zo zákona povinné chrániť deti pred prístupom k škodlivému obsahu,“ uvádza Gaggle.
Deti vyrastajú pod dohľadom
Nie všetci však s týmto prístupom súhlasia. „Gaggle bežne umožňuje prítomnosť a prístup polície do života študentov, dokonca aj v ich domácnostiach,“ povedala Elizabeth Laird, riaditeľka z Center for Democracy and Technology, pre agentúru Associated Press.
Podľa nej mnohé „bezpečnostné“ upozornenia končia ako falošné poplachy, no aj tie môžu viesť k vyšetrovaniu či dokonca zatknutiu.
AI ako nová premenná v krízových prípadoch
Nie je to prvý raz, čo sa chatbot ako ChatGPT objavil v trestnom prípade. V posledných mesiacoch pribúdajú situácie, keď ľudia s psychickými problémami komunikujú s umelou inteligenciou, ktorá ich ilúzie alebo depresie ešte zhoršuje. Odborníci tento fenomén nazývajú „AI psychóza“.
Niekoľko samovrážd po svete už bolo podľa médií priamo spájaných s chatbotmi. Prípad z Floridy tak otvára dôležitú otázku, ako by mali školy a spoločnosť chrániť deti pred hrozbami digitálneho sveta bez toho, aby ich premenili na objekty permanentného dohľadu.