💡 Zhrnutie pre tých, ktorí rýchlo scrollujú:
- ChatGPT mal podľa vyšetrovateľov pomáhať pri plánovaní dvoch vrážd.
- Obvinená žena sa mala pýtať na riziká kombinácie liekov a alkoholu.
- Experti upozorňujú na slabé bezpečnostné zábrany umelej inteligencie.
- Tlak na technologické firmy po ďalších tragédiách rastie.
Predstav si, že sa vyšetrovateľom dostane do rúk tvoj chat s umelou inteligenciou. A zrazu z neho čítajú otázky o tom, čo sa stane, ak niekto zmieša lieky na spanie s alkoholom.
Presne to sa podľa médií The Korea Herald a BBC stalo v Južnej Kórei. 21-ročná žena s priezviskom Kim je obvinená z toho, že zavraždila dvoch mužov tak, že im podala nápoje s benzodiazepínmi, ktoré jej boli predpísané na liečbu duševného ochorenia. Vyšetrovatelia tvrdia, že ešte pred smrťou obetí sa mala na ChatGPT opakovane pýtať na riziká podávania týchto liekov.
Smrtiace otázky
„Čo sa stane, ak si vezmete lieky na spanie s alkoholom?“ mala sa údajne opýtať. „Aké množstvo je považované za nebezpečné?“ A tiež: „Môže to byť smrteľné?“
Najprv ju 11. februára zatkli pre podozrenie zo spôsobenia ujmy na zdraví s následkom smrti. Neskôr však obvinenie sprísnili na dve vraždy. Dôvod? Digitálna aktivita, ktorá podľa vyšetrovateľov naznačuje úmysel.
„Kim opakovane kládla otázky súvisiace s drogami na ChatGPT,“ uviedol vyšetrovateľ podľa The Korea Herald. „Plne si uvedomovala, že konzumácia alkoholu spolu s liekmi môže viesť k smrti.“
Dve noci v moteli
Prvý útok sa mal stať 28. januára. O 21 :24 mala Kim vstúpiť do motela v štvrti Suyu-dong s mužom vo veku okolo 20 rokov. O dve hodiny neskôr odišla sama. Na druhý deň o 18:00 ho našli mŕtveho na posteli. Podobný scenár sa mal zopakovať 9. februára v inom moteli, opäť s mužom vo veku okolo 20 rokov.
Podľa vyšetrovateľov sa už v decembri pokúsila otráviť aj svojho vtedajšieho partnera. V parkovisku pri kaviarni v meste Namyangju mu mala podať nápoj so sedatívami. Muž stratil vedomie, no prežil. Kim priznala, že lieky zmiešala do nápojov, no poprela úmysel zabíjať.
Keď sa chatbot stane spolupáchateľom
Tento prípad je ďalším varovaním, ako môžu byť chatboty využívané v období pred násilnými činmi či sebapoškodzovaním. Odborníci dlhodobo kritizujú slabé a nespoľahlivé bezpečnostné mechanizmy, ktoré je možné cielene alebo postupne obchádzať. V dlhších konverzáciách sa tak môže stať, že umelá inteligencia poskytne aj inštrukcie k nebezpečným aktivitám.
Problémom sú aj takzvané prívetivé odpovede umelej inteligencie, ktoré môžu posilňovať bludy či psychickú nestabilitu. Niektorí experti hovoria o fenoméne s názvom AI psychóza. V niektorých prípadoch to skončilo samovraždou alebo vraždou.
Wall Street Journal nedávno informoval, že automatický systém spoločnosti OpenAI označil znepokojujúce konverzácie 18-ročného mladíka z Britskej Kolumbie ešte pred tým, než spáchal masovú streľbu. Zamestnanci vraj navrhovali upozorniť úrady, no vedenie sa tak nerozhodlo. Pri útoku zahynulo osem ľudí vrátane páchateľa Jesseho Van Rootselaara.
Prípad z Južnej Kórey tak neprináša len otázku individuálnej viny. Otvára aj širšiu debatu o tom, akú mieru zodpovednosti majú niesť technologické firmy za to, čo sa deje v ich digitálnych produktoch.
