💡 Zhrnutie pre tých, ktorí rýchlo scrollujú:
- AI mala byť použitá na vytváranie dôkazového materiálu.
- Policajt z anglického Derbyshire bol postavený mimo služby.
- Ide o prvý známy prípad svojho druhu v Spojenom kráľovstve.
- Experti už predtým varovali pred halucináciami generatívnej AI.
Polícia po celom svete čoraz viac využíva umelú inteligenciu. Má zrýchľovať vyšetrovania, pomáhať pri identifikácii podozrivých a zvyšovať úspešnosť pri riešení prípadov. Technológia však prináša aj nové problémy, píše portál Futurism.
Po viacerých prípadoch nesprávnych zatknutí spôsobených systémami na rozpoznávanie tvárí sa objavil ešte znepokojivejší scenár - nie situácia, keď sa algoritmus pomýli, ale keď človek technológiu údajne využije na vytváranie dôkazov.
Vyšetrovanie bez mena, ale s vážnymi podozreniami
Britská BBC informovala, že úrady v grófstve Derbyshire vyšetrujú policajta, ktorý mal podľa podozrení použiť generatívnu umelú inteligenciu na „vytvorenie dôkazového materiálu vo viacerých prípadoch“. Meno policajta nebolo zverejnené a zadržaný zatiaľ nebol, no je postavený mimo služby až do ukončenia vyšetrovania.
„Bolo spustené trestné vyšetrovanie pre podozrenie z marenia spravodlivosti po údajnom použití systémov umelej inteligencie policajtom na vytváranie dôkazového materiálu vo viacerých prípadoch,“ uviedol hovorca polície v Derbyshire pre Financial Times.
Varovania prišli len pred pár dňami
Prípad je o to zaujímavejší, že prichádza len niekoľko dní po tom, ako nové britské národné centrum PoliceAI vydalo odporúčanie, aby policajti nepoužívali generatívnu AI pri príprave vyhlásení pre súdy. Dôvodom sú takzvané halucinácie, teda situácie, keď si model jednoducho vymyslí informácie.
„Niektorým policajným zborom sme povedali: toto robiť nemôžete, pretože ešte neprešli všetky potrebné kontroly a overenia. Musíme trochu spomaliť,“ povedal pre Financial Times šéf centra PoliceAI Alex Murray.
Nie chyba systému, ale človeka
V minulosti sa už objavili prípady policajných správ obsahujúcich absurdné AI výmysly. V americkom Utahu sa napríklad v jednom dokumente objavila pasáž naznačujúca, že sa policajt premenil na žabu.
Vyšetrovanie v Derbyshire však podľa dostupných informácií pôsobí oveľa vážnejšie. Skôr pripomína prípad z amerického štátu Maine, kde polícia zverejnila fotografie z protidrogovej akcie, ktoré podľa kritikov niesli jasné známky úprav vytvorených generatívnou umelou inteligenciou.
