Rodičia tínedžera, ktorý bol zabitý pri streľbe na floridskej škole v Parklande v roku 2018, spustili nový odvážny projekt s názvom The Shotline, aby lobovali za prísnejšie zákony o zbraniach v krajine. The Shotline používa umelú inteligenciu (AI) na obnovenie hlasov násilne zabitých detí so zbraňou a posiela nahrávky prostredníctvom automatických hovorov zákonodarcom, informoval The Wall Street Journal.
Projekt spustili šesť rokov po tom, čo strelec zabil 17 ľudí a viac ako tucet zranil na strednej škole v Parklande na Floride. Obsahuje hlas šiestich detí, niektoré vo veku desať rokov, a mladých dospelých, ktorí prišli o život pri incidentoch násilia so zbraňami v Spojených štátoch.
Ozvú sa aj ďalší
Akonáhle zadáš PSČ, Shotline nájde miestneho zástupcu a umožní ti uskutočniť automatizovaný hovor od jedného zo šiestich mŕtvych ľudí ich vlastným hlasom a žiadať prísnejšie zákony na kontrolu zbraní. To samozrejme platí len v rámci územia Spojených štátov.
„Dnes som späť, pretože moji rodičia použili AI na obnovenie môjho hlasu, aby som vám mohol zavolať,“ hovorí hlas Joaquina Olivera, jedného z tínedžerov zabitých pri streľbe v Parklande. „Ozvú sa aj ďalšie obete ako ja.“ V čase zverejnenia bolo cez webovú stránku poslancom odoslaných viac ako 8-tisíc výziev.
„Toto je problém Spojených štátov a my sme ho nedokázali vyriešiť“ povedal pre Journal Oliverov otec Manuel, ktorý projekt začal spolu so svojou manželkou Patriciou. „Ak na opravu potrebujeme použiť strašidelné veci, vitajte v strašidelnom svete.“
Obľúbený startup
Na opätovné vytvorenie hlasov Oliverovci použili službu klonovania hlasu od ElevenLabs, dva roky starého startupu, ktorý nedávno získal 80 miliónov dolárov v kole financovania vedenom Andreessenom Horowitzom. Pomocou len niekoľkých minút vokálnych vzoriek je softvér schopný obnoviť hlasy vo viac ako dvoch desiatkach jazykov.
Oliverovci údajne použili príspevky svojho syna na sociálnych sieťach na ukážky hlasu. Rodičia a zákonní zástupcovia obetí násilia páchaného zbraňami môžu vyplniť formulár a odoslať svoje hlasy do programu The Shotline, aby sa pridalo jeho úložisko hlasov generovaných AI.
Zneužívanie hlasov
Projekt vyvoláva etické otázky o používaní AI na generovanie hlbokých falošných hlasov patriacich mŕtvym ľuďom. Minulý týždeň Federálna komunikačná komisia vyhlásila, že robotické hovory uskutočnené pomocou hlasov generovaných AI sú nezákonné, rozhodnutie prišlo niekoľko týždňov po tom, čo voliči v New Hampshire dostali telefonáty vydávajúce sa za prezidenta Joea Bidena, aby nevolili v primárkach ich štátu.
Analýza bezpečnostnej spoločnosti s názvom Pindrop odhalila, že Bidenov zvukový deepfake bol vytvorený pomocou softvéru od ElevenLabs. Spoluzakladateľ spoločnosti Mati Staniszewski pre Journal povedal, že ElevenLabs umožňuje ľuďom obnoviť hlasy mŕtvych príbuzných, ak majú práva a povolenia. Zatiaľ však nie je jasné, či rodičia maloletých mali právo na podobizne svojich detí.
