Deepfake ti už len tak ľahko neprejde
V marci minulého roka bolo zverejnené video na ktorom sa obyvateľom Ukrajiny prihovára ich prezident Volodymyr Zelenskyj a prikazuje im, aby zložili zbrane a vzdali sa Rusku. Vtedy sa začalo ešte hlasnejšie polemizovať o kontrole a obmedzení šírených dezinformácií.
Napriek tomu, že išlo o zjavný deepfake (v ktorom ide o realistickú úpravu videa, pri ktorej sa upravuje predovšetkým tvár, mimika, prípadne reč zobrazených aktérov vo videu) mnohí tomu uverili a vzbudilo to v nich žiadané pochybnosti.
Pri tvorbe takéhoto falošného videa sa využíva umelá inteligencia, ktorá vykonáva výmenu tvárí alebo vytvorenie digitálnej verzie niekoho veľmi realisticky. Keďže však vývoj umelej inteligencie uľahčuje výrobu deepfakes, ich rýchle odhalenie sa preto stalo ešte dôležitejším, ako píše portál BBC.
Ako na to
Spoločnosť Intel, je presvedčená, že má spoľahlivé riešenie. Všetko je to o krvi na našej tvári. Systém, ktorý vybudovala a aktuálne prechádza testami nazvali "FakeCatcher".
Výskumná pracovníčka spoločnosti Intel v Sillicon Valley Ilke Demirová objasnila, ako tento detektor funguje. "Pýtame sa, čo je na autentických videách skutočné? Čo je na nás skutočné? Čo je vodoznakom toho, že sme ľudia?" hovorí.
Fotopletyzmografia (PPG), je ústredným prvkom celého systému. Ide o techniku, ktorá dokáže rozoznávať zmeny v prietoku krvi. Tváre, ktoré sú vytvorené ako deepfakes jednoducho tieto signály nevykazujú, upresňuje Ilke Demirová.
Systém sa tiež zameriava na pohyb očí a analyzuje ich pravdivosť a pravosť. "Takže za normálnych okolností, keď sa ľudia pozerajú do nejakého bodu, keď sa pozerám na nejakého človeka, je to, akoby som vystreľovala lúče z očí, priamo na teba. Ale v prípade deepfakes je to ako pri gúľaní očami, rozchádzajú sa," podotýka.
Spoločnosť Intel preto pevne verí, že vďaka sledovaniu oboch týchto vlastností, senzor dokáže v priebehu niekoľkých sekúnd zistiť rozdiel medzi skutočným videom a falzifikátom.
FaceCatcher je podľa spoločnosti spoľahlivý na 96 percent.
Takto dopadlo testovanie
Portál BBC požiadal o skúšku systému a spoločnosť Intel súhlasila. Použili približne tucet videí, ktoré zobrazovali bývalého amerického prezidenta Donalda Trumpa a prezidenta Joea Bidena. Zamiešali skutočné aj falošné videá vytvorené Massachusettským technologickým inštitútom (MIT).
Výsledky testovania dopadli pomerne dobre. Pokiaľ ide o vyhľadávanie deepfakes, systém sa ukázal byť celkom presný. Väčšinu tvorili falošné nahrávky so synchronizáciou pier či skutočné videá, na ktorých boli ústa a hlas upravené. Všetky odpovede boli správne, až na jednu.
Najväčší problém nastal, keď do detektoru vložili skutočné, autentické videá. Hoci boli reálne systém ich niekoľkokrát označil za falošné.
Kde nastal problém?
Čím viac pixelov video obsahuje, tým ťažšie je zachytiť tok krvi. Detektor tiež nie je schopný analyzovať zvuk. Takže niektoré videá, ktoré sa pri počúvaní hlasu zdali byť celkom zjavne skutočné, boli označené za nepravé.
Problémy však nastávajú v momente, keď program označí video za deepfake, hoci je zjavne reálne. Na vzniknutú situáciu reágovala aj výskumníčka Ilke Demirová a zdôrazňuju, že "overenie niečoho ako falošného oproti ‘pozor, toto môže byť falošné‘ má inú váhu". A dodáva, že systém je príliš opatrný. "Je lepšie zachytiť všetky falzifikáty - a zachytiť aj niektoré skutočné videá - ako prehliadnuť falzifikáty."
V prípade deepfakes môže ísť aj o krátke, nenápadné videá, ako napíklad dvojsekundový klip v reklame na politickú kampaň. V tomto ohľade bola spochybnená schopnosť FaceCatcheru fungovať "v prírode" - v reálnom svete.
Pre objasnenie niektorých nejasností oslovili aj odborného asistenta na Northwestern University v Illinois a experta na deepfakes Matta Groha. Vyjadril sa im, že nepochybuje o štatistikách, ktoré uviedli vo svojom počítačovom hodnotení, avšak "pochybujem o tom, či sú tieto štatistiky relevantné pre reálny svet."
Je relevantné skúmať technológiu FakeCatcher?
Odborníci sa zmieňujú, že práve to je náročné. Programy zamerané na rozpoznávanie tváre, zväčša uvádzajú mimoriadne veľkorysé štatistiky svojej presnosti, no v realite už také bezchybné nie sú a prejavujú sa ich nedokonalosti. Začiatkom tohto roka BBC testovala systém rozpoznávania tvárí Clearview AI za použitia fotografií ich zamestnancov. Hoci výkon technológie bol pôsobivý, bolo tiež zjavné, že čím viac pixelov na obrázku bolo a čím viac bola tvár na fotografii stranovo orientovaná, tým ťažšie bolo pre program úspešne identifikovať konkrétnu osobu.
Sopločnosť Intel tvrdí, že ich detektor FakeCatcher prešiel prísnym testovaním. Čo okrem iného zahŕňa aj "divoký" test - v ktorom spoločnosť zostavila 140 falošných videí - a ich skutočné náprotivky. Systém v testovaní obstál na výbornú a mal až 91 percentnú úspešnosť.
Matt Groh a ďalší výskumníci sú však iného názoru. Trvajú na tom, že analýza by mala byť nezávislá a objektívna a preto by si spoločnosť Intel nemala robiť test sama pre seba. On sám sa ponúka, že im systémy rád vyhodnotí. "Myslím si, že je to naozaj dôležité, keď navrhujeme audity a snažíme sa pochopiť, aké presné je niečo v reálnom kontexte," hovorí.
Boj proti dezinformáciam, hoaxom, deepfakes atď. je náročný a je veľmi prekvapivé ako často máme kratšie ruky ako by bolo na ulovenie klamstva potrebné. Táto technológia má veľký potenciál, no zároveň má ešte pred sebou dlhú cestu.
