V roku 1994, v čase, kedy na Slovensku ešte vznikla prvá internetová stránka a v Spojených štátoch malo e-mail založený len zlomok obyvateľstva, napísal Philip Agre správu, ku ktorej sa ľudia vracajú aj po rokoch.
Predpovedal totiž, že počítače jedného dňa uľahčia hromadný zber údajov o všetkom v spoločnosti.
Tento proces by zmenil a zjednodušil ľudské správanie, napísal vtedajší profesor humanitných vied UCLA (Kalifornskej univerzity v Los Angeles). A pretože údaje nebude zbierať jediná mocná vláda „veľkého brata“, ale mnoho subjektov na rôzne účely, povedal, že ľudia sa ochotne podelia s množstvom informácií o svojich najosobnejších strachoch a túžbach.
„Skutočne znepokojivý vývoj sa môže zdať „nie až tak zlý” len preto, že mu chýbajú zjavné hrôzy Orwellovskej dystopie,“ napísal v akademickom príspevku Agre, ktorý má doktorát z informatiky na Massachusettskom technologickom inštitúte.
Predpovede, z ktorých mrazí
Takmer o 30 rokov neskôr sa tento dokument javí ako príznačne prezieravý. Je to prekvapujúca vízia budúcnosti, ktorá sa splnila vo forme komplexu dátového priemyslu, ktorý nepozná hranice a zákony.
Údaje zozbierané rôznymi reklamnými sieťami a mobilnými aplikáciami na nespočetné účely sa používajú na ovplyvnenie volieb alebo napríklad na odhalenie homosexuálneho kňaza. Tu však Agreho predpovede neskončili.
Predvídal autoritárske zneužívanie technológie rozpoznávania tváre, predpovedal našu neschopnosť odolávať dobre vytvoreným dezinformáciám a predpovedal, že umelá inteligencia by sa dala použiť na mimoriadne zlé veci, ak by nebola podrobená morálnemu a filozofickému skúmaniu.
K jeho práci sa vracajú aj dnes
Potom ho už však nikto nepočúval. Až dnes mnohí z jeho bývalých kolegov a priateľov tvrdia, že o ňom v posledných rokoch viac premýšľajú a znova čítajú jeho prácu, pretože explozívny a nekontrolovaný rast internetu narúša demokraciu a pomáhajú uľahčiť násilné povstania, ako sme mohli vidieť v januári pri útokoch na americký Kapitol.
„Žijeme v dôsledku ignorovania ľudí, ako je Phil,“ povedal Marc Rotenberg, ktorý v roku 1998 upravil knihu s Dohodou o technológiách a súkromí a teraz je zakladateľom a výkonným riaditeľom Centra pre AI a digitálnu politiku.
Charlotte Lee, ktorá študovala pod Agreho vedením ako postgraduálna študentka uviedla, že stále skúma jeho prácu a učí sa z nej aj dnes. Povedala, že si želá, aby bol na blízku a pomohol jej ešte lepšie pochopiť veci, ktoré pred rokmi povedal. To však nie je možné.
Zmizol z dohľadu
Agre sa v roku 2009 jednoducho vyparil a takmer nikto nevie, kde sa nachádza. Keď priatelia nahlásili jeho zmiznutie, polícia ho síce vypátrala a povedal im, že je v poriadku, no svoje útočisko odmietol svojim známym zverejniť. Jeho najbližší odmietajú hovoriť o tom, kde sa nachádza a hovoria, že rešpektujú jeho právo na súkromie.
Vypátrať sa ho pokúšal aj Washington Post, no bez úspechu. Niektorí však tvrdia, že pred niekoľkými rokmi žil v okolí Los Angeles. Nič to však nemení na tom, že Agre bol jedným z prvých ľudí na svete, ktorí predpovedali temnú stránku internetu a umelej inteligencie.
Už na začiatku 90. rokov hovoril, že oblasť umelej inteligencie takpovediac zablúdila. V jej počiatkoch sa väčšina ľudí zameriavala na komplexné matematické problémy zamerané na automatizáciu ľudských úloh s obmedzeným úspechom. Až giganti v Silicon Valey ho označili za inteligentný a pridali mu „ľudské“ vlastnosti, ktoré v skutočnosti nemal.
Jeho významný dokument z roku 1997 s názvom „Lekcie získané pri pokuse o reformu AI“ je stále do značnej miery považovaný za klasiku v tomto odvetví, povedal Geoffrey Bowker, emeritný profesor informatiky na Kalifornskej univerzite v Irvine.
Videl roky dopredu
Agre bol totiž jediný, ktorý sa síce vo svete IT a umelej inteligencie pohyboval, no dokázal na celú problematiku pozrieť aj zvonku ako laik. Aj práve preto sa stal vyhľadávaným akademikom. V slávnom článku uviedol, že hromadný zber údajov zmení a zjednoduší ľudské správanie, aby bolo jednoduchšie ho kvantifikovať.
Stalo sa to v rozsahu, ktorý si málokto dokázal predstaviť, pretože sociálne siete a iné online siete spojili interakcie medzi ľuďmi do ľahko kvantifikovateľných metrík, akými sú napríklad či sa im niečo páči alebo nie, či niekoho sledujú a podobne.
Údaje generované týmito interakciami boli použité na ďalšie formovanie správania sa zameraním správ, ktoré majú psychologicky manipulovať s ľuďmi. Po roku 2000 povedal, že naša tvár nesmie byť čiarový kód, roky predtým, ako čínsky režim začal používať snímanie tvárí na verejnosti.
Agreho vrcholom malo byť to, čo priatelia a kolegovia hovorovo nazývali „Biblia internetu“ - definitívna kniha, ktorá by od základu rozobrala základy internetu. Nikdy ju však nedokončil. Keď sa jeho bývalí kolegovia rozhodli spísať všetko jeho poznatky do jednej publikácie, Agre sa vynoril zo svojho útočiska a povedal im, aby s tým prestali.
Následne na to opäť zmizol nevedno kam. Vedci sú mu však vďační aj za otázky, ktoré síce nechal bez odpovedí, no sú prospešné, hlavne v časoch, keď sa svet zaoberá hlbokými sociálnymi nepokojmi.
