Kempelenov inštitút inteligentných technológii (ďalej v článku ako KInIT) je nezávislý a neziskový inštitút, prvý svojho druhu na Slovensku. Združuje a vychováva expertov, pričom pokrýva najmä tému umelej inteligencie a strojového učenie, ale aj viaceré oblasti informatiky v prepojení na ďalšie disciplíny, napríklad na informačnú bezpečnosť alebo etiku a ľudské hodnoty v informačných technológiách.
Inštitút sme oslovili po tom, čo vydali náučné video o Oliverovi, ktorý sa dostal zo svojej dezinformačnej bubliny, kvôli ktorej mu hrozilo nebezpečenstvo. V rozhovore rozoberáme témy bezpečnosti na sociálnych médiách, mechanizmus fungovania algoritmov týchto médií a aj existenciu zákonov, ktoré sociálne médiá a ich algoritmy regulujú.
Na otázky odpovedajú Andrea Horváthová a Jakub Šimko. Andrea je dizajnérka a pracuje v oblasti marketingu a kreatívnej komunikácie výskumu KInIT-u. Má za sebou štúdium dizajnu nových médii na Akadémii dizajnu v holandskom Eindhovene.
Jakub je expertom na crowdsourcing a iné metódy zbierania dát s účasťou používateľov. Je spoluautorom ocenenej štúdie výskumu algoritmov sociálnych médii a používateľskej štúdie skúmajúcej správanie používateľov pri konzumácií takýchto správ prostredníctvom eye-trackingu. Taktiež je spoluautorom viac než 30 vedeckých publikácií v oblasti informatiky a bol riešiteľom vo viac než 10 výskumných projektoch a taktiež niekoľkých priemyselných projektoch a projektoch medzinárodnej spolupráce v oblastiach inteligentného spracovania informácií.
Čo stálo za tým, že ste sa pustili do tohto projektu? Aká bola vaša hlavná motivácia?
V KInITe sa od vzniku inštitútu v rámci našich výskumných aktivít venujeme fenoménu šíreniu dezinformácii skrz odporúčacie systémy sociálnych sietí. Projekt vznikol po tom, ako sme si všimli grantovú výzvu „Nájdime spoločnú reč” od O2 Férovej Nadácie, pretože veríme, že náš výskum je dôležité komunikovať aj mimo vedeckej obce. Výzva nám takisto prišla ako vhodný moment vytvoriť edukačný materiál na tému technologickej príčiny šírenia dezinformácii primárne v slovenčine a pre slovenské publikum.
Oliver je protagonistom príbehu vášho videa. Predstavte nám ho, s čím sa pasuje?
Oliver je v podstate úplne bežný chalan, ktorému kolega s dobrým úmyslom poslal link s radou, potom ako ostal doma chorý.
Ako vyrieši svoj problém?
V príbehu sa dostane do bodu, kedy dezinformáciám sadne na lep a ohrozí svoje zdravie skrz alternatívnu medicínu. Nakoniec ho však tak či tak zachránia lekári v nemocnici po tom, ako na vypije čistiaci prostriedok na odporúčanie článku z dezinfo webu a musí si zavolať sanitku. Príbeh tu síce končí, no dúfame, že po tom, ako by Oliver prišiel domov z nemocnice, by si vymazal svoju online históriu a dával väčší pozor na to, čomu na internete uverí. Fakt ale je, že Oliver by pravdepodobne po takomto zážitku bol chvíľu veľmi nedôverčivý a vydesený. Cieľom príbehu teda nie je ukázať, ako sa z dezinformačnej bubliny dostať von, skôr poukázať na fenomén bubliny ako taký a možno tým predísť tomu, aby sa do nej ľudia vôbec dostali, aby to zašlo až tak ďaleko ako v Oliverovom prípade.
Je za príbehom aj nejaký výskum, z ktorého vychádza?
Fenomén tvorenia bublín odporúčacími algoritmami je predmetom mnohých výskumov a je pomerne dobre zmapovaný. V KInITe sme sa mu venovali v štúdii, v ktorej sme sledovali, či a s akou námahou sa človek dostane z bubliny von, konkrétne na platforme YouTube.
Skúste nás voviesť do mechanizmu fungovania algoritmov sociálnych sietí…
Algoritmy sociálnych médií sú komplikovaný mechanizmus, ktorý má mnoho pohyblivých častí a každé sociálne médium má svoj systém niečím jedinečný. Na počiatku sú dáta, ktoré o nás, užívateľoch, tieto platformy zbierajú. Môže ísť o dáta o našej polohe, lajkoch, sieti kontaktov, histórii prezerania obsahu a celkovo akéhokoľvek správania. Zber zahŕňa aj menej „zjavné” prejavy užívateľov: napríklad „dwell time” - teda koľko času strávime pozeraním sa na jeden príspevok pri prezeraní feedu. Získané dáta si každá platforma spracúva do tzv. modelu používateľa, akéhosi virtuálneho osobného profilu našich záujmov, cieľov, názorov či iných charakteristík.
Na základe tohto modelu nám ukazuje taký obsah, ktorý vyhodnotí ako „najvhodnejší”. No a tu sa dostávame k otázke, ktorý obsah je najvhodnejší. Najpoužívanejšie sociálne médiá zarábajú peniaze cez reklamu, takže ich hlavným cieľom je, aby naše oči strávili čo najviac času v ich rozhraniach (či už na webe alebo v aplikácii) a aby počas tohto času videli čo najviac reklamy. To znamená, že algoritmus nám ukazuje taký obsah, o ktorom na základe dát z minulosti vie, že je šanca, že sa nám bude páčiť, lebo eviduje naše preferencie. Pri tomto spôsobe odporúčania sú však používatelia často zatváraní do takzvaných Filtračných Bublín, kedy sa im ukazuje stále ten istý typ obsahu.
V čom vnímate ich najväčšie riziko alebo problém?
Kvôli tomu, že sociálne médiá nás chcú udržať na ich platformách čo najdlhšie, využijú na to akýkoľvek obsah ktorý to podporuje, bez ohľadu na kvalitu. Dôležitý je skôr apel obsahu na emócie. Funguje tak obsah s mačičkami, ale aj rôzne senzačné bulvárne titulky a, žiaľ, aj dezinformácie ktoré vyvolávajú hnev či strach. Jeden z veľkých problémov sociálnych médií je teda práve šírenie nekvalitného, povrchného alebo nepravdivého obsahu
Počas pandémie sme si ako spoločnosť uvedomili, že aj napriek pokročilým technológiám, sme voči mikroskopickým vírusom stále veľmi zraniteľní. V akom stave je však naša spoločnosť, čo sa týka obranyschopnosti voči dezinformačným vírusom?
Ten stav nie je dobrý. Sme na tom relatívne zle ešte aj v porovnaní so susednými krajinami. Zároveň však treba povedať, že zraniteľnosť voči dezinformáciám sa pomerne ťažko meria a úsudky o nich sa robia skôr na základe fenoménov, ku ktorým prispievajú (ako napríklad miera zaočkovanosti).
Delenie na akési tábory je v našej spoločnosti citeľnejšie z roka na rok. Každý máme svoju sociálnu bublinu, ktorá je presvedčivá v tom, aký obsah nám ponúka. Prečo sa ale vôbec nachádzame v takejto situácii?
Fenomén šírenia dezinformácii nieje novinka. Vždy sa nájde niekto, kto v ich šírení vidí príležitosť. Taktiež vždy existovali a budú existovať ľudia, ktorí z neznalosti šíria misinformácie. Rozdiel oproti minulosti je v tom, že sociálne médiá vytvorili pre ich šírenie veľmi vhodné podmienky.
Existujú vôbec zákony, ktoré by technologickým korporáciám nastavovali zrkadlo a limity (s ohľadom na bezpečie užívateľov a užívateliek)?
Európska Únia pripravila (resp. pripravuje) hneď niekoľko regulácií, ktoré budú mať na túto situáciu možný pozitívny vplyv. Za spomenutie stojí najmä Digital Services Act, ktorý uľahčí nezávislé auditovanie činnosti sociálnych médií a potom Artificial Intelligence Act, ktorý zreguluje využívanie umelej inteligencie (ktorá je zásadnou súčasťou dnešných odporúčacích algoritmov). Pravdou však je, že snahy o reguláciu sú (takmer z definície) vždy niekoľko krokov pozadu za reálnym stavom vecí a treba si pri nich navyše dávať pozor na neželané vedľajšie efekty inak ušľachtilých zámerov.
Poznáte nejaké prípady, kedy sociálne siete spôsobili „katastrofu“ a bola voči ich aktivitám a nastaveniu vznesená aj právna zodpovednosť? (napr. nebezpečné trendy na tiktoku, ktoré v niektorých prípadoch vyúsťujú smrťou, etc.)
Prípady ktoré skončili katastrofou sa dejú, dá sa o nich dočítať v médiách celkom často. S tou právnou zodpovednosťou je to ale zložité. Je pomerne málo prípadov kedy za nejakú „katastrofu” bola vyvodená zodpovednosť na strane samotných sociálnych médií. Súvisí to aj s nedostatkom regulácii a zákonov.
Vedeli by ste čitateľkám a čitateľom odporučiť aj iné diela, v ktorých sa preberá podobná téma a ktoré by im vedeli v tomto smere rozšíriť obzory?
Čo sa týka seriálov alebo dokumentov, Netflix túto tému spracoval vo filme ‘The Social Dilemma‘. HBO sa zase pozrelo na hnutie QAnon a fórum 8Chan v seriáli ‘Q: Into the Storm’. Existuje aj skvelý podcast ktorý hovorí konkrétne o filtračných bublinách, je to podcast ‘Rabbit Hole’ od New York Times. Povrchnosť práce ľudí s informáciami dobre ilustruje aj čierna satira ‘Don’t look up’.
Ako to vidíte ohľadne budúcnosti vývoja sociálnych sieti a vôbec bezpečnosti internetu ako takého?
Budúci vývoj sociálnych médií asi nechceme predpovedať. Dúfame však, že regulácie a zákony dobehnú sociálne médiá dnešku a že sa bude diať mnoho ďalších nezávislých výskumov ako napríklad ten náš.