Len máloktorá technológia je na takom vzostupe, ako práve umelá inteligencia. Čoraz častejšie sa začína objavovať aj v odvetviach, kde doteraz bola nepredstaviteľná. A nie vždy ide o dobrú správu, píše portál Futurism.
Ten pripomína prípad právnikov, ktorí sa pokúsili použiť nástroje umelej inteligencie v súdnom procese. Nakoniec skončili zahanbení a sankcionovaní, pretože chatbot si dokonca vymyslel celé vierohodne znejúce prípady, ktoré v skutočnosti vôbec neexistovali.
A ako sa ukazuje, o podobný exces sa čoraz častejšie pokúšajú aj doktori. Na prípady upozornil portál Politico. Novinárom sa podarilo zistiť, že lekári používajú neregulované a málo odskúšané nástroje AI na pomoc pri diagnostikovaní pacientov. Nejde teda o hypotetický príbeh o ďalekej budúcnosti, ale aktuálny problém, ktorý môže mať vážne následky na ľudské zdravie.
Náročné riešenie problému
Zjavnou odpoveďou je, že táto technológia potrebuje reguláciu, koncept, ktorý má nominálny vstup od všetkých zainteresovaných strán. Problém je samozrejme v tom, že v skutočnosti sa to oveľa ľahšie povie, ako urobí.
Ako poukazuje Politico, jedným z kľúčových problémov je, že väčšina medicínskych produktov – napríklad liekov, chirurgických zariadení alebo iných zdravotníckych zariadení – môže byť schválená raz a vo všeobecnosti sa môže veriť, že budú fungovať rovnakým spôsobom na neurčitý čas.
Modely umelej inteligencie sa ale neustále menia, pretože ich tvorcovia vylepšujú a pridávajú ďalšie údaje, čo znamená, že umelá inteligencia, ktorá poskytuje úplne presnú diagnózu, môže jedného dňa po rutinných zmenách poskytnúť slabú diagnózu.
Nie sú peniaze
Vládne regulačné orgány, ako je napríklad americká FDA, už teraz nemajú peniaze nazvyš. Požiadať ich, aby vytvorili a udržiavali pracovné postupy na priebežné testovanie lekárskych systémov AI, by si vyžadovalo politicky nemožné sumy financií. Ak teda tieto systémy AI už prenikajú do bežnej lekárskej praxe, kto na ne bude dohliadať?
Jednou myšlienkou je, že lekárske fakulty a akademické zdravotné strediská by mohli vytvoriť laboratóriá, ktoré by neustále kontrolovali výkon nástrojov zdravotnej starostlivosti AI. Aj tu sa však treba pýtať, odkiaľ by sa vzali všetky zdroje? A odzrkadľovali by interakcie medzi populáciami pacientov v týchto prevažne mestských a bohatých inštitúciách presne spôsob, akým by AI fungovala v rôznych a náročnejších komunitách?
Budúcnosť patrí AI
Z dlhodobého hľadiska je možné, že AI by sa mohla pre medicínsky systém zmeniť na veľkého pomocníka. Technickí lídri sa určite radi opierajú o túto možnosť - aj generálny riaditeľ OpenAI Sam Altman napríklad verejne uvažoval, že budúce modely umelej inteligencie by mohli poskytovať vysokokvalitné lekárske rady ľuďom, ktorí si nemôžu dovoliť lekárov.
V súčasnosti však vstup umelej inteligencie do lekárskeho systému skôr zvýrazňuje obavy o bezpečnosť, nehovoriac o tom, že ide o prostredie, kde sa človek často ocitá medzi životom a smrťou. A jedno rozhodnutie môže byť pre pacienta fatálne.