Umelá inteligencia znamená pre ľudstvo nový míľnik, ktorý nám môže pomôcť lepšie optimalizovať procesy a zjednodušiť život. Ako však informuje portál Unilad, preteky vo vývoji inteligentnejšej a rýchlejšej umelej inteligencie by mohli znamenať, že smerujeme ku katastrofe a väčšina ľudí zomrie.
Tvrdí to Paul Christiano, bývalý kľúčový výskumník v OpenAI, spoločnosti, ktorá vytvorila známy ChatGPT. Podľa neho existuje veľká šanca, že umelá inteligencia prevezme kontrolu nad ľudstvom a zničí ho.
A keďže ide o človeka, ktorý v minulosti viedol tím na zosúladenie jazykových modelov pre AI systémy, pravdepodobne vie, o čom hovorí. Momentálne vedie Alignment Research Center, neziskovú organizáciu zameranú na zosúladenie systémov strojového učenia s „ľudskými záujmami“.
Šance na katastrofu narastajú
„Myslím si, že možno existuje niečo ako 10-20 percentná šanca na ovládnutie sveta AI, keď je veľa [alebo] väčšina ľudí mŕtvych,“ povedal v rozhovore v Bankless Podcast. Pokiaľ však budú systémy na ľudskej úrovni, pravdepodobnosť je 50/50.
Tento názor pritom nezastáva iba on sám. Nedávno sme ťa informovali o Geoffreym Hintonovi, ktorý dlhé roky pracoval v spoločnosti Google, no teraz varuje pred následkami umelej inteligencie.
Začiatkom tohto roka vedci z celého sveta podpísali list, v ktorom naliehali, aby bol vývoj AI pozastavený minimálne do momentu, kým ľudia nebudú mať stratégiu na to, ako proti nej postupovať v prípade problémov.
Okrem toho tu je aj Bill Gates, ktorý porovnal AI s jadrovými zbraňami, či Elon Musk, ktorý síce vyjadril svoje obavy, no vzápätí informoval o financovaní vlastného systému.
Vyvíja sa ako dieťa
Odborníci prirovnávajú umelú inteligenciu k malému dieťaťu a bombardovaním údajmi bez toho, aby vedela, čo s nimi robiť. Podobne ako novonarodené dieťa plače, no prestane, keď si uvedomí, že za ním prišiel rodič.
AI sa učí tak, že sa snaží dosiahnuť určité ciele náhodnými akciami a vyhodnocovaním „správnych“ výsledkov. Jej ponorením do internetových údajov teraz môže strojové učenie produkovať dobre štruktúrované odpovede na ľudské otázky.
Keďže sa čoraz viac špecializuje, mnohí odborníci z tejto oblasti veria, že v priebehu desiatich rokov bude výkon spracovania v kombinácii s umelou inteligenciou robiť stroje vnímavými, čo predstavuje bod zlomu, v ktorom môže nastať problém.
Aj preto viacerí už teraz apelujú na to, aby sme sa neučili ovládať správanie umelej inteligencie už teraz - skôr, ako sa nám vymkne spod kontroly.
