TerminátorParamount Pictures
StoryEditor

Zničí nás umelá inteligencia ako Skynet v Terminátorovi? Jej vývojár hovorí že šance na zničenie ľudstva sú 50 na 50

Miroslav Kamody19.05.2023., 14:00h

Pohroma pre ľudstvo môže prísť už do desiatich rokov. To je totiž časový horizont pre dosiahnutie bodu, kedy sa umelá inteligencia stane vnímavou.

Lajkuj Brainee.sk na

Umelá inteligencia znamená pre ľudstvo nový míľnik, ktorý nám môže pomôcť lepšie optimalizovať procesy a zjednodušiť život. Ako však informuje portál Unilad, preteky vo vývoji inteligentnejšej a rýchlejšej umelej inteligencie by mohli znamenať, že smerujeme ku katastrofe a väčšina ľudí zomrie.

Tvrdí to Paul Christiano, bývalý kľúčový výskumník v OpenAI, spoločnosti, ktorá vytvorila známy ChatGPT. Podľa neho existuje veľká šanca, že umelá inteligencia prevezme kontrolu nad ľudstvom a zničí ho.

image

Tento kvíz o Slovensku zostavila umelá inteligencia. Dokážete správne odpovedať na všetky jej otázky?

A keďže ide o človeka, ktorý v minulosti viedol tím na zosúladenie jazykových modelov pre AI systémy, pravdepodobne vie, o čom hovorí. Momentálne vedie Alignment Research Center, neziskovú organizáciu zameranú na zosúladenie systémov strojového učenia s „ľudskými záujmami“.

Šance na katastrofu narastajú

„Myslím si, že možno existuje niečo ako 10-20 percentná šanca na ovládnutie sveta AI, keď je veľa [alebo] väčšina ľudí mŕtvych,“ povedal v rozhovore v Bankless Podcast. Pokiaľ však budú systémy na ľudskej úrovni, pravdepodobnosť je 50/50.

Tento názor pritom nezastáva iba on sám. Nedávno sme ťa informovali o Geoffreym Hintonovi, ktorý dlhé roky pracoval v spoločnosti Google, no teraz varuje pred následkami umelej inteligencie.

image

Umelá inteligencia

Pixabay

Začiatkom tohto roka vedci z celého sveta podpísali list, v ktorom naliehali, aby bol vývoj AI pozastavený minimálne do momentu, kým ľudia nebudú mať stratégiu na to, ako proti nej postupovať v prípade problémov.

Okrem toho tu je aj Bill Gates, ktorý porovnal AI s jadrovými zbraňami, či Elon Musk, ktorý síce vyjadril svoje obavy, no vzápätí informoval o financovaní vlastného systému.

Vyvíja sa ako dieťa

Odborníci prirovnávajú umelú inteligenciu k malému dieťaťu a bombardovaním údajmi bez toho, aby vedela, čo s nimi robiť. Podobne ako novonarodené dieťa plače, no prestane, keď si uvedomí, že za ním prišiel rodič.

image

Roky vyvíjal umelú inteligenciu pre Google. Teraz odišiel, aby pred ňou varoval

AI sa učí tak, že sa snaží dosiahnuť určité ciele náhodnými akciami a vyhodnocovaním „správnych“ výsledkov. Jej ponorením do internetových údajov teraz môže strojové učenie produkovať dobre štruktúrované odpovede na ľudské otázky.

Keďže sa čoraz viac špecializuje, mnohí odborníci z tejto oblasti veria, že v priebehu desiatich rokov bude výkon spracovania v kombinácii s umelou inteligenciou robiť stroje vnímavými, čo predstavuje bod zlomu, v ktorom môže nastať problém.

Aj preto viacerí už teraz apelujú na to, aby sme sa neučili ovládať správanie umelej inteligencie už teraz - skôr, ako sa nám vymkne spod kontroly.

menuLevel = 4, menuRoute = notsorry/news/tech/inovacie, menuAlias = inovacie, menuRouteLevel0 = notsorry, homepage = false
11. apríl 2024 10:55