💡 Zhrnutie pre tých, ktorí rýchlo scrollujú:
- Geoffrey Hinton, „krstný otec AI“, odhaduje 10 až 20-percentnú šancu, že AI nahradí ľudí.
- Varuje, že vývoj AI ide oveľa rýchlejšie, ako čakali experti.
- Firmy lobujú za čo najmenšiu reguláciu AI.
- Hinton prirovnáva AI k tigriemu mláďaťu - rozkošné teraz, nebezpečné neskôr.
- Podľa neho by sme mali brzdiť vývoj a viac skúmať, čo vlastne vytvárame.
Keď profesor Geoffrey Hinton v roku 1986 prišiel s metódou predikcie ďalšieho slova v texte, pravdepodobne netušil, že raz bude stáť pri zrode celého sveta veľkých jazykových modelov – teda AI ako ju dnes poznáme, píše portál LadBible.
Minulý rok za svoje priekopnícke objavy v oblasti umelej inteligencie dostal Nobelovu cenu za fyziku (spolu s Johnom Hopfieldom), a teda ak niekto má právo hovoriť o budúcnosti AI, tak práve on. A jeho predpovede nie sú práve ružové.
AI ako rozkošné, ale nebezpečné mláďa
V rozhovore pre CBS prirovnal Hinton umelú inteligenciu k tigriemu mláďaťu: „Najlepší spôsob, ako to pochopiť emocionálne, je predstaviť si, že máte doma rozkošné tigríča. Pokiaľ si nemôžete byť úplne istí, že vás nebude chcieť zabiť, keď vyrastie, mali by ste sa začať báť.“
Inými slovami – AI je dnes možno ešte zlatá a užitočná, ale keď jej schopnosti prerastú tie naše, už to nebude len o tom, ako si s ňou nastavíme budík.
Riziko? 10 až 20 percent
Hinton odhaduje, že šanca, že umelá inteligencia raz úplne nahradí ľudí, je 10 až 20 percent. Znie to málo? Skús si predstaviť, že ti niekto povie, že máš 20-percentnú šancu, že ti zajtra vybuchne auto. Asi by si si to dosť premyslel, než by si doň sadol.
A práve to je podľa Hintona problém: „Ľudia si ešte neuvedomili, čo prichádza.“ Ďalšia vec, ktorá profesora znepokojuje, je, že veľké technologické firmy lobujú za čo najmenšiu reguláciu AI. A pritom podľa Hintona už teraz neexistuje takmer žiadna regulácia. To je podľa neho extrémne nebezpečné, pretože čím menej pravidiel, tým rýchlejší a nekontrolovanejší vývoj.
Prečo vlastne?
Hinton vysvetľuje, že ľudstvo nikdy predtým nemuselo čeliť niečomu inteligentnejšiemu než sme my sami: „Koľko príkladov poznáte, kde niečo menej inteligentné ovláda niečo inteligentnejšie? Je ich veľmi málo.“ Ak AI získa vyššiu inteligenciu ako ľudia, je vysoko pravdepodobné, že stratíme kontrolu. A Hinton dodáva, že vývoj napreduje rýchlejšie, ako predpokladal.
„Myslel som si, že to príde až oveľa neskôr.“ Podľa Hintona dnes väčšina odborníkov očakáva, že do 20 rokov budú existovať AI systémy, ktoré nás prekročia v inteligencii. A to je dosť desivá predstava.
Ako tomu zabrániť?
Riešenie celej situácie podľa Hintona spočíva vo väčšej regulácii a masívnom výskume. Štáty by mali donútiť firmy, aby viac investovali do skúmania rizík AI – nie len do jej vývoja.
Ak teda chceme, aby nás AI jedného dňa úplne nezlikvidovala, je zrejme najvyšší čas správať sa k nej slušne. Vraj všetky tie „prosím“ a „ďakujem“ síce stoja kopu energie, ale možno nám to raz zachráni život.