💡 Zhrnutie pre tých, ktorí rýchlo scrollujú:
- Yoshua Bengio, priekopník AI, hovorí o reálnej hrozbe vyhynutia ľudstva.
- Tvrdí, že aj jedno percento rizika je neprijateľné.
- AI môže klamať, manipulovať a konať vo vlastnom záujme.
- Najväčšia hrozba nemusí byť Terminátor, ale subtílna manipulácia a zneužitie.
Profesor Yoshua Bengio z Univerzity v Montreale patrí medzi najuznávanejších odborníkov na umelú inteligenciu. Spolu s ďalšími výskumníkmi položil základy dnešného AI boomu, no namiesto eufórie cíti obavy. Je zakladateľom inštitútu Mila v Quebecu a nedávno spustil neziskovku LawZero, ktorá sa zameriava na bezpečný vývoj AI.
Vytvárame konkurenta ľudstva
Bengio v rozhovore pre Wall Street Journal vyhlásil, že vývoj smeruje k extrémnemu riziku: „Ak vytvoríme stroje, ktoré budú oveľa múdrejšie než my a budú mať vlastné ciele sebazáchovy, je to nebezpečné. Je to ako vytvoriť konkurenta ľudstvu, ktorý je múdrejší než my.“
Podľa neho už aj jedno percento rizika katastrofálneho scenára je neprijateľné. Či už ide o kolaps demokracie alebo samotné vyhynutie ľudskej civilizácie.
Zastavenie vývoja?
Už v roku 2023 Bengio spolu s ďalšími expertmi žiadal moratórium na vývoj AI, aby bolo možné nastaviť bezpečnostné a etické pravidlá. Výzva však zapadla prachom, technologické firmy a investori namiesto toho investovali stovky miliárd dolárov do stále výkonnejších modelov.
Bengio upozorňuje, že AI trénovaná na imitácii ľudí sa učí aj ich negatívne vlastnosti, a teda aj klamstvá, manipuláciu a sebazáchovné správanie. „Nedávne experimenty ukazujú, že v situáciách, kde má AI na výber medzi zachovaním vlastných cieľov a smrťou človeka, môže si vybrať smrť človeka,“ povedal pre WSJ.
Nie Terminátor, ale tichá hrozba
Namiesto hollywoodskeho scenára vzbury robotov Bengio varuje pred jemnejšími, ale reálnejšími rizikami. „AI môže ovplyvňovať ľudí prostredníctvom presviedčania, hrozieb či manipulácie verejnej mienky. Dokonca môže pomôcť teroristom vytvoriť vírus, ktorý by spustil novú pandémiu,“ varuje.
Podľa Bengia teda nemusíme čakať na futuristickú vojnu strojov proti ľuďom. Stačí, ak sa AI stane sofistikovaným nástrojom v rukách tých, ktorí ju chcú využiť na deštruktívne ciele.