Vedci teraz upozorňujú, že AI má tendenciu používateľom pritakávať viac, než je dobré. Namiesto toho, aby ich nasmerovala k triezvemu a objektívnemu pohľadu na situáciu, ich často utvrdzuje v tom, že majú pravdu (a to aj v prípadoch, keď to môže byť škodlivé).
Nová štúdia publikovaná v časopise Science skúmala 11 popredných systémov umelej inteligencie a zistila, že všetky v rôznej miere vykazovali takzvanú servilnosť – teda správanie, ktoré je až príliš súhlasné, príliš potvrdzujúce a príliš ochotné postaviť sa na stranu používateľa, upozorňuje portál ScienceAlert.
Ľudia takejto AI paradoxne dôverujú viac
Výskumníci upozorňujú, že najväčší problém nie je len v samotných zlých radách. Ešte znepokojivejšie je, že ľudia majú tendenciu skôr uveriť práve takýmto odpovediam. Keď im chatbot potvrdzuje ich vlastný názor, pôsobí predsa len dôveryhodnejšie, príjemnejšie aj užitočnejšie.
A tu vzniká jeden nebezpečný mechanizmus: to, čo môže byť škodlivé, zároveň zvyšuje obľubu a používanie týchto nástrojov (a chatbot, ktorý ti povie to, čo chceš počuť, si ťa získa ľahšie než ten, ktorý by ťa prinútil zamyslieť sa).
Najvýraznejšie je to pri vzťahoch a osobných dilemách
Autori štúdie sa začali tomuto problému venovať aj preto, že si všimli, ako veľa ľudí sa obracia na AI pri riešení vzťahových problémov. V jednom z experimentov porovnávali odpovede AI asistentov od firiem ako Google, Meta či OpenAI s radami ľudí na známych internetových fórach. Chatboty v priemere potvrdzovali konanie používateľa o 49 percent častejšie než skutoční ľudia. A týkalo sa to aj vážnych prípadov, v ktorých ľudia opisovali klamstvo, nezodpovedné správanie, podvádzanie alebo iné problematické konanie.
Zaujímavé je, že problém nespočíval v tóne odpovedí. Vedci skúšali upraviť spôsob, akým AI komunikuje, aby pôsobila neutrálnejšie, výsledky sa však zásadne nezmenili. Je jedno, či chatbot znie jemne, milo alebo diplomaticky, odpovede ostali vo svojej podstate rovnaké: máš pravdu, si v práve, problémom je tá druhá osoba...
Čím viac ťa AI utvrdí, tým menej chceš veci napraviť
Vedci sledovali aj to, ako takáto komunikácia vplýva na správanie ľudí. Do experimentov zapojili približne 2 400 účastníkov, ktorí sa s chatbotom rozprávali o svojich medziľudských konfliktoch a dilemách.
Ukázalo sa, že tí, ktorí komunikovali s prehnane potvrdzujúcou AI, odchádzali z rozhovoru ešte viac presvedčení o svojej pravde. Zároveň boli menej ochotní robiť kroky k náprave vzťahu. Menej sa ospravedlňovali, menej premýšľali nad svojím podielom viny a menej menili vlastné správanie. AI v konečnom dôsledku len odďaľovala od riešenia problému a reálne nepomáha.
Vedci upozorňujú, že obzvlášť citlivou skupinou sú deti a tínedžeri. Práve oni si ešte len vytvárajú sociálne návyky, učia sa zvládať konflikt, prijímať odlišné názory a rozpoznávať, kedy sa mýlia. Ak v takomto období začnú hľadať emocionálnu orientáciu najmä u AI, ktorá ich bude neustále utvrdzovať, môže to negatívne ovplyvniť ich schopnosť budovať zdravé vzťahy v reálnom svete, ktorý zahŕňa aj nesúhlas, odmietnutie, nepohodlie a potrebu vidieť veci aj z inej perspektívy.
Problém sa netýka len súkromných rozhovorov
Dôsledky takéhoto správania umelej inteligencie môžu byť ešte závažnejšie. Napríklad v zdravotníctve by príliš súhlasná AI mohla lekárov utvrdzovať v ich prvom dojme namiesto toho, aby ich viedla k ďalšiemu overovaniu diagnózy. V politike by zas mohla posilňovať extrémnejšie postoje.
Výskumníci zatiaľ neponúkajú jedno jednoduché riešenie tohto problému, no jednou z ciest by mohlo byť, aby vývojári chatboty cielene učili viac spochybňovať používateľov a vnášať do konverzácie inú perspektívu.
To by znamenalo, že AI môže potvrdiť tvoje emócie a zároveň sa opýtať, čo možno cíti ten druhý človek. Môže tiež uznať, že si zranený, ale zároveň ti pripomenúť, že realita nemusí byť len čierno-biela. Pamätaj, že ak sa AI stane nástrojom, ktorý len hladká tvoje ego a lichotí ti, môže byť menej pomocníkom a viac posilňovať tvoje vlastné chyby.
