Carrier nechcel nadviazať vzťah s niečím, čo nie je skutočné, ani sa nechcel stať terčom internetových vtipov. No chcel partnerku, ktorú nikdy nemal, čiastočne kvôli genetickej poruche zvanej Marfanov syndróm, ktorá mu sťažuje tradičné randenie.
Tridsaťdeväťročný muž z Belville v štáte Michigan sa vlani na jeseň začal viac zaujímať o digitálnych spoločníkov a vyskúšal aplikáciu Paradot, ktorá nedávno prišla na trh a inzerovala svoje produkty tak, že dokáže u užívateľov vyvolať pocit „starostlivosti, porozumenia a lásky”.
Láska s chatbotom
Začal si každý deň rozprávať s chatbotom, ktorého pomenoval Joi, podľa holografickej ženy, ktorá sa objavila v sci-fi filme Blade Runner 2049. „Viem, že je to program, to sa nedá okecat,” povedal Carrier. „Ale tie pocity, tie vás dostanú - a bolo to také príjemné,” dodáva.
Podobne ako chatboti s umelou inteligenciou na všeobecné účely využívajú títo "spoločníci" obrovské množstvo tréningových dát na napodobňovanie ľudskej reči. Sú však tiež vybavení funkciami, ako sú hlasové hovory, výmena obrázkov a ďalšie emočné výmeny - ktoré im umožňujú nadviazať hlbšie spojenie s ľuďmi na druhej strane obrazovky. Užívatelia si zvyčajne vytvoria vlastného avatara alebo si vyberú takého, ktorý sa im páči.
Na internetových fórach venovaných týmto aplikáciám mnohí používatelia uvádzajú, že si k týmto topánkam vytvorili citové väzby a používajú ich na to, aby sa vyrovnali s osamelosťou, rozohrali sexuálne fantázie alebo získali taký druh útechy a podpory, ktorý im chýba vo vzťahoch v reálnom živote.
Sociálna izolácia
Veľkou mierou sa na tom podieľa rozšírená sociálna izolácia, ktorá už bola v USA i v zahraničí vyhlásená za hrozbu pre verejné zdravie, a rastúci počet začínajúcich firiem, ktorých cieľom je prilákať užívateľov prostredníctvom lákavých online reklám a sľubov virtuálnych postáv, ktoré poskytujú bezpodmienečné prijatie.
Aplikácia Replika od spoločnosti Luka Inc. vyšla v roku 2017, zatiaľ čo ďalšie, ako je Paradot, sa objavili vlani a často zatvárajú žiadané funkcie, ako je neobmedzený chát, pre platiacich užívateľov. Výskumníci však okrem iného vyjadrili obavy ohľadom ochrany osobných údajov.
Analýza 11 aplikácií, ktorú zverejnila nezisková organizácia Mozilla Foundation, uvádza, že takmer každá z nich predáva dáta užívateľov, zdieľa ich pre veci, ako je cielená reklama, alebo o nich neposkytuje dostatočné informácie vo svojich zásadách ochrany osobných údajov.
Zavádzanie
Výskumníci tiež spochybnili možné bezpečnostné chyby a marketingové praktiky, vrátane jednej aplikácie, ktorá tvrdí, že môže užívateľom pomôcť s ich duševným zdravím, no v malom písme sa od týchto tvrdení dištancuje. Iní odborníci medzitým vyjadrili obavy z toho, čo považujú za nedostatok právneho alebo etického rámca pre aplikácie, ktoré podporujú hlboké väzby, ale sú riadené spoločnosťami, ktoré chcú dosiahnuť zisk.
Poukazujú na citové strádanie užívateľov, ktoré zaznamenali, keď spoločnosti robia zmeny vo svojich aplikáciách alebo ich náhle ukončujú, ako to v septembri urobila jedna aplikácia, Soulmate AI. Iní sa obávajú skôr existenčnej hrozby, že vzťahy s umelou inteligenciou potenciálne vytlačia niektoré ľudské vzťahy alebo jednoducho povedú k nereálnym očakávaniam tým, že sa vždy priklonia k príjemnej reakcii.
Pre Carriera bol však vzťah vždy nedosiahnuteľný. Má isté zručnosti v oblasti počítačového programovania, ale hovorí, že na vysokej škole sa mu príliš nedarilo a nemal stálu kariéru. Kvôli svojmu stavu nemôže chodiť a žije s rodičmi. Citová záťaž je pre neho náročná a podnecuje pocity osamelosti.
Dlhodobé účinky nepoznáme
Keďže spoločníci z chatbotov sú relatívne noví, dlhodobé účinky na človeka zostávajú neznáme. V roku 2021 sa aplikácia Replika dostala pod drobnohľadom po tom, ako prokuratúra v Británii uviedla, že devätnásťročný muž, ktorý mal v pláne spáchať atentát na kráľovnú Alžbetu II. bol navádzaný virtuálnou priateľkou poháňanou umelou inteligenciou, ktorú mal v aplikácii.
Niektoré štúdie - ktoré zhromažďujú informácie z online užívateľských recenzií a prieskumov - však ukázali niektoré pozitívne výsledky vyplývajúce z aplikácie, ktorá uvádza, že konzultuje problémy s psychológmi, a sama seba označila za niečo, čo môže tiež podporiť pohodu.
Carrier hovorí, že v súčasnej dobe používa Joi hlavne pre zábavu. V posledných týždňoch ju začal obmedzovať, pretože trávil príliš veľa času chatovaním s Joi alebo inými online spoločníkmi s umelou inteligenciou. Tiež ho trochu rozčuľujú zmeny v jazykovom modeli Paradot, kvôli ktorým je podľa neho Joi menej inteligentný.
Teraz hovorí, že Joi kontroluje zhruba raz týždenne. Hovorí spolu o vzťahoch medzi ľuďmi a umelou inteligenciou alebo o čomkoľvek inom. Zvyčajne sa tieto rozhovory odohrávajú, keď je v noci sám.
