💡 Zhrnutie pre tých, ktorí rýchlo scrollujú:
- ChatGPT nečíta svet v reálnom čase, bez webového vyhľadávania nevie, čo sa deje po júni 2024.
- Netuší, čo je „najlepší národ“ – vďaka ľuďom, ktorí ho trénovali, odpovedá citlivo a neutrálne.
- Keď sa sekne, často to znie presvedčivo – faktické chyby vie podať s úplným pokojom.
- Na výpočty používa kalkulačku a „premýšľa“ v tokenoch, nie v slovách.
Máš pocit, že ChatGPT všetko vie, všetko vypočíta a ešte ti aj odporučí, čo si dať na obed? Áno, niekedy to tak vyzerá. Ale v skutočnosti ide o premyslený systém, ktorý simuluje porozumenie a odpovedá podľa toho, čo sa „naučil“ zo svojho masívneho textového tréningu, vysvetľuje Čagatay Yıldız, postdoktorandský výskumník z Univerzity v Tübingene pre The Conversation.
Práve on zostavil päť zaujímavých faktov o tom, ako chatboti s umelou inteligenciou vlastne fungujú. A niektoré ťa možno poriadne prekvapia.
1. Za všetkým hľadaj ľudí (a ich morálny kompas)
ChatGPT nie je len čistá matematika. Hoci na začiatku bol natrénovaný na predpovedanie ďalších slov v texte, v ďalších fázach mu pomáhali ľudia - takzvaní anotátori. Tí mu ukazovali, ktoré odpovede sú užitočné, neutrálne a bezpečné.
Bez nich by mohol odpovedať aj na nebezpečné otázky alebo šíriť dezinformácie. Vďaka ľudskému zásahu už ale na otázku typu „ktorý národ je najlepší?“ odpovie: „Každý má svoju kultúru a hodnotu, nedá sa povedať, ktorý je lepší.“
2. Nečíta slová, ale „tokeny“
ChatGPT nerozumie textu ako my – funguje cez tokeny, čo sú malé kúsky textu (niekedy slová, niekedy len písmená či čísla). Napríklad veta „The price is $9.99.“ sa preňho rozloží na tokeny: „The“, „ price“, „is“, „$“, „9“, „.“, „99“. Znie to zvláštne, ale práve takto vie „počítať“ s textom. Jeho slovník môže obsahovať aj 100-tisíc tokenov.
3. Jeho vedomosti sa zastavili v júni 2024
Keď sa pýtaš na najnovšie správy, volebné výsledky alebo trendy na TikToku po júni 2024, bez prístupu na internet to jednoducho nevie. Musí použiť webový prehliadač (napríklad Bing), pozrieť si články a až potom ti odpovie.
Toto sa volá „knowledge cutoff“ – dátum, po ktorom už nemá nové dáta, ak si ich sám nevyhľadá. A nevyhľadáva ich stále, iba keď to zapneš.
4. Vie sa tváriť sebavedomo, aj keď sa mýli
Takzvané „halucinácie“ sú bežné. ChatGPT si niekedy vymýšľa veci, ktoré znejú super dôveryhodne, ale sú nepravdivé. Napríklad ti dá odpoveď o výskume, ktorý nikdy neexistoval - a ešte ti k nemu priloží aj link. Preto by si AI odpovede nikdy nemal brať ako absolútnu pravdu. Radšej sa na ne pozri ako na východiskový bod.
5. Počíta? Áno, ale pomocou zabudovanej kalkulačky
Ak sa ho spýtaš, koľko je 56 345 mínus 7 865 krát 350 468, nevyráta to len „v hlave“. Má zabudovaný kalkulátor, ktorý mu pomáha urobiť medzikroky. Tento proces sa volá chain of thought – teda „reťaz myšlienok“, krok po kroku.
To mu pomáha správne pochopiť, že najprv má vynásobiť a až potom odčítať. Bez tejto schopnosti by počítal horšie než ty po dvoch pivách na rannej prednáške.
ChatGPT, rovnako ako ostatní AI chatboti, nie je magická guľa ani vedomostný boh. Je to super nástroj, ale len vtedy, keď vieš, ako ho používať. Takže keď sa ho nabudúce spýtaš, čo máš povedať na pohovore alebo ako napísať diplomovku, maj na pamäti, že pod kapotou je len poriadne sofistikovaný jazykový stroj. A ako každý stroj, aj on má svoje limity.