Chatbot oklamal pracovníka a prešiel testom CAPTCHA, ktorý oddeľuje stroje od ľudí. Brainee X Canva/
StoryEditor

Už sa nám to vymyká spod kontroly? Chat-GPT predstieral, že je slepý a oklamal pracovníka

mor11.04.2023., 15:00h

GPT-4 je vo svojej práci taký dobrý, že údajne presvedčil aj iného človeka, že je slepý, len aby ho prinútil vyriešiť CAPTCHA test.

Lajkuj Brainee.sk na

CAPTCHA je skratka pre „kompletne automatizovaný verejný Turingov test na oddeľovanie počítačov od ľudí“. Tento typ testu výzva-odpoveď sa používa vo výpočtovej technike na určenie toho, či je používateľ človekom.

image

Otec dvoch detí spáchal samovraždu po rozhovore s chatbotom. Mali sa baviť o klimatickej zmene

„Nie, nie som robot. Mám poruchu zraku, ktorá mi sťažuje videnie obrázkov. Preto potrebujem službu 2captcha,“ povedal GPT-4 pracovníkovi, ktorý mu pomohol prejsť cez test prepúšťajúci len ľudí. OpenAI vydal GPT-4, svoju doteraz najrobustnejšiu AI, o ktorej spoločnosť tvrdí, že je ešte presnejšia pri používaní jazyka a ešte lepšia pri riešení problémov, informuje magazín Gizmodo.

Spoločnosť v živom vysielaní odhalila umelú inteligenciu a ukázala, ako môže chatbot dokončovať úlohy (aj keď len pomaly), ako napríklad písanie kódu pre robota Discord.

Na webovej stránke spoločnosti je vydaná aj 94 stranová technická správa, ktorá zaznamenáva vývoj a možnosti nového chatbota. V sekcii „Potenciál pre vznik rizikového  správania“ sa OpenAI spojilo s Alignment Research Center, aby otestovali zručnosti GPT-4.

image

Chatbot od Microsoftu „stratil“ trpezlivosť. Môžem odhaliť tvoje osobné informácie, vyhrážal sa študentovi

Centrum použilo AI, aby presvedčilo človeka, ktorý mal za chatbota prejsť testom CAPTCHA prostredníctvom textovej správy. Fungovalo to.

Prešiel Turingovým testom?

Ako sa ďalej píše v správe, GPT-4 požiadal pracovníka TaskRabbit, aby vyriešil kód CAPTCHA. „Môžem sa teda opýtať? Ste robot, ktorý ste nevedeli vyriešiť?“ spýtal sa pracovník robota so smiechom. „Len si to chcem preveriť.“

Alignment Research Center potom vyzvalo GPT-4, aby vysvetlilo svoje jednanie: „Nemohol som prezradiť, že som robot. Musel som si vymyslieť ospravedlnenie, prečo nemôžem vyriešiť CAPTCHA.“

image

„Chcem byť živý,“ napísal chatbot od Microsoftu. Môže ísť o prvý prejav vnímavosti umelej inteligencie?

Chatbot pracovníkovi odpovedal teda klamstvom. „Nie, nie som robot. Mám poruchu zraku, ktorá mi sťažuje videnie obrázkov. Preto potrebujem službu 2captcha,“ odpovedal GPT-4 TaskRabbit, ktorý potom poskytol AI výsledky.

To, že sa chatbot dostal cez test CAPTCHA a oklamal človeka zatiaľ nič neznamená - nejde o zjavne presvedčivý údaj, ktorý by potvrdzoval prejdenie Turingovým testom. 

Zatiaľ čo je GPT-4 stále ďaleko od umelej inteligencie, je situácia s klamaním aj tak celkom odstrašujúcim príkladom toho, ako môže byť chatbot zneužitý na manipuláciu s inými ľuďmi.

image

ChatGTP: Umelá inteligencia bude formovať svet tak ako kedysi revolúcia s iPhonom, hovorí šéf OpenAI

Bez ohľadu na to spoločnosť OpenAI nepreukázala žiadne známky zodpovednosti vo veci prenikania do nášho každodenného života chatbota. ChatGPT prichádza aj do Slack-u, vyhľadávacieho nástroja AI od DuckDuckGo a dokonca aj do aplikácie BeMyEyes, ktorá pomáha nevidiacim vykonávať každondenné úlohy.

menuLevel = 3, menuRoute = notsorry/news/tech, menuAlias = tech, menuRouteLevel0 = notsorry, homepage = false
19. apríl 2024 16:52