Halucinacije su temeljna greška u dizajnu AI chatbotova. Kada ChatGPT, Gemini, Copilot ili drugi modeli umjetne inteligencije pruže pogrešnu informaciju, bez obzira na to koliko uvjerljivo zvučali, riječ je o halucinaciji. Umjetna inteligencija može halucinirati neznatno odstupanje, naizgled bezazlenu pogrešku, ili se upustiti u iznošenje klevetničke i potpuno izmišljene optužbe.

Neovisno o težini pogreške, one će se neizbježno pojaviti ako dovoljno dugo koristite ChatGPT ili njegove konkurente. Razumijevanje kako i zašto ovi sustavi mogu pobrkati ono što je vjerojatno s onim što je istinito ključno je za svakoga tko želi komunicirati s umjetnom inteligencijom.

Budući da ti sustavi generiraju odgovore predviđanjem koja bi sljedeća riječ trebala doći na temelju obrazaca u podacima za obuku, umjesto provjere u odnosu na stvarne činjenice, mogu zvučati uvjerljivo stvarni dok su istovremeno potpuno izmišljeni. Trik je biti svjestan da se halucinacija može pojaviti u svakom trenutku i tražiti tragove koji se kriju pred vama.

Jedna od najiritantnijih stvari kod AI halucinacija jest to što često uključuju naizgled specifične detalje. Izmišljeni odgovor može spominjati datume, imena i druge pojedinosti koje mu daju privid vjerodostojnosti.

Budući da ChatGPT generira tekst koji nalikuje obrascima koje je naučio tijekom obuke, može stvoriti detalje koji se uklapaju u strukturu valjanog odgovora, a da nikada ne upućuju na stvarni izvor. Mogli biste postaviti pitanje o nekoj osobi i vidjeti stvarne djeliće osobnih podataka o pojedincu pomiješane s potpuno izmišljenom pričom.

Ova vrsta specifičnosti čini halucinaciju težom za uočiti jer su ljudi skloni vjerovati detaljnim izjavama. Ipak, ključno je provjeriti bilo koji od tih detalja koji bi vam mogli uzrokovati probleme ako se pokažu netočnima. Ako se spomenuti datum, članak ili osoba ne pojavljuju nigdje drugdje, to je znak da se možda suočavate s halucinacijom.

Povezan s zamkom specifičnosti je i previše samouvjeren ton mnogih AI halucinacija. ChatGPT i slični modeli dizajnirani su da predstavljaju odgovore tečnim, autoritativnim tonom, a kako piše TechRadar, upravo ta samouvjerenost može učiniti da dezinformacije djeluju pouzdano, čak i kada je temeljna tvrdnja neutemeljena. AI modeli optimizirani su za predviđanje vjerojatnih nizova riječi, pa će čak i kada bi trebali biti oprezni oko onoga što pišu, informacije predstaviti s istom sigurnošću kao i točne podatke.

Za razliku od ljudskog stručnjaka koji bi se mogao ograditi ili reći “nisam siguran”, još uvijek je neuobičajeno, iako u posljednje vrijeme češće, da AI model kaže “ne znam”. To je zato što sveobuhvatan odgovor nagrađuje privid potpunosti umjesto iskrenosti o nesigurnosti.

Izvor: poslovni.hr