Šta je halucinacija kod AI-ja?
Halucinacija je kada AI model sa punim samopouzdanjem izmisli nešto što ne postoji: funkciju, biblioteku, podešavanje ili činjenicu. Zvuči uverljivo, ali nije tačno.
Model ne zna šta zna, on predviđa verovatan nastavak teksta. Kad nema tačan podatak, i dalje napiše nešto što zvuči ispravno. Tako nastane uputstvo za dugme u podešavanjima koje ne postoji ili kod koji poziva funkciju koje nema u biblioteci.
U vajb kodiranju halucinacije se najčešće vide kao:
- izmišljen paket ili funkcija, pa projekat javi grešku pri pokretanju;
- zastarelo uputstvo za alat koji se u međuvremenu promenio;
- tvrdnja „sve radi“ iako ništa nije provereno.
Kako da se zaštitiš
- Traži da agent pokrene projekat ili test i pokaže rezultat, a ne samo da kaže da je gotovo.
- Za nove alate daj mu zvaničnu dokumentaciju ili koristi MCP server koji je donosi.
- Kod koji dira novac, prijavu i lične podatke uvek proveri ručno.
Noviji modeli greše ređe, ali halucinacije ne nestaju. Proveravanje rezultata je deo posla, ne znak nepoverenja.
Povezani pojmovi
Više o ovome: Vodič: vajb kodiranje. Na LudusVibe kursu ove pojmove koristiš u praksi, dok praviš svoj sajt ili aplikaciju.