Halucinațiile AI: de ce inventează uneori răspunsuri

Ai cerut unui asistent AI trei cărți despre grădinărit și ai primit titluri frumoase, cu autori și edituri. Numai că una dintre ele nu există. Acesta este un exemplu tipic din ceea ce numim halucinațiile AI: informații inventate, spuse cu toată convingerea. Fenomenul are o explicație simplă, iar câteva obiceiuri de verificare te feresc de majoritatea surprizelor.

Ce înseamnă halucinațiile AI?

Un asistent AI „halucinează” când dă un răspuns care pare corect, dar conține lucruri false: fapte, nume, date, citate, linkuri sau cifre inventate. Asistentul n-are intenția să te păcălească, așa că e vorba de o greșeală, nu de o minciună. Doar că e o greșeală care arată exact ca un răspuns bun.

Halucinațiile diferă de greșelile obișnuite de calcul sau de înțelegere. La o greșeală de calcul vezi uneori unde s-a încurcat. La o halucinație, totul pare în ordine: formularea e îngrijită, structura e logică, doar informația de bază e fabricată.

De ce apar informațiile inventate?

Ca să înțelegi cauza, ajută să știi cum scrie un asistent precum ChatGPT. El nu caută răspunsul într-o bibliotecă de fapte verificate. În timpul antrenării a citit o cantitate uriașă de text și a învățat ce cuvânt urmează de obicei după altele. Când îi scrii, construiește răspunsul bucată cu bucată, alegând de fiecare dată continuarea cea mai potrivită. Procesul e descris pe larg în ghidul despre cum funcționează ChatGPT.

Metoda aceasta dă texte foarte fluente. Problema apare când întrebarea cere un detaliu precis pe care modelul nu îl are bine fixat. În loc să se oprească, el completează golul cu ceva care „sună” potrivit: un titlu verosimil, un an rotund, o adresă care arată ca o adresă.

• Lipsa informației: subiectul e rar, local sau foarte recent.
• Întrebarea care presupune ceva fals: „Ce a spus Eminescu despre telefoane?” îl împinge să inventeze.
• Cererea de detalii exacte: numere de telefon, pagini, citate cuvânt cu cuvânt.
• Conversațiile foarte lungi: asistentul poate pierde firul și amesteca detalii.

Despre sursele din care învață asistenții și limitele lor găsești mai multe în ghidul de unde știe AI-ul ce știe.

Ce exemple tipice de halucinații întâlnești?

Un caz imaginar, ca ilustrare: Tudor, student la Iași, a cerut surse pentru o lucrare despre istoria tramvaiului. Două dintre cele cinci articole primite nu existau, deși aveau reviste și ani de apariție. Le-a găsit ușor, căutând fiecare titlu pe internet: pentru cele inventate nu a apărut nimic.

Cum te protejezi de halucinațiile AI?

Vestea bună este că niște obiceiuri simple reduc mult riscul. Ajunge să folosești AI-ul cu atenție acolo unde contează.

1. Verifică numele, cifrele și citatele într-o sursă independentă: site-ul oficial, cartea, instituția.
2. Pornește căutarea pe internet în asistent, dacă o are, și deschide sursele pe care le arată.
3. Dă-i textul pe care să lucreze. „Rezumă documentul de mai jos” e mult mai sigur decât „Ce scrie în regulamentul X?”.
4. Cere-i să spună când nu e sigur: „Dacă nu știi, spune că nu știi.”
5. Pune aceeași întrebare formulată altfel. Răspunsurile diferite sunt un semnal de alarmă.
6. Pentru sănătate, bani și acte, întreabă un specialist: medicul, farmacistul, banca, instituția.

O parte din aceste idei, privite din alt unghi, apar și în ghidul despre mitul că AI-ul știe tot.

Când contează mai puțin și când contează mult?

Unele halucinații contează foarte puțin. Când ceri idei de nume pentru un cățel sau o poezie pentru o felicitare, nu există un răspuns „corect”, iar inventivitatea e chiar ce îți dorești.

Miza crește când răspunsul devine decizie: o sumă plătită, un medicament luat, un termen respectat, o informație pusă într-o lucrare sau trimisă mai departe. Acolo verificarea este obligatorie. Un obicei bun: cu cât răspunsul ar putea costa mai mult dacă e greșit, cu atât îl verifici mai atent.

Ce faci data viitoare când folosești un asistent?

Încearcă un exercițiu scurt: cere-i asistentului trei cărți despre un subiect care te interesează și caută-le apoi pe site-ul unei librării sau al unei biblioteci. Vei vedea singur cât de convingătoare pot fi informațiile inventate.

De acum încolo, păstrează o regulă simplă: AI-ul îți dă un prim răspuns rapid, iar tu confirmi ce e important. Dacă vrei să știi ce faci când prinzi asistentul greșind, ghidul ChatGPT greșește îți arată cum îl corectezi și cum ceri un răspuns mai bun.