De ce halucinează LLM-urile? Un elev care nu poate preda o foaie albă
De ce halucinează LLM-urile?
Cred că ne putem imagina un LLM ca pe un elev de felul acesta: a citit foarte, foarte multe cărți, dar memoria îi este comprimată, iar el însuși nu știe care părți s-au estompat de fapt; ce e și mai supărător, i se cere – la examen – să „nu predea o foaie albă”.
Punctul lui forte nu este „să știe dacă știe”
Punctul forte real al acestui elev nu este să judece dacă „știe cu adevărat”, ci să înlănțuie cuvintele fluent, astfel încât răspunsul să pară un răspuns rezonabil.
Așadar, atunci când datele în sine sunt neclare, sursele sunt amestecate sau chiar primul pas al raționamentului este greșit, tot ce urmează poate deveni – pentru a menține un ton consecvent – tot mai complet și, cu cât e mai greșit, cu atât mai încrezător.
Esențial este să-i reducem spațiul de „a completa la întâmplare”
Prin urmare, atunci când folosiți AI, esențial nu este să aruncați doar o propoziție: „Găsește-mi răspunsul.” Ci să găsiți o modalitate de a-i reduce spațiul de „a completa la întâmplare”.
O abordare mai bună este:
- structurați întrebarea, enumerând clar contextul, constrângerile și formatul de ieșire;
- când există prea multe date, introduceți-le în loturi, ca să le prelucreze pas cu pas;
- și, mai important, oferiți surse corecte și cereți-i să „răspundă pe baza surselor”, marcând orice loc nesigur.
Tratați-l ca pe un asistent care are nevoie de un subiect clar
Altă metaforă: tratați AI ca pe un asistent căruia „trebuie să i se dea un subiect clar, materiale de referință și un domeniu de răspuns”.
Cu cât întrebarea este pusă mai vag, cu atât îi este mai ușor să completeze la întâmplare; cu cât domeniul este delimitat mai clar, cu atât este mai probabil să ajute cu adevărat.
Cu alte cuvinte, dacă persoana care întreabă reușește să conceapă întrebarea mai degrabă ca un „exercițiu de completat spații libere” decât ca un „eseu” fără limite, atunci răspunsurile date de AI vor tinde de obicei să fie mai convergente și mai apropiate de un rezultat mai precis.