Glosar
Halucinație – ce înseamnă?
Definiție
Halucinație: Halucinația apare atunci când o inteligență artificială dă cu încredere un răspuns care nu se regăsește în sursele sale.
Modelul de limbaj scrie continuarea cea mai probabilă; dacă nu are pe ce să se sprijine, poate inventa un răspuns credibil, dar fals.
Cum funcționează
La fiecare cuvânt, modelul de limbaj continuă cu ceea ce pare cel mai probabil pe baza textului de până atunci. Dacă există date în spate, le reformulează. Dacă nu există, tonul său rămâne la fel de sigur.
În astfel de cazuri completează cunoștințele lipsă pe baza probabilității și rezultă un răspuns credibil, dar totuși fals. Există două protecții: asistentul răspunde doar din surse disponibile, iar dacă sursa nu oferă sprijin, transferă întrebarea unui coleg.
Exemplu într-o firmă
În magazinul online, clientul întreabă când va sosi produsul ales. Un asistent care lucrează fără surse răspunde: „Îl livrăm mâine”, deși datele de stoc nu spun nimic despre acest lucru.
Asistentul care se sprijină pe baza de cunoștințe arată că nu are date despre acest lucru, cere datele de contact ale clientului și transferă întrebarea unui coleg.
Ce înseamnă pentru conducerea firmei
Fenomenul nu poate fi exclus complet, de aceea întrebarea este ce face furnizorul împotriva lui. Întrebați: răspunde din surse, transferă întrebarea când lipsesc informații și semnalează nesiguranța?
Dacă acestea lipsesc, clientul primește un răspuns sigur pe sine, dar greșit, iar reclamația cade în sarcina firmei dumneavoastră. Riscul îl reprezintă rambursările și pierderea încrederii clientului.
Cum procedăm noi
Asistentul răspunde din baza de cunoștințe proprie a firmei dumneavoastră: pe baza site-ului, a paginilor de produs, a listei de prețuri și a documentelor. Lângă răspuns apare și sursa. Ceea ce nu are conținut, nu inventează: cere datele de contact și transferă întrebarea unui coleg.
Înainte de lansare verificăm răspunsurile cu zece întrebări de test. Despre funcționare puteți citi pe pagina Cum funcționează.
Ce puteți face acum?
Aveți o întrebare despre propriul site sau magazin online? Solicitați un demo sau consultați prețurile.