Inteligența artificială generativă a devenit tot mai prezentă în viața de zi cu zi, însă problema acurateței rămâne una dintre cele mai mari provocări ale acestei tehnologii. Pe lângă fenomenul „halucinațiilor”, consumul ridicat de energie și preocupările legate de impactul asupra sănătății mintale, sistemele AI continuă să furnizeze răspunsuri eronate sau incomplete.
Un exemplu este funcția „AI Overview” integrată de Google în motorul său de căutare, care generează automat rezumate pentru anumite întrebări adresate de utilizatori. Deși aceste răspunsuri sunt însoțite de surse și par, la prima vedere, bine documentate, studiile arată că ele nu sunt întotdeauna corecte.
Cât de des greșește AI-ul Google
Potrivit unei analize citate de The New York Times, funcția AI Overview oferă răspunsuri corecte în aproximativ 90% dintre cazuri. Deși procentul pare ridicat, dimensiunea uriașă a volumului de căutări efectuate prin Google transformă și o rată relativ mică de eroare într-o problemă semnificativă.
Estimările arată că motorul de căutare ar putea procesa peste cinci trilioane de interogări până la sfârșitul anului 2026. În acest context, chiar și un procent redus de răspunsuri greșite se poate traduce prin milioane de informații inexacte furnizate utilizatorilor în fiecare oră.
Specialiștii atrag atenția și asupra unui alt aspect: aceeași întrebare poate genera răspunsuri diferite în momente diferite. Astfel, un rezultat incorect poate fi înlocuit ulterior cu unul corect, ceea ce face dificilă evaluarea constantă a fiabilității sistemului.
De unde apar erorile
O parte dintre probleme sunt legate de sursele utilizate pentru generarea răspunsurilor. Cercetătorii au observat că platforme precum Facebook sau Reddit sunt citate frecvent de sistemele AI, inclusiv în situațiile în care informațiile nu sunt verificate riguros.
În alte cazuri, inteligența artificială pornește de la surse credibile, însă interpretează greșit informațiile disponibile și ajunge la concluzii eronate.
Există și riscul manipulării deliberate. Persoane sau organizații care înțeleg modul de funcționare al algoritmilor pot crea conținut fals și îl pot promova artificial pentru a-i crește vizibilitatea online. Dacă acel conținut ajunge să fie considerat relevant de sistem, AI-ul îl poate prelua și transforma în răspunsuri aparent credibile.
Reprezentanții Google susțin că funcția AI Overview utilizează aceleași mecanisme de filtrare și clasificare ca motorul de căutare și că multe dintre exemplele problematice provin din interogări neobișnuite sau formulate într-un mod artificial.
De ce este importantă verificarea informațiilor
Experții recomandă ca răspunsurile generate de inteligența artificială să fie tratate ca un punct de plecare și nu ca o sursă definitivă de adevăr.
O rată de eroare de aproximativ 10% poate părea redusă, însă devine relevantă atunci când utilizatorii se bazează zilnic pe astfel de instrumente pentru informații despre sănătate, educație, finanțe sau alte domenii importante.
În plus, unele studii sugerează că utilizarea excesivă a instrumentelor AI poate reduce tendința de verificare independentă a informațiilor și poate afecta anumite abilități cognitive.
În acest context, recomandarea cea mai prudentă rămâne chiar avertismentul afișat de Google alături de propriul sistem: „AI-ul poate greși. Verificați informațiile importante.”
„Responsabilitatea se construiește împreună.
Intră pe canalul nostru de WhatsApp Responsabil și fii parte dintr-o comunitate care vrea să schimbe România în bine.
Leave a comment