O investigație realizată de publicația The Guardian atrage atenția asupra unor informații medicale false sau înșelătoare oferite de rezumatele generate de inteligența artificială din Google. Specialiștii avertizează că aceste răspunsuri afișate direct în motorul de căutare pot pune în pericol sănătatea utilizatorilor. Funcția Google AI Overviews, bazată pe inteligență artificială generativă, a fost creată pentru a furniza rapid explicații și informații esențiale despre diverse subiecte. Compania susține că sistemul este „util” și „fiabil”, însă ancheta The Guardian arată că unele rezumate conțin erori grave sau recomandări medicale incorecte.
Unul dintre exemplele considerate „extrem de periculoase” de către experți viza cancerul pancreatic. În acel caz, sistemul AI recomanda evitarea alimentelor bogate în grăsimi, deși specialiștii spun că pacienții cu această afecțiune au nevoie tocmai de un aport adecvat de grăsimi pentru a tolera tratamente precum chimioterapia sau intervențiile chirurgicale.
În alte situații, rezumatele generate de AI au oferit informații eronate despre valorile analizelor hepatice, fără a ține cont de factori importanți precum vârsta, sexul sau etnia. Medicii avertizează că astfel de răspunsuri îi pot face pe unii pacienți să creadă în mod greșit că sunt sănătoși și să amâne consultul medical.
Specialiștii avertizează asupra riscurilor
Probleme au fost identificate și în cazul informațiilor despre sănătatea femeilor. O căutare privind depistarea cancerului vaginal a indicat testul Papanicolau drept metodă de diagnostic, deși acesta nu detectează acest tip de cancer. Experții spun că astfel de informații pot determina femeile să ignore simptome importante.
Îngrijorări similare există și în zona sănătății mintale. Organizațiile din domeniu au semnalat că unele rezumate AI despre psihoză sau tulburări alimentare pot conține sfaturi periculoase, informații inexacte sau formulări care descurajează oamenii să caute ajutor specializat.
Potrivit specialiștilor, problema este amplificată de faptul că mulți utilizatori tind să considere răspunsurile generate de inteligența artificială drept corecte și verificate.
Google spune că îmbunătățește constant sistemul
Reprezentanții Google au declarat că majoritatea rezumatelor AI sunt corecte și utile și că exemplele prezentate în investigație nu reflectă experiența obișnuită a utilizatorilor. Compania susține că investește constant în îmbunătățirea calității răspunsurilor, în special pentru domenii sensibile precum sănătatea.
Totuși, experții din domeniul medical recomandă ca informațiile găsite online, mai ales cele generate automat de inteligența artificială, să nu înlocuiască sfatul unui medic sau consultul de specialitate.
Ancheta vine într-un context mai amplu de preocupări legate de conținutul generat de AI, după ce alte studii au arătat că unele sisteme automate pot furniza și informații financiare sau de actualitate incorecte ori scoase din context.
„Responsabilitatea se construiește împreună.
Intră pe canalul nostru de WhatsApp Responsabil și fii parte dintr-o comunitate care vrea să schimbe România în bine.
Leave a comment