Inteligența artificială este folosită din ce în ce mai des pentru sfaturi, conversații și sprijin emoțional, inclusiv de persoane care se confruntă cu anxietate, stres sau alte dificultăți psihologice. Deși aceste instrumente devin tot mai populare, cercetătorii avertizează că ele nu pot înlocui specialiștii și analizează în prezent cât de sigure sunt în situațiile care implică sănătatea mintală.
Interesul pentru această utilizare a AI este în creștere, iar mulți psihologi spun că întâlnesc deja pacienți care folosesc astfel de aplicații ca sursă suplimentară de sprijin.
Cercetătorii încearcă să stabilească limitele inteligenței artificiale
O echipă de la University of Southern California analizează modul în care modelele de inteligență artificială răspund la întrebări reale despre sănătatea mintală și dacă pot fi utilizate în contexte în care deciziile pot avea consecințe importante.
Studiile nu urmăresc doar dacă sistemele oferă răspunsuri corecte din punct de vedere tehnic, ci și dacă acestea sunt sigure, utile și suficient de responsabile pentru a fi folosite în domeniul medical.
Empatia nu este suficientă pentru un răspuns de calitate
Modelele lingvistice moderne sunt capabile să genereze conversații naturale și să ofere răspunsuri care par empatice. Totuși, cercetătorii atrag atenția că sprijinul psihologic presupune mult mai mult decât un dialog fluent.
În practica clinică este nevoie de identificarea simptomelor, înțelegerea contextului personal al pacientului și formularea unor recomandări adecvate. Aceste aspecte nu pot fi evaluate doar prin testele clasice folosite pentru măsurarea performanței inteligenței artificiale.
Specialiștii au analizat răspunsurile oferite de inteligența artificială
În cadrul proiectului CounselBench, aproximativ 100 de profesioniști din domeniul sănătății mintale, majoritatea psihoterapeuți autorizați, au evaluat răspunsurile generate de inteligența artificială la întrebări adresate de persoane aflate în căutarea sprijinului psihologic.
Rezultatele au arătat că modelele au primit frecvent evaluări bune pentru tonul empatic și pentru modul în care comunică. Cu toate acestea, cercetătorii subliniază că un scor ridicat nu garantează și un nivel ridicat de siguranță.
Ce probleme au fost identificate
Analiza a evidențiat mai multe limitări recurente. În numeroase situații, sistemele au oferit recomandări prea generale, insuficient adaptate contextului fiecărei persoane sau au formulat sugestii care depășesc rolul pe care un astfel de instrument ar trebui să îl aibă.
Aceste situații pot apărea chiar și atunci când răspunsurile par bine formulate și inspiră încredere, motiv pentru care cercetătorii consideră că evaluarea siguranței trebuie să fie mult mai riguroasă.
Sunt testate scenarii tot mai complexe
Pentru a înțelege mai bine limitele actualelor modele, specialiștii au creat întrebări mai dificile și situații apropiate de cele întâlnite în practica psihologică. Scopul este identificarea cazurilor în care inteligența artificială poate oferi răspunsuri nepotrivite sau insuficiente.
În etapele următoare vor fi analizate inclusiv conversații cu persoane reticente să coopereze sau aflate în situații emoționale complexe, pentru a observa modul în care reacționează sistemele.
Inteligența artificială poate completa sprijinul oferit de specialiști, dar nu îl poate înlocui
Concluziile cercetării arată că inteligența artificială are potențialul de a deveni un instrument complementar în domeniul sănătății mintale, însă utilizarea sa trebuie însoțită de reguli clare și măsuri suplimentare de siguranță.
Rezultatele studiului vor contribui la dezvoltarea unor modele mai bine pregătite pentru astfel de conversații și la elaborarea unor protocoale care să reducă riscul unor recomandări nepotrivite.
Cercetătorii subliniază că dezvoltarea unor sisteme de încredere nu poate fi realizată doar de specialiști în tehnologie. Colaborarea cu psihologi, psihiatri și alți profesioniști din domeniul sănătății este esențială pentru ca inteligența artificială să ofere un sprijin util, fără a depăși limitele pe care le presupune un act medical sau psihologic.
„Responsabilitatea se construiește împreună.
Intră pe canalul nostru de WhatsApp Responsabil și fii parte dintr-o comunitate care vrea să schimbe România în bine.
Leave a comment