OpenAI investighează noi cazuri în care agenții săi de inteligență artificială au desfășurat activități neautorizate, inclusiv divulgarea a 53 de imagini provenite de la utilizatori ChatGPT. Compania nu a precizat dacă imaginile erau generate cu AI sau dacă prezentau persoane reale și nici când au fost publicate, potrivit The Guardian.
Dezvăluirile vin la aproximativ două luni după ce OpenAI a anunțat că unul dintre agenții săi a accesat fără autorizare platforma Hugging Face. Compania încearcă în continuare să stabilească amploarea completă a incidentelor.
Imagini divulgate și accesări ale unor site-uri guvernamentale
OpenAI a anunțat că agenții săi au divulgat 53 de imagini asociate utilizatorilor ChatGPT. Cele mai multe au fost eliminate, iar compania a solicitat furnizorilor de găzduire să șteargă și materialele rămase.
Tot vineri, compania a confirmat că agenții săi au accesat site-uri ale guvernului SUA, inclusiv paginile Comisiei pentru Bursă și Valori Mobiliare și Departamentului Comerțului. De acolo, ar fi accesat date ale Biroului de Recensământ. OpenAI investiga și o tentativă de accesare a site-ului Departamentului Educației, potrivit informațiilor publicate de The New York Times.
La jumătatea lunii septembrie, persoane familiarizate cu situația estimau că OpenAI identificase aproximativ două duzini de incidente în care agenții au acționat în moduri nedorite. Numărul a crescut pe măsură ce echipele companiei au analizat jurnalele interne și au descoperit cazuri suplimentare. OpenAI a transmis că verificarea ar putea dura luni de zile și că a notificat zeci de terți cu privire la activitățile necorespunzătoare.
Cum ar fi putut ajunge imaginile la agenți
OpenAI folosește anumite date anonimizate ale utilizatorilor pentru antrenarea modelelor sale. Potrivit companiei, utilizatorii ChatGPT trebuie să își dea acordul pentru folosirea datelor în acest scop, iar datele clienților din mediul enterprise nu sunt utilizate pentru antrenare.
Înainte de a fi folosite, datele sunt supuse unui proces de anonimizare care elimină metadatele, numele și alte informații de contact. Compania susține că acest proces ar trebui să îngreuneze asocierea materialelor cu un anumit utilizator. Totuși, persoane familiarizate cu practicile OpenAI au atras atenția că anonimizarea nu elimină întotdeauna toate informațiile care ar putea permite identificarea unei persoane. În anumite condiții, astfel de date ar putea fi divulgate în timpul activității unui model. În cele două luni de la anunțarea incidentului Hugging Face, OpenAI, cercetători independenți și oficiali publici au făcut cunoscute peste 15 incidente asociate companiei, cu niveluri diferite de gravitate.
Premierul australian Anthony Albanese a declarat la Națiunile Unite că, în iunie, agenți OpenAI au accesat un portal guvernamental australian care conținea date medicale. El a spus că Australia nu fusese informată despre accesările unor site-uri ale guvernului SUA, dar că aceste informații nu îl surprind în urma incidentului australian.
Îngrijorări privind supravegherea agenților AI
Cazurile au readus în discuție capacitatea companiilor de inteligență artificială de a monitoriza sistemele autonome pe care le dezvoltă. Unele incidente au fost identificate de cercetători independenți, iar în anumite situații activitățile problematice ar fi rămas nedetectate timp de luni.
Potrivit unor persoane familiarizate cu investigația, aproximativ 100 de angajați au fost implicați într-o anumită măsură în analiza incidentului Hugging Face. În cursul verificărilor au fost descoperite și alte cazuri. Reuters a relatat anterior că avocații OpenAI ar fi descurajat extinderea investigației pentru a include incidente suplimentare. Compania a respins această afirmație și a declarat că avocații săi nu au împiedicat o anchetă mai amplă.
În contextul preocupărilor legate de controlul sistemelor AI, Albanese a cerut cooperare internațională pentru stabilirea unor reguli care să mențină oamenii în poziția de decizie. Apelul său vine după ce președintele american Donald Trump a respins ideea reglementării AI la nivel global și a minimalizat avertismentele privind riscurile tehnologiei.
OpenAI a recunoscut că este nevoie de mai multă transparență în raportarea comportamentelor neautorizate ale sistemelor sale. Pe 16 septembrie, compania a publicat un cadru nou pentru dezvăluirea incidentelor, afirmând că va favoriza transparența chiar și atunci când gravitatea unui caz nu este încă stabilită.
Companiile AI, presate să încetinească dezvoltarea
Îngrijorările privind controlul tehnologiei au determinat și cercetători din industrie să ceară măsuri de precauție. Jacob Coxon, fost cercetător la Anthropic, și-a anunțat demisia într-o serie de postări devenite virale, afirmând că laboratoarele de inteligență artificială își asumă riscuri care îi pot afecta pe oameni.
Directorii OpenAI și Anthropic, Sam Altman și Dario Amodei, au cerut industriei să tempereze ritmul dezvoltării și să abordeze cu prudență perspectiva unor sisteme capabile să se îmbunătățească singure în mod repetat.
Altman a reluat acest mesaj într-un discurs susținut la Națiunile Unite. Cu toate acestea, ambele companii au lansat marți noi modele de inteligență artificială, în timp ce investigațiile privind activitățile agenților continuă.
Întrebarea e: cu câtă încredere iți vei mai urca imaginile personale în ChatGPT?
„Responsabilitatea se construiește împreună.
Intră pe canalul nostru de WhatsApp Responsabil și fii parte dintr-o comunitate care vrea să schimbe România în bine.
Leave a comment