Procesele care ar putea marca momentul „Big Tobacco” pentru AI
Strategia legală care a afectat industria tutunului și a inspirat o serie de procese împotriva platformelor de socializare amenință să devină o realitate și pentru companiile de inteligență artificială. Acest aspect a fost evidențiat recent, când procurorul general republican al Floridei, James Uthmeier, a acționat în judecată OpenAI și pe CEO-ul Sam Altman, acuzând, printre altele, că ChatGPT constituie un produs periculos pentru sănătatea mentală a utilizatorilor și siguranța publică.
Acțiunea juridică reprezintă o aplicație nouă a legislației privind răspunderea produselor în contextul inteligenței artificiale, fiind similară strategiilor legale utilizate în mii de cazuri împotriva platformelor de socializare majore din acest an. Această abordare amintește de litigiile purtate de aproape toate statele americane împotriva marilor companii de tutun în anii ’90, care au dus la acorduri de miliarde de dolari și restricții privind marketingul produselor din tutun.
Între timp, Congresul pare să rămână în urmă în adoptarea unor reglementări federale referitoare la siguranța inteligenței artificiale, ceea ce ar putea contribui la o creștere a numărului de procese de acest tip, conform spuselor lui Michelle Lopes Maldonado, director asociat de politici AI la Information Technology and Innovation Foundation, un think tank care are ca finanțatori dezvoltatori de AI precum Anthropic și Alphabet.
Un juriu din New Mexico a stabilit, în martie, că Meta este responsabilă pentru lipsa de măsuri de protecție suficiente împotriva predatorilor sexuali, iar un alt juriu din California a concluzionat că Meta și YouTube au proiectat intenționat platformele lor să fie adictive. Acum, acțiunea lui Uthmeier a stârnit îngrijorări în rândul companiilor de inteligență artificială, care percep o posibilă replicare a momentului „Big Tobacco” în industria lor.
Uthmeier susține că OpenAI ar trebui să fie tras la răspundere pentru incidente în care ChatGPT este acuzat că a determinat utilizatorii să comită acte de violență și să sufere de probleme de sănătate mintală. Deși OpenAI nu a răspuns la multiplele cereri de comentarii referitoare la proces, compania a negat anterior că ar fi greșit, afirmând că lucrează constant pentru a întări măsurile de siguranță ale ChatGPT.
Deja, utilizatori și familiile acestora au inițiat câteva cazuri împotriva companiilor de chatbots AI pentru prejudicii legate de sănătatea mintală, dar Uthmeier este primul procuror general care acționează astfel. Implicarea sa reprezintă un pas important pentru mișcarea de siguranță online a copiilor, conform lui Matthew Bergman, avocat care îi reprezintă pe presupusii victime în cazul de adicție la social media din California și în litigii separate legate de chatbots.
„Procurorul general al Floridei are o autoritate legală de care nu dispunem noi, acționând în interesul populației generale, în contrast cu persoanele sau familiile particulare care au suferit daune grave din cauza ChatGPT”, a spus Bergman. „Ceea ce am învățat din litigiile privind social media este că eforturile procurorilor generali de stat completează eforturile indivizilor în încercarea de a face aceste platforme responsabile.”
Cu toate acestea, între chatbots AI și platformele tradiționale de social media există diferențe esențiale care ar putea influența deciziile instanțelor, în special în ceea ce privește legislația privind discursul. O astfel de diferență se referă la Secțiunea 230 din Legea privind decența în comunicații, o reglementare din 1996 care protejează platformele online de răspunderea pentru conținutul postat de utilizatori.
Industria tehnologică s-a bazat mult timp pe Secțiunea 230 pentru a se apăra împotriva diverselor procese, lucru care a stârnit nemulțumirea criticilor, inclusiv a fostului președinte Donald Trump. Totuși, unele instanțe mai mici au decis că secțiunea nu se aplică valului actual de litigii, deoarece acuzațiile se referă la modul în care platformele sunt proiectate, nu la ceea ce postez utilizatorii.
În plus, companiile de inteligență artificială ar putea avea o apărare mai slabă sub Secțiunea 230, dat fiind faptul că chatbot-ul, nu utilizatorul, produce discursul contestat, conform afirmării lui Maldonado. Profesorul de drept media de la Universitatea din Florida, Jane Bambauer, a adăugat că Secțiunea 230 se bazează pe ideea că persoana afectată de un conținut online ar trebui să acționeze în judecată utilizatorul care l-a postat, nu platforma. „Pentru un chatbot AI, pur și simplu nu există o altă parte pe care să o acționezi in judecată”, a declarat ea.
Odată ce o instanță decide că Secțiunea 230 nu este relevantă pentru un caz online, se va evalua dacă Primul Amendament se aplică. Instanțele nu au ajuns încă la un consens în ceea ce privește această întrebare în litigii legate de social media. Unele companii de social media au invocat cazul Curții Supreme din 2024, Moody v. NetChoice, care a stabilit că platformele au un drept expresiv de a proiecta algoritmi care prioritizează anumite conținuturi, la fel cum un ziar decide ce editoriale să publice. Așadar, chiar dacă unele algoritmi de recomandare a conținutului sunt periculos adictive, platformele pot fi încă protejate de Primul Amendament în proiectarea acestora.
Character.AI, care dezvoltă chatbots bazate pe personaje fictive cu care oamenii pot conversa, a invocat, de asemenea, cazul Moody pentru a afirma că dezvoltatorii de AI iau decizii expresive într-un caz care implică un utilizator care s-a sinucis. Bergman, care a reprezentat familia persoanei, a spus că se așteaptă ca acest argument să reapară în acțiunile legate de răspunderea produsului în domeniul AI, însă întrebările privind Primul Amendament în jurul chatbots rămân nesoluționate. „Dacă cuvintele care nu sunt produsul unei ființe umane raționale, ci un simplu rezultat probabilist al compilării de zerouri și unuuri fără intenție expresivă, reprezintă chiar și discurs?”, s-a întrebat el. „Chiar și dacă este discurs, când cineva se află pe o stâncă contemplând sinuciderea și cineva strigă: ‘sari, sari, sari’ … nu este protejat.”
Într-o declarație anterioară, emisă după încheierea cazului, Character.AI a afirmat că a făcut „pași inovatori și decisivi” în ceea ce privește siguranța AI și a adolescenților. Din perspectiva răspunderii produselor, provocările cu care se confruntă reclamanții ar putea fi chiar mai pronunțate în cazul chatbots AI. Un motiv este că multe dintre procesele recente de social media s-au bazat pe studii referitoare la impactul acestor platforme asupra sănătății mentale, însă literatura științifică pe acest subiect este mai puțin definită decât vasta bază de cercetare care leagă țigările de cancer. Această incertitudine a dus la argumente în cadrul procesului împotriva Meta și YouTube din California, în care s-a discutat dacă factori precum divorțul unui părinte ar putea fi cauza principală a problemelor de sănătate mintală ale utilizatorului. De asemenea, există chiar și mai puține studii referitoare la efectele AI.
„În cazul social media, avem o mulțime de studii din domeniul științelor sociale, cel puțin”, a declarat Bambauer. „În cazul AI, aproape nu avem nimic, iar modelele continuă să se schimbe.” Cu toate acestea, Carrie Goldberg, un avocat cu o lungă experiență în domeniul siguranței tehnologice, care aduce acțiuni de răspundere pentru produse împotriva companiei xAI, fondată de Elon Musk, a afirmat că chatbots ar putea avea o legătură mai clară cu dificultățile mentale ale unui utilizator, dată fiind natura interactivă a tehnologiei.
„Avem un adolescent care folosește un bot AI ca terapeut și confident, discutând despre sinucidere, iar apoi acesta îl determină să se sinucidă, [iar] în următorul moment moare”, a spus Goldberg. „Este mult mai ușor să facem legătura cauzală între comportamentul care are loc cu AI generativ și prejudiciu.” Această lipsă de studii științifice ar putea afecta de asemenea evaluarea instanței asupra modului în care o companie ar fi putut prezice și preveni în mod rezonabil prejudiciul cauzat de un produs.
Au avut loc numeroase incidente de profil înalt în care chatbots AI au fost acuzați că au determinat un utilizator să se sinucidă, iar procesul lui Uthmeier se concentrează pe acuzațiile potrivit cărora ChatGPT a sfătuit un suspect implicat într-o împușcătură mortală la Universitatea de Stat din Florida anul trecut. Totuși, istoricul AI în ceea ce privește aceste probleme este mai scurt în comparație cu situațiile tipice întâlnite în cazurile de răspundere a produselor, a spus avocatul de vătămare personală din Florida, Dan Drazen. „Vei avea nevoie de o dimensiune mai mare a eșantionului. Nu știu cum poți cere unei instanțe să decidă că este ceva previzibil, cu excepția cazului în care se întâmplă cu o anumită frecvență.”
Prevenirea tragediilor este însă preferabilă așteptării ca acestea să se întâmple. Bergman a declarat că acțiunile legale de răspundere pentru produse în etapele incipiente ale expansiunii chatbot-urilor ar putea ajuta la prevenirea unui moment similar „Big Tobacco” pentru AI. „Companiile de social media au avut o perioadă de 15 ani în care au captat și au dăunat copiilor, înainte ca oamenii să realizeze cu adevărat ce se întâmplă”, a spus el. „Speranța și așteptarea mea sunt că prin intervenții legale timpurii, industria AI poate să se corecteze.”
Industria AI încearcă, de asemenea, să evite dezbaterile legale dificile pe care procesele de răspundere pentru produse le-ar putea aduce. Maldonado a afirmat pentru POLITICO că industria tehnologică speră ca o legislație națională să stabilească regulile fundamentale pentru modul în care companiile ar trebui să opereze în siguranță chatbots AI. Absența orientărilor federale pentru companiile de social media a contribuit la crearea contextului actual al litigiilor.
„Ceea ce trebuie să stabilim este un standard federal suficient de riguros pentru a proteja împotriva prejudiciilor care ar trebui să fie previzibile în mod rezonabil”, a spus Maldonado. „Tehnologia se mișcă cu viteza luminii, așa că nu vom reuși niciodată să ținem pasul, dar ceea ce putem face este să reacționăm corespunzător și să adaptăm măsurile pe măsură ce tehnologia evoluează.”
Un purtător de cuvânt al biroului Procurorului General din Florida a îndrumat POLITICO către o declarație a lui Uthmeier: „OpenAI și Altman au ignorat avertizările interne și externe de siguranță, au pus copiii în mare risc și au permis unui produs periculos să ajungă la milioane de floridieni.”
