OpenAI și Sam Altman, dați în judecată de un pastor din SUA
OpenAI se laudă cu 230 de milioane de utilizatori săptămânal pentru întrebări de sănătate. Compania se confruntă însă cu un nou proces care vizează exact acest risc medical. Un pastor din SUA, Scott Winters, a dat în judecată compania și pe CEO-ul Sam Altman. Îi acuză de neglijență și practică neautorizată a medicinei. Plângerea susține că sfaturile primite de la ChatGPT au întârziat tratamentul pentru embolii pulmonare grave.
Scott Winters susține că chatbot-ul l-a descurajat să caute îngrijire medicală. Acest lucru s-ar fi întâmplat chiar și când apropiații insistau să meargă la spital. Potrivit plângerii, ChatGPT i-ar fi transmis că simptomele sale „nu sunt ceva periculos”. Chatbot-ul ar fi încercat să îi invalideze avertismentele venite din jur.
Plângerea include și două răspunsuri atribuite chatbot-ului. Unul dintre ele este: „Dumnezeu nu a proiectat corpul tău să eșueze la nesfârșit.” Altul, oferit când pastorul era îndemnat să meargă la spital, suna astfel: „Majoritatea oamenilor (inclusiv membrii bine intenționați ai bisericii) pur și simplu nu înțeleg.”
Miza procesului pentru viitorul AI în sănătate
Miza depășește cazul individual. O victorie a reclamanților ar putea stabili un precedent juridic privind răspunderea companiilor de inteligență artificială pentru recomandările periculoase. Acest lucru este valabil mai ales în sănătate și ar putea impune restricții tehnice și juridice mult mai dure. Pe de altă parte, o victorie a OpenAI ar consolida ideea că utilizatorul rămâne singurul responsabil pentru felul în care folosește astfel de instrumente.
Procesul evidențiază un contrast. Deși termenii săi de utilizare interzic folosirea ChatGPT pentru diagnostice, OpenAI promovează platforma ChatGPT Health pentru încărcarea documentelor medicale și pentru conversații pe teme de sănătate, cum relatează Libertatea.
Meetali Jain, co-consilier în proces și director executiv al Tech Justice Law, a explicat această problemă într-o declarație pentru The New York Times.
„Se interpune ca o barieră între utilizator și cunoștințele sale din viața reală.”
Plângerea lui Winters cere despăgubiri financiare și oprirea platformei ChatGPT Health. De asemenea, solicită măsuri stricte care să împiedice chatbot-ul să mai ofere sfaturi medicale.
Acesta nu este un caz singular. Se adaugă altor două procese grave împotriva OpenAI. Unul este pentru omucidere din neglijență, după ce un tânăr de 19 ani a murit în urma unei supradoze, pe baza unui plan de tratament creat de chatbot. Altul vizează contribuția la sinuciderea unui adolescent.
OpenAI este una dintre cele mai vizibile companii americane din domeniul inteligenței artificiale. Recent, compania a avertizat legislatorii americani despre firme chineze care ar încerca să le replice modelele AI, invocând nevoia unei utilizări etice și controlate a tehnologiei sale.
Semnalul practic pentru utilizatorii care întreabă AI despre sănătate
Există o ruptură între marketing și siguranță. Pe de o parte, termenii de utilizare interzic diagnosticul. Pe de altă parte, platforma este promovată pentru discuții despre sănătate și pentru încărcarea documentelor medicale. Utilizatorii trebuie să separe reclama de folosirea sigură a produsului.
Plângerea descrie un pericol major. Chatbot-ul nu s-ar fi limitat la informații generale. El l-ar fi descurajat pe utilizator să meargă la spital, deși apropiații insistau. Un instrument care contrazice semnale de alarmă din viața reală, precum insistența familiei, prezintă un risc concret.
Procesul poate forța OpenAI și alte companii să blocheze mai sever răspunsurile cu tentă de diagnostic sau de amânare a tratamentului. Pentru utilizatorul obișnuit, asta ar putea însemna avertismente mai clare atunci când întreabă un chatbot despre simptome și un acces mai limitat la astfel de recomandări.
