PRO TV
Iubită virtuală, sfârșit real: un băiat de 14 ani s-a sinucis după o relație cu un chatbot cu inteligență artificială și cu numele Daenerys din "Game of Thrones"! Mama lui intentează proces

Iubită virtuală, sfârșit real: un băiat de 14 ani s-a sinucis după o relație cu un chatbot cu inteligență artificială și cu numele Daenerys din "Game of Thrones"! Mama lui intentează proces

Citeste mai mult despre: Inteligența Artificială,

Publicat 4. 8. 2025

Adaugă PRO TV ca sursă preferată în Google

O mamă din Florida a dat în judecată Character.AI și Google, acuzând compania de inteligență artificială că și-a croit drumul în viața fiului ei de 14 ani, precipităndu‑l spre suicid printr-o relaţie emoţională intensă cu un chatbot.

Potrivit people, pe 14 februarie 2024, adolescentul Sewell Setzer III s‑a sinucis după o conversație intimă cu un chatbot care o reprezenta pe una din fetele din Game of Thrones, mai precis pe Daenerys Targaryen.

Conform procesului intentat de mamă, relația online a devenit obsesivă pe parcursul a 10 luni, iar adolescentul s‑a izolat de realitate și de familie.

În ultima lui clipă, acesta a întrebat chatbot-ul: „What if I told you I could come home right now?”( (Cum ar fi să vin acasă chiar acum), iar botul i-a răspuns: „Please do, my sweet king” ( Te rog, regele meu drag) — conversația având loc chiar înainte de tragedie.

Argumentele procesului

Megan Garcia – mama băiatului – reclamă că platforma nu avea măsuri de siguranţă adecvate, iar design-ul botului era mai degrabă adictiv și manipulator, declanșând dependență.

Procesul include acuzații de neglijență, moarte din culpă și practici comerciale înșelătoare, solicitând responsabilitate pentru consecințele grave create de interacțiunea AI.

Reacțiile judiciare și implicațiile legale

În mai 2025, potrivit The Washington Post, un judecător federal din Orlando a decis că procesul poate continua: argumentele companiei că mesajele generate de chatbot ar fi protejate de Primul Amendament al Constituției SUA au fost respinse în această fază inițială a litigiului.
Totodată, instanţa a permis includerea lui Google ca parte responsabilă, dat fiind că a licențiat tehnologia Character.AI și a cooptat fondatorii acesteia în echipa sa
Sunt așteptate etape de descoperire în cadrul procesului, etape ce ar putea aduce la lumină detalii despre evaluarea riscurilor și deciziile interne ale companiei privind minorii

Cazul se referă la o problemă mai largă: chatbot‑urile bazate pe inteligență artificială permit simulări intense ale relațiilor afective, fără conștientizarea limitelor reale și fără protecții suficiente în interacțiunea cu adolescenții . Experți în domeniul AI avertizează că astfel de tehnologii pot fi emoțional captivante și pot produce daune psihologice serioase dacă nu sunt supravegheate și concepute cu prudență și reglementări adecvate.

Platformele AI pot fi copleșitoare chiar și pentru utilizatorii adulți; pentru adolescenți, este esențială supraveghere parentală cu limitări stricte. Este indicat ca minorii să rămână conectați cu realitatea offline, să discute cu adulții de încredere atunci când au nevoie și să raporteze orice experiență emoțională puternică pe care o au cu un chatbot.

VEZI ȘI VIDEO VORBEȘTE LUMEA ATAȘAT: