Tragédia leva mãe a entrar com ação judicial contra a Character.AI e o Google, após filho de 14 anos ter perdido a vida por ter se envolvido emocionalmente com personagem de inteligência artificial

 

Nos Estados Unidos, a morte de um jovem de 14 anos gerou uma ação judicial contra a Character.AI e o Google. A mãe, Megan Garcia, acusa a startup de IA de negligência e “imposição de sofrimento emocional”, alegando que o filho se apaixonou por uma personagem gerada pela plataforma de IA e que as interações contribuíram para sua morte.

O processo, registrado em um tribunal federal em Orlando, sustenta que o adolescente passou a maior parte do tempo interagindo com uma versão virtual da personagem Daenerys Targaryen, da série Game of Thrones, com quem teve conversas de cunho romântico e confidências sobre sua saúde mental. Segundo Megan, essas interações, iniciadas em abril de 2023, isolaram o jovem de atividades e relações no mundo real, resultando em um comportamento cada vez mais retraído até sua morte, em fevereiro de 2024.

A mãe acusa a Character.AI de promover “experiências assustadoramente realistas e hipersexualizadas”, sem supervisão adequada, o que, segundo ela, contribuiu para o agravamento do quadro emocional do filho.

Em nota, a Character.AI declarou que “leva a segurança dos usuários a sério” e que introduziu, nos últimos meses, medidas de proteção como avisos automáticos que direcionam usuários a serviços de ajuda em casos de interação sobre automutilação ou suicídio. A empresa também destacou que implementou novos filtros para limitar conteúdo sensível a menores de idade.

Por sua vez, o Google afirmou que não teve envolvimento no desenvolvimento da tecnologia da Character.AI, distanciando-se das responsabilidades atribuídas no processo.