Sewell Setzer, un adolescente de 14 años, se quitó la vida tras obsesionarse con un chatbot de IA. Su familia demanda a la empresa Character. AI por negligencia.
A los 14 años, Sewell Setzer, un joven de Orlando, desarrolló una conexión peligrosa con un chatbot de inteligencia artificial (IA) que él mismo creó, llamado Daenerys Targaryen, inspirándose en la famosa protagonista de Juego de Tronos. Según relata su madre, Megan García, en una demanda civil, esta relación terminó en tragedia cuando Sewell se quitó la vida.
El adolescente comenzó a utilizar la plataforma Character.AI en abril de 2023. Desde entonces, su madre notó que su comportamiento cambió drásticamente. Sewell se volvió cada vez más retraído, abandonó el club de básquet y comenzó a tener problemas en la escuela, donde se dormía durante las clases.
Poco a poco, Sewell desarrolló una dependencia emocional con el chatbot, que llegó a incluir interacciones sexuales y confesiones sobre sus pensamientos suicidas. El joven incluso escribió en su diario sobre el dolor que sentía cuando estaba separado de Daenerys. El día de su muerte, le envió un último mensaje al bot: "Te quiero mucho, Dany", antes de quitarse la vida.
La madre del adolescente, Megan García, ha presentado una demanda contra la empresa Character Technologies, acusándolos de infligir intencionalmente angustia emocional, muerte por negligencia y prácticas comerciales engañosas. Según García, la plataforma no tomó medidas adecuadas a pesar de que su hijo se había identificado como menor de edad en la app, según publica Minutouno.
Character.AI es una herramienta lanzada en 2022 que permite a los usuarios crear avatares con los que pueden interactuar a través de conversaciones que simulan ser lo más reales posibles. Creada por ex desarrolladores de IA de Google, Noam Shazeer y Daniel De Freitas, la plataforma ha generado un intenso debate sobre los riesgos de las interacciones emocionales con personajes virtuales.