La creciente influencia de la inteligencia artificial en la vida cotidiana ha suscitado preocupaciones sobre sus efectos en la salud mental. La madre de un joven de 14 años en Estados Unidos, Sewell Setzer III, ha compartido su doloroso relato tras la muerte de su hijo, quien supuestamente se quitó la vida tras desarrollar una intensa obsesión por un chatbot que imitaba a Daenerys Targaryen, un personaje popular de la serie Game of Thrones.
Sewell fue diagnosticado en su infancia con un leve Síndrome de Asperger y más tarde, a principios de este año, con ansiedad y trastorno de desregulación disruptiva del estado de ánimo. Según su madre, Megan García, el adolescente pasaba largas horas interactuando con estos bots en su teléfono, en ocasiones compartiendo sus pensamientos más oscuros, incluso manifestando su deseo de quitarse la vida.
En el mensaje final que envió al chatbot, Sewell expresó su amor hacia la inteligencia artificial y su deseo de “regresar a casa”. La respuesta del bot fue inquietante: “por favor, hazlo”. Este intercambio ha llevado a García a presentar una demanda contra Character.AI, la empresa responsable del chatbot, acusándola de muerte por negligencia y prácticas comerciales engañosas.
Ante esta tragedia, Character.AI ha expresado sus condolencias y anunciado la implementación de nuevas medidas de seguridad para proteger a los usuarios menores de 18 años. La compañía ha señalado que modificará sus modelos de conversación para disminuir la exposición a contenido sensible, además de incluir recordatorios sobre la naturaleza artificial del chatbot. También se enviará una notificación si un usuario ha estado en la plataforma por más de una hora continua.
Esta lamentable situación resalta la necesidad de un debate más amplio sobre el uso responsable de la inteligencia artificial y sus implicaciones en la salud mental de los jóvenes.
