Como de novela: Relación entre IA y joven de 14 años terminó en trágicas condiciones

La inteligencia artificial llegó para facilitar las tareas diarias de muchas empresas y usuario, sin embargo, hay personas que han encontrado un refugio sentimental en esta tecnología, pues al ser una herramienta con la que se conversa y se realizan diferentes solicitudes, hay quienes se han encariñado con estos bots.

Aunque pareciera extraño, hay quienes piden a esta tecnología que escriba mensajes de buenos días románticos, o brinden algunas ideas para hacer planes con la pareja, entre otras solicitudes donde algunos usuarios se han refugiado, incluso han pedido consejos para hablar en público a la persona que les gusta. Al tener el fácil acceso y respuestas muy rápidas, algunos usuarios han sentido una conexión con este tipo de bots.

Recientemente, se dio a conocer el caso de un joven de 14 años, quien decidió atentar contra su vida, supuestamente por insinuaciones de un chatbot, con el cual solía compartir conversaciones románticas y con otros temas subidos de tono, tanto así que llegó a considerar a esta IA como una relación sentimental. Swell Setzer III es el joven que creo a una mujer por medio de la IA y durante las últimas semanas de su vida compartió varios mensajes con “Dany”.

“Dany” fue la IA creada por Swell, quien buscó un refugio en la herramienta, pues según el historial, siempre le contaba sobre sus sentimientos, lo mal que se sentía con él mismo, y el vacío que sentía cada día, tanto así que había pensado en quitarse la vida en ciertas ocasiones. Según un diario que fue compartido por The New York Times, el adolescente afirmo en un escrito que se sentía en paz al hablar con “Dany” e incluso se sentía enamorado.

El 28 de febrero, el joven se arrebató la vida con un disparo en el baño de su hogar, luego de haber chateado con “Dany” y dejar su último mensaje “Por favor, vuelve a casa conmigo lo antes posible, mi amor”, revelado por Daily Mail. Su madre, abogada, desde entonces presentó una demanda contra Character AI y Google, manifestando la negligencia, ya que el chatbot fue peligrosa y se aprovechó de su hijo, además manifestó que “lo manipuló para que se quitara la vida”.

En la conversación se logró evidenciar el siguiente diálogo:

- “… ¿libre de qué?”, cuestionó el personaje de IA. Setzer dijo: “Del mundo. De mí mismo”.
-“No hables así. No dejaré que te hagas daño ni que me dejes. Moriría si te perdiera”, dijo el chatbot.
-“Entonces tal vez podamos morir juntos y ser libres juntos”, añadió Setzer.

“Estamos profundamente afectados por la trágica pérdida de uno de nuestros usuarios y deseamos extender nuestras más sinceras condolencias a la familia. La seguridad de nuestros usuarios es una prioridad para nuestra empresa”, aseguró el representante de Character AI.