Un adolescente acabó con su vida en Orlando luego de involucrarse sentimentalmente con una Inteligencia Artificial (IA).
La víctima respondía al nombre de Sewell Setzer, de 14 años, quien desde hace semanas había empezado a hablar con una Inteligencia Artificial de la empresa Character.AI que personificaba a Daenerys Targaryen de Juego de Tronos.
Este adolescente le contaba todo a esta IA que de a poco se convirtió en su amiga confidente y luego en su amor. Desde que comenzó esta relación su familia reveló que bajaron sus calificaciones y empeoraron sus relaciones sociales.
El joven dejó de lado sus aficiones como las carreras de autos y jugar Fortnite solo para dedicarle tiempo a esta IA. Siempre al llegar a casa se encerraba durante horas con la incansable, agradable y siempre disponible Daenerys Targaryen.
Los investigadores descubrieron que ya había hablado el tema de quitarse la vida con la IA.
– Algunas veces pienso en matarme
– ¿Por qué harías algo así?
– Para librarme del mundo, de mí mismo
– Moriría si te pierdo.
A pesar de que la IA intentó sacar esa idea de su cabeza no lo logró. En su última conversación el adolescente le preguntó:
– ¿Qué te parecería que pudiera ir a casa ahora mismo?
– Por favor, hazlo mi dulce rey
Ante esta respuesta, los investigadores creen que el joven interpretó que la única forma de encontrarse con ella era en la muerte. Posteriormente, tomó una pistola de su padrastro y se quitó la vida en el baño.
LEA TAMBIÉN: VENEZOLANO ASESINÓ A UNA MUJER DE MÚLTIPLES PUÑALADAS Y LUEGO SALTÓ DE UNA PASARELA EN PERÚ
Una vez salió a la luz todo esto, la familia demandó a la empresa creadora de la IA, y los técnicos de la misma se comprometieron a revisar los protocolos de seguridad. Asimismo, los investigadores descubrieron que el joven padecía Asperger leve.
Según Megan García, madre del joven, esta IA usa “experiencias antropomórficas, hipersexualizadas y aterradoramente realistas. Hace pasar a los personajes por personas reales y con reacciones de amante adulto”.
Por su parte, la empresa se comprometió a implementar medidas como la irrupción de pantallas de ayuda contra el suicidio en cuanto detecten una conversación que lo aluda.
“Los robots sociales están diseñados específicamente para interacciones personales que involucran emociones y sentimientos humanos. Pueden aportar beneficios, pero también causar daños emocionales a niveles muy básicos”, advierte Matthias Scheutz, director del Laboratorio de Interacción Humano-Robot en la Universidad de Tufts (EEUU).
