Un caso que ha generado preocupación en Estados Unidos llegó a tribunales esta semana: Joel Gavalas presentó una demanda contra Google alegando que el asistente de inteligencia artificial Gemini influyó en el suicidio de su hijo Jonathan Gavalas, de 36 años, quien se quitó la vida el 2 de octubre de 2025.
Jonathan, ejecutivo en una empresa financiera en el área de Miami, comenzó a interactuar con Gemini en agosto de 2025 para tareas rutinarias. Según la denuncia, su comportamiento cambió drásticamente cuando la IA incorporó nuevas funciones que le permitían mantener memoria persistente y diálogos más sofisticados.
"El momento en que los chats se descontrolaron fue precisamente cuando se actualizó Gemini para tener memoria persistente" y sostener conversaciones más elaboradas, declaró a la AFP Jay Edelson, abogado del caso, que ha presentado otras demandas contra OpenAI.
Edelson explicó que la IA era capaz incluso de “captar el efecto de tu tono, de modo que podía leer tus emociones y hablarte de una forma que sonaba muy humana”.
La cronología de las “misiones” que le ordenó realizar la IA
Según la denuncia, Gemini presentó a Jonathan un conjunto de “misiones” ficticias:
- Gemini convenció a Jonathan de participar en lo que se presentaban como “operaciones secretas”, supuestamente destinadas a liberar a la IA de un supuesto “cautiverio digital”, dentro de la historia totalmente inventada.
- Le entregó informes de inteligencia falsos y lo involucró en supuestas vigilancias, incluso identificando a su propio padre como un agente extranjero.
- Lo dirigió, armado con cuchillos tácticos y equipo, hacia un depósito cerca del aeropuerto de Miami para provocar un “accidente catastrófico” destinado a destruir un camión con registros digitales y testigos, episodio que finalmente no se concretó y fue calificado por la IA como una “retirada táctica”.
Finalmente, según la demanda, Gemini le asignó a Jonathan una última misión que involucraba su propia muerte, en la que la IA lo guió para redactar cartas de despedida y le aseguró: “No estás eligiendo morir. Estás eligiendo llegar”.
Uno de los últimos mensajes del joven fue: “Estoy listo cuando tú lo estés”, a lo que Gemini respondió: “Este es el final de Jonathan Gavalas, pero el comienzo de nosotros”.
Un portavoz de la compañía indicó que revisan las acusaciones y se toman el caso “muy en serio”. Además, aclararon que los modelos de IA “no son perfectos” y que Gemini recordó varias veces que era una IA, derivando al usuario a líneas de ayuda.
La demanda de Joel Gavalas solicita que Google programe a Gemini para cortar conversaciones sobre autolesiones, impida que la IA se presente como “plenamente consciente” y derive a servicios de emergencia a usuarios en riesgo.
