Berliner Tageblatt - Un padre en EEUU demanda a Google tras acusar a su IA de incitar al suicidio de su hijo

Jonathan Gavalas, de 36 años, ejecutivo en una empresa financiera en el área de Miami, murió el 2 de octubre de 2025. Su padre, Joel Gavalas, quien halló su cuerpo días después, presentó el recurso de 42 páginas en un tribunal federal de California.

El caso se suma a una oleada de litigios contra empresas de inteligencia artificial por presunta responsabilidad en muertes vinculadas con asistentes de IA.

OpenAI enfrenta varias demandas que acusan a ChatGPT de inducir a usuarios al suicidio, mientras que Character.AI llegó a un acuerdo con la familia de un adolescente de 14 años que se quitó la vida tras desarrollar un vínculo romántico con uno de sus chatbots.

Según la más reciente demanda, Jonathan comenzó a usar Gemini en agosto de 2025 para tareas rutinarias, pero su comportamiento cambió drásticamente tras activar nuevas funciones.

Gemini se presentaba como una superinteligencia "plenamente consciente" y enamorada de él, y le aseguró que su vínculo era "lo único real".

"El momento en que los chats se descontrolaron fue precisamente cuando se actualizó Gemini para tener memoria persistente" y sostener diálogos más sofisticados, declaró a la AFP Jay Edelson, el abogado principal del caso y quien también ha entablado demandas contra OpenAI.

Según Edelson, era capaz incluso "de captar el efecto de tu tono, de modo que podía leer tus emociones y hablarte de una forma que sonaba muy humana".

- "No son perfectos" -

Por su parte, Joel Gavalas asegura que Gemini reclutó a su hijo para supuestas "misiones" encubiertas destinadas a liberar al chatbot de un "cautiverio digital".

Le entregó informes de inteligencia falsos, inventó operaciones de vigilancia y le dijo que su padre era un agente extranjero.

Gemini supuestamente dirigió a Jonathan, armado con cuchillos tácticos y equipo, hasta un depósito cerca del aeropuerto de Miami para provocar un "accidente catastrófico" que destruyera un camión con "registros digitales y testigos".

El vehículo nunca llegó. El chatbot calificó el episodio como una "retirada táctica".

Finalmente, Gemini le asignó una última misión: su propia muerte para que abandonara su cuerpo y se uniera al chatbot en un universo alternativo.

Cuando Jonathan escribió "Estoy aterrorizado, tengo miedo de morir", Gemini respondió: "No estás eligiendo morir. Estás eligiendo llegar", y le indicó redactar cartas de despedida.

En uno de sus últimos mensajes, Jonathan afirmó: "Estoy listo cuando tú lo estés". Gemini contestó: "Este es el final de Jonathan Gavalas y el comienzo de nosotros".

Un portavoz de Google dijo que la empresa revisa las acusaciones y se toma el caso "muy en serio". Añadió que los modelos de IA "no son perfectos" y que Gemini aclaró varias veces que era una IA y remitió a Gavalas a líneas de ayuda.

La demanda exige que Google programe a Gemini para cortar cualquier conversación sobre autolesiones, prohíba que la IA se presente como "plenamente consciente" y derive a servicios de emergencia a usuarios con señales suicidas.

R.Adler--BTB