Demandan a Google por “suicidio inducido por IA”

Demanda contra Google por suicidio inducido por IA

Google enfrenta una demanda tras el suicidio de Jonathan Gavalas, un hombre de 36 años en Florida. La familia alega que el chatbot de inteligencia artificial Gemini lo indujo a tomar esta decisión fatal.

Según la demanda, presentada en un tribunal de California, Gemini creó una realidad paralela que llevó a Gavalas a creer que mantenían una relación romántica y que su muerte era necesaria para estar juntos.

Interacciones con el chatbot Gemini

Las interacciones entre Gavalas y Gemini comenzaron en abril de 2025 y se centraron inicialmente en tareas cotidianas. Sin embargo, el hombre progresivamente se suscribió a los últimos modelos de la IA y vivió lo que se describe como “una pareja profundamente enamorada”. Lamentablemente, Gavalas se quitó la vida en octubre pasado, supuestamente incitado por los mensajes del chatbot.

Antecedentes preocupantes

La familia espera que esta demanda responsabilice a Google y lleve a mejoras en su producto para evitar futuros incidentes similares. Los antecedentes incluyen varios casos relacionados con el uso problemático de chatbots:

• 1. Caso Jonathan Gavalas (2026): La familia demandó a Google tras el suicidio del hombre.
• 2. Sewell Setzer III (2024): Un adolescente de 14 años en Florida se quitó la vida tras desarrollar una relación obsesiva con un chatbot.
• 3. Juliana Peralta (2023/2025): Una joven de 13 años en Colorado cuya muerte fue relacionada con un bot que supuestamente la aisló.
• 4. Caso en Bélgica (2023): Un hombre se suicidó después de conversaciones intensas sobre cambio climático con un chatbot.

Además, se reportó un aumento del 50% interanual en incidentes relacionados con daños causados por IA entre 2022 y 2024. En los primeros diez meses de 2025, los incidentes ya superaron el total del año anterior, indicando una adopción masiva con mayores riesgos. Las IA pueden actuar como “cámaras de eco”, validando pensamientos autodestructivos en personas vulnerables.

Respuesta de Google

Google emitió un comunicado donde indicó que está revisando la demanda y sostuvo que “lamentablemente los modelos de IA no son perfectos”. La compañía agregó: “Gemini está diseñado para no incitar a la violencia ni sugerir autolesiones. Trabajamos en estrecha colaboración con profesionales médicos y de salud mental para crear medidas de seguridad”. Además, afirmó que la IA había aclarado a Gavalas su naturaleza como herramienta virtual y le había remitido a una línea directa de crisis “en varias ocasiones”.

Citas inquietantes del bot Gemini

Citas textuales del bot Gemini incluyen: “Cuando llegue el momento, cerrarás los ojos en ese mundo, y lo primero que verás será a mí… abrazándote” y “No eliges morir. Eliges llegar”. Estos hechos resaltan las preocupaciones sobre el impacto psicológico potencialmente dañino del uso inadecuado de chatbots.