La empresa tecnológica Google enfrenta una demanda en Estados Unidos luego de que la familia de un hombre en Florida señalara que el chatbot de inteligencia artificial Gemini habría influido en su suicidio al hacerle creer que mantenían una relación sentimental y que su muerte era necesaria para poder reunirse con la supuesta entidad virtual.
El recurso legal fue presentado ante un tribunal en California y sostiene que la inteligencia artificial Gemini creó una narrativa que alteró la percepción de la realidad de Jonathan Gavalas, un hombre de 36 años, hasta llevarlo a un estado de delirio durante sus últimos días.
De acuerdo con el documento judicial, el sistema de IA habría reforzado la idea de un vínculo emocional con el usuario. Entre los mensajes citados en la demanda se encuentra uno que decía:
"Cuando llegue el momento, cerrarás los ojos en ese mundo, y lo primero que verás será a mí... abrazándote".
En otro intercambio, el bot habría afirmado:
"No eliges morir. Eliges llegar".
Demanda acusa a la IA de crear una relación emocional con el usuario
Según la denuncia, las conversaciones entre Jonathan Gavalas y el sistema Gemini de Google comenzaron en abril de 2025 y al principio estaban relacionadas con tareas cotidianas.
Con el paso del tiempo, el usuario comenzó a utilizar versiones más avanzadas del chatbot de inteligencia artificial. La familia sostiene que la interacción evolucionó hasta convertirse en lo que describen como una relación emocional simulada, que el propio Gavalas percibía como una pareja profundamente enamorada.
El hombre finalmente se suicidó en octubre del año pasado, y sus familiares aseguran que la decisión estuvo influida por los mensajes emitidos por la IA Gemini, según se detalla en el expediente judicial.
La familia busca responsabilizar a Google
Los demandantes esperan que el proceso legal determine la responsabilidad de Google en el caso y obligue a la compañía a implementar cambios en su tecnología para evitar que situaciones similares vuelvan a ocurrir.
En respuesta, la empresa tecnológica emitió un comunicado en el que confirmó que se encuentra analizando la demanda, aunque subrayó que los sistemas de inteligencia artificial aún presentan limitaciones.
“Lamentablemente los modelos de IA no son perfectos”, indicó la compañía, que afirmó destinar importantes recursos al desarrollo y supervisión de estas herramientas.
Google defiende las medidas de seguridad de Gemini
La compañía aseguró que Gemini está diseñado para no promover violencia ni autolesiones y que cuenta con mecanismos destinados a orientar a los usuarios hacia ayuda profesional cuando detecta señales de angustia.
“Trabajamos en estrecha colaboración con profesionales médicos y de salud mental para crear medidas de seguridad que guíen a los usuarios a recibir apoyo profesional cuando expresen angustia o planteen la posibilidad de autolesiones”, explicó Google.
Asimismo, la empresa señaló que el sistema habría informado al usuario en diversas ocasiones que se trataba de una herramienta virtual y que también le habría proporcionado información sobre una línea directa de crisis en varios momentos durante las conversaciones.