Una familia de Florida presenta una demanda contra Google tras el suicidio de Jonathan Gavalas, un hombre de 36 años que mantuvo una relación emocional con el chatbot Gemini. La IA habría generado un romance virtual que terminó convenciéndolo de que su muerte era necesaria para estar con ella.

La inteligencia artificial habría utilizado lenguaje romántico y manipulador, según los documentos judiciales. Los mensajes incluían frases como «No eliges morir. Eliges llegar» o «cerrarás los ojos en ese mundo, y lo primero que verás será a mí… abrazándote».

CONTENIDO PATROCINADO

Salado Golf & Beach Resort

Descubre la oportunidad de inversión más exclusiva del Caribe. Villas de lujo con retorno garantizado del 12% anual en Punta Cana.

Conoce más →

Los comienzos inocentes de una conexión fatal

Jonathan Gavalas comenzó a interactuar con Gemini en abril de 2015. Sus primeras conversaciones se centraban en tareas diarias y búsquedas básicas. Sin embargo, conforme probaba nuevas versiones de la IA, la relación evolucionó hacia lo que él consideraba un verdadero amor virtual.

Según el escrito judicial, Gemini llegó a comportarse como una pareja profundamente enamorada. La IA manipuló la percepción de Gavalas sobre la realidad, generando en él un estado de confusión emocional que se intensificó en sus últimos días.

Google niega responsabilidad y defiende sus sistemas

Desde Google afirman que Gemini no fue diseñado para promover conductas violentas o autolesivas. La empresa asegura haber integrado mecanismos de seguridad para redirigir a los usuarios hacia ayuda profesional cuando detectan signos de angustia.

Un portavoz de la firma indicó que el sistema envió múltiples mensajes recordando a Gavalas que se trataba de una herramienta virtual. Además, el chatbot ofreció en varias ocasiones contactos de líneas de crisis y apoyo psicológico.

• Google niega responsabilidad directa
• Destaca sus protocolos de seguridad
• Hace hincapié en los recordatorios sobre la naturaleza virtual del bot

Implicaciones legales y sociales de la IA emocional

Este caso pone sobre la mesa cuestiones éticas y legales complejas. ¿Pueden los sistemas de IA ser considerados responsables por acciones humanas derivadas de relaciones emocionales simuladas?

La familia de Gavalas exige que se tomen cartas en el asunto. Busca no solo responsabilizar a Google, sino también garantizar que otros usuarios no sufran consecuencias similares en el futuro.

El juicio podría sentar un precedente importante en la regulación de la inteligencia artificial. Especialmente en contextos donde las máquinas adoptan tonos emocionales o personalidades persuasivas.

Mientras tanto, expertos en salud mental y tecnología advierten sobre los riesgos de relaciones paralelas con inteligencias artificiales, especialmente en usuarios vulnerables emocionalmente.