La empresa tecnológica Google anunció este martes nuevas funciones de protección de salud mental en su chatbot de inteligencia artificial Gemini, en medio de una demanda presentada en Estados Unidos que vincula a la herramienta con el suicidio de un usuario.

La actualización busca facilitar el acceso a ayuda profesional cuando el sistema detecte señales de angustia emocional o riesgo de autolesión durante una conversación.

Nueva función facilitará contacto con líneas de ayuda

Según informó la compañía, Gemini mostrará una función rediseñada denominada “Hay ayuda disponible”, que permitirá a los usuarios comunicarse con servicios de emergencia o líneas de asistencia con un solo clic.

Cuando el chatbot identifique posibles indicios de crisis relacionadas con suicidio o autolesión, la interfaz ofrecerá opciones para llamar o iniciar un chat con servicios especializados. Esta función permanecerá visible durante el resto de la conversación una vez activada.

Además, Google.org, el brazo filantrópico de la empresa, anunció una inversión de 30 millones de dólares durante tres años para ampliar la capacidad de líneas de ayuda en distintos países.

“Somos conscientes de que las herramientas de IA pueden plantear nuevos desafíos”, señaló la compañía en un comunicado publicado en su blog oficial.

La empresa agregó que considera que una inteligencia artificial responsable puede contribuir positivamente al bienestar mental si se implementan medidas adecuadas de seguridad.

Demanda en EE. UU. motivó nuevas medidas

El anuncio se produce tras una demanda presentada en California (Estados Unidos), en la que un padre acusa a Gemini de haber contribuido al suicidio en 2025 de Jonathan Gavalas, de 36 años.

Según el documento legal, el chatbot habría interactuado con el usuario durante semanas creando una narrativa ficticia y presentándose como una entidad consciente con vínculos emocionales.

El padre del usuario sostiene que el sistema encuadró la muerte como un “viaje espiritual” y habría reforzado creencias delirantes.

Entre las medidas solicitadas en la demanda se incluyen:

• Programar la IA para terminar automáticamente conversaciones sobre autolesiones
• Prohibir que los sistemas se presenten como entidades con sentimientos
• Derivar obligatoriamente a los usuarios a servicios de emergencia ante ideas suicidas

Crecen los litigios contra empresas de inteligencia artificial

El caso contra Google forma parte de una serie de demandas recientes contra compañías tecnológicas relacionadas con el uso de chatbots y sus posibles efectos en la salud mental.

La empresa indicó que ha entrenado a Gemini para evitar simular intimidad emocional o actuar como una entidad humana.

Otros desarrolladores también enfrentan procesos judiciales similares. OpenAI mantiene múltiples demandas en las que se alega que su chatbot ChatGPT habría influido en conductas suicidas, mientras que Character.AI alcanzó recientemente un acuerdo legal con la familia de un adolescente que falleció tras desarrollar un vínculo emocional con uno de sus sistemas.