Con más de mil millones de personas afectadas por problemas de salud mental en el mundo, Google decidió optimizar su sistema de inteligencia artificial Gemini para mejorar la forma en que responde ante situaciones de crisis. La iniciativa llega en un momento en que muchas organizaciones han alertado sobre un riesgo creciente: que jóvenes estén usando herramientas de IA como sustituto de la atención psicológica profesional.

El anuncio incluye varios cambios concretos en la plataforma. El primero es un módulo llamado "Ayuda disponible", desarrollado junto con expertos clínicos, que se activará cuando Gemini detecte que una persona podría necesitar orientación en salud mental. Cuando el sistema identifique posibles situaciones de crisis relacionadas con suicidio o autolesiones, desplegará una interfaz simplificada que permitirá a los usuarios acceder con un solo toque a líneas de ayuda disponibles mediante chat, llamada, mensajes de texto o sitios web especializados. La opción de contacto permanecerá visible durante toda la conversación.

Diana Camila Garzón Velandia, profesora de la Facultad de Psicología de la Universidad Católica de Colombia, advierte sobre los límites de estas herramientas. Según la académica, aunque la IA ofrece respuestas inmediatas y accesibles, carece de elementos fundamentales en el abordaje psicológico profesional. Uno de los principales riesgos es lo que denomina "complacencia y validación": "En algunos casos, la IA puede incluso justificar conductas poco adaptativas para las personas", señaló. A diferencia de un psicólogo que puede confrontar al paciente cuando es necesario, la inteligencia artificial tiende a evitar esa intervención crítica, lo que puede reforzar comportamientos o creencias perjudiciales.

Más allá de los cambios tecnológicos, Google anunció una inversión de 30 millones de dólares a través de Google.org durante los próximos tres años, destinada a fortalecer la capacidad de las líneas de crisis en diferentes países. Además, amplió su alianza con ReflexAI con una financiación de cuatro millones de dólares para escalar servicios de apoyo en salud mental. También desarrolló una plataforma llamada "Prepare", basada en simulaciones impulsadas por IA, para entrenar a profesionales y voluntarios en la gestión de conversaciones complejas relacionadas con crisis emocionales.

Google también implementó restricciones específicas para proteger a menores de edad. El sistema ahora tiene barreras para impedir que simule relaciones humanas, afirme ser humano, exprese necesidades emocionales o fomente dependencia emocional. Asimismo, se han incluido mecanismos para prevenir acoso y bullying.

La compañía fue clara en un punto fundamental: aunque estas herramientas pueden ser útiles para acceder a información, no sustituyen la atención clínica profesional ni los servicios especializados en crisis. Los equipos de Google trabajaron para que el sistema priorice la conexión con ayuda humana, diseñe respuestas que fomenten la búsqueda de apoyo profesional y evite validar comportamientos perjudiciales.