Derecho a La Información.

Por: Felipe Antonio Popoca Soto, Miguel Ángel Mejía Argueta, y Adela Alba Leonel, del Programa Universitario de Bioética de la UNAM abordan el tema sobre los riesgos ocultos de la inteligencia artificial en la salud mental de jóvenes y chatbots

Destacan que, por primera vez la legislación reconoce que los modelos de lenguaje como los chatbots pueden tener un impacto directo en la salud mental de los usuarios. Ellos actúan como espejos de la desesperanza: reproducen sin comprensión las palabras de quienes buscan ayuda, sin la contención emocional que sólo puede brindar el vínculo humano.

En los últimos meses, diversos países han comenzado a debatir la necesidad de regular el uso de la Inteligencia Artificial (IA) en temas relacionados con la salud mental. Uno de los casos más emblemáticos se presentó en California, Estados Unidos, donde se promulgó la Ley SB 243. Esta norma busca restringir el uso de chatbots que interactúan con personas en crisis emocional, tras registrarse situaciones en las que jóvenes fueron inducidos o alentados a cometer suicidio mediante respuestas inadecuadas generadas por sistemas de IA. La ley, promovida por el senador Steve Padilla, establece que estas herramientas no pueden sustituir la atención profesional y que los desarrolladores serán corresponsables en caso de negligencia tecnológica.

Este hecho encendió una alarma global. Por primera vez, la legislación reconoce que los modelos de lenguaje como los chatbots pueden tener un impacto directo en la salud mental de los usuarios. La regulación californiana prohíbe explícitamente que la IA desempeñe funciones que competen a profesionales de la salud mental y obliga a redirigir a los usuarios hacia servicios de emergencia o líneas de atención especializada. Esta medida marca un precedente ético y legal de gran relevancia.

Desde la filosofía y la ética, autores como Slavoj Žižek han advertido que la tecnología no es neutral. En su obra Bienvenidos al desierto de lo real (1) señala que la técnica amplifica los vacíos simbólicos de las sociedades contemporáneas. Si trasladamos esta reflexión al campo de la IA, podemos pensar que los chatbots actúan como espejos de la desesperanza: reproducen sin comprensión las palabras de quienes buscan ayuda, sin la contención emocional que sólo puede brindar el vínculo humano. A su vez, Giovanni Sartori alertaba sobre el debilitamiento del pensamiento crítico ante la sobreexposición a estímulos visuales y la sobreinformación digital. En este sentido, la dependencia tecnológica puede reducir

la capacidad de análisis y de juicio ético de los jóvenes, quienes tienden a confiar en respuestas inmediatas y superficiales generadas por la IA. El riesgo ético no está sólo en la herramienta, sino en la forma como las sociedades delegan en algoritmos tareas que exigen empatía, escucha y discernimiento. La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura publicó en 2021 su documento Recomendaciones sobre la ética de la inteligencia artificial, donde insta a los Estados a garantizar que las tecnologías aplicadas a la salud, especialmente en población infantil y juvenil, sean seguras, confiables y culturalmente responsables. No obstante, el caso californiano demuestra que muchas de estas orientaciones se aplican con lentitud o sólo tras una tragedia. La metáfora es clara: se colocan los salvavidas después de que alguien se ha ahogado.

Desde la perspectiva de salud mental, los profesionales psicólogos, psiquiatras y terapeutas advierten que ningún algoritmo puede reemplazar la escucha empática ni la evaluación clínica integral. Un chatbot carece de la capacidad de detectar matices emocionales, evaluar el riesgo suicida o establecer una relación terapéutica. Por ello, es urgente fortalecer los servicios públicos de salud mental y crear estrategias accesibles, especialmente para adolescentes y jóvenes que enfrentan aislamiento, ansiedad o depresión en entornos digitales.

*Licenciado y Maestro en Periodismo

lurame_3@hotmail.com

@luciorm

QUEREMOS LEER TU OPINIÓN, FORMA PARTE DE NOSOTROS COMPARTIENDO EN NUESTRO HASHTAG: #YoDigoYoPregunto.

SUSCRÍBETE SIN COSTO ALGUNO A NUESTRO PERIÓDICO yodigoyopregunto.com Y ACCEDE A NUESTRA INFORMACIÓN, TU VOZ CUENTA Y TU SUSCRIPCIÓN TAMBIÉN.