Ante el crecimiento acelerado de discursos de odio en redes sociales, una investigadora del Instituto Politécnico Nacional (IPN) propuso la creación de un Observatorio Digital contra el ciberodio, que permita monitorear y atender este fenómeno en el país, como ya ocurre en naciones europeas.
La iniciativa fue planteada por Gina Gallegos García, jefa del Laboratorio de Ciberseguridad del Centro de Investigación en Computación (CIC), quien subrayó la urgencia de un frente común que impulse tanto soluciones tecnológicas como acciones coordinadas entre instituciones públicas, academia y sociedad civil.
Gallegos considera indispensable que México cuente con una instancia especializada capaz de analizar la propagación de mensajes de aversión en el entorno digital y proponga mecanismos de regulación del lenguaje, así como estrategias de prevención. Señaló que, en países como España, los observatorios permiten identificar las causas estructurales del problema y diseñar políticas públicas para enfrentarlo.
Uno de los principales desafíos para este proyecto sería el desarrollo de herramientas informáticas basadas en inteligencia artificial, que incorporen filtros automatizados para detectar y eliminar publicaciones que promuevan la discriminación, el racismo o la polarización. Estas tecnologías ya se están explorando por empresas tecnológicas, aunque su cobertura aún es limitada.
Según datos del Parlamento Europeo, el 50 por ciento de jóvenes entre 15 y 29 años han sido víctimas de discursos de odio en internet durante el último año. La experta advirtió que estos ataques no se quedan en el entorno virtual, sino que tienen consecuencias graves para la salud mental, como estrés, ansiedad y depresión.
Además, expuso que las redes sociales sólo eliminan el 28.43 por ciento de los contenidos denunciados por ataques a grupos religiosos, étnicos o con ideologías distintas, según cifras del Observatorio Español del Racismo y la Xenofobia. Esto muestra, dijo, que los mecanismos de moderación son aún insuficientes.
La investigadora, integrante del Sistema Nacional de Investigadores, destacó que este tipo de discursos suele estar vinculado con contextos de polarización social, política y económica, y que los autores suelen escudarse en el anonimato con perfiles conocidos como haters o trolls.
Gallegos afirmó que este proyecto contribuiría a fortalecer una cultura digital basada en el respeto y reforzaría la agenda nacional por la construcción de espacios seguros, promovida por el Gobierno federal y la Secretaría de Educación Pública.