El presidente del Gobierno, Pedro Sánchez, anunció este miércoles en Madrid, durante la inauguración del I Foro contra el Odio, la creación de un sistema para rastrear y cuantificar la presencia de discursos de odio y la polarización en las redes sociales. La iniciativa, explicó el jefe del Ejecutivo, pretende hacer visible el impacto social de esos contenidos y exigir responsabilidades a las plataformas que los permiten. El anuncio se produjo antes de un encuentro en La Moncloa con el primer ministro de Irlanda, Micheál Martin, y forma parte de un paquete de medidas para reforzar el control sobre el ecosistema digital.

El mecanismo, según fuentes del Ejecutivo, buscará transformar en datos una realidad hasta ahora opaca: cuántos y qué tipos de contenidos que alimentan el odio circulan en cada plataforma y cómo los algoritmos contribuyen a amplificarlos. El Gobierno compara ese registro con la idea de una «huella» similar a la de carbono, pero aplicada al daño social y democrático que generan mensajes de hostigamiento y polarización. Con la información obtenida se pretende abrir debates públicos y disponer de herramientas objetivas para evaluar el comportamiento de las empresas tecnológicas.

La puesta en marcha de este sistema se enmarca junto a otras medidas que el Ejecutivo ha anunciado recientemente, entre ellas la prohibición del acceso de menores de 16 años a determinadas redes sociales y la activación de la Fiscalía para investigar la difusión de contenido sexual vinculado a menores generado con inteligencia artificial. Además, el Gobierno anunció su intención de reformar el Código Penal para tipificar como delito la manipulación deliberada de algoritmos cuando su uso favorezca la difusión de odio o desinformación.

CONTENIDO PATROCINADO

Salado Golf & Beach Resort

Descubre la oportunidad de inversión más exclusiva del Caribe. Villas de lujo con retorno garantizado del 12% anual en Punta Cana.

Conoce más →

El Ejecutivo insiste en que la iniciativa no solo medirá la presencia de mensajes hostiles, sino que permitirá elaborar una suerte de ranking público que clasifique plataformas desde las que más favorecen la polarización hasta las que menos. Con estos indicadores, añadió el presidente, se buscará obligar a las empresas a rendir cuentas públicamente por los discursos de odio que permanecen en sus servicios y por los sistemas que los potencian. La idea es que la sociedad y los reguladores dispongan de criterios comparables para exigir correcciones.

En su intervención, el presidente criticó el papel que atribuye a los grandes actores digitales al señalar que, en su opinión, muchas plataformas han permitido que el insulto y el acoso se conviertan en formas aceptadas de expresión. Sánchez sostuvo que esa dinámica ha erosionado la convivencia y que la vigilancia pública debe servir de freno a modelos de negocio que se lucran con la atención generada por la polarización. El Ejecutivo dirige así su presión a los responsables de las redes, a los que ha calificado en varias ocasiones de «tecnoligarcas».

El diseño concreto del sistema plantea, sin embargo, importantes retos técnicos y jurídicos. Medir el «odio» exige definir con precisión qué se considera tal, elaborar indicadores que eviten sesgos y garantizar procesos transparentes de auditoría de algoritmos. Expertos en derechos digitales y juristas advierten además de los riesgos de sobrerreacción: criterios excesivamente amplios para identificar contenidos problemáticos podrían chocar con la libertad de expresión y provocar falsos positivos.

El Gobierno, según fuentes oficiales, apuesta por combinar monitorización automática con revisiones humanas y por trabajar con organismos independientes que validen los resultados. También prevé emplear los datos para informar la reforma legal que busca castigar la manipulación algorítmica, aunque no ha fijado plazos concretos para introducir cambios en el Código Penal. La cooperación internacional y la coordinación con la normativa europea serán, en opinión del Ejecutivo, elementos clave para que la iniciativa funcione.

La propuesta reabre el debate sobre el papel regulador del Estado frente a la influencia de las plataformas digitales y sobre cómo compatibilizar seguridad, derechos y responsabilidad empresarial. En los próximos meses, el anuncio del Ejecutivo deberá traducirse en reglas técnicas, acuerdos con las compañías y normas jurídicas que detallen responsabilidades y sanciones. Mientras el Gobierno impulsa la medición de la denominada huella del odio, la sociedad y los poderes públicos tendrán que decidir hasta qué punto están dispuestos a intervenir en los mecanismos que gobiernan la conversación en línea.