O presidente do Goberno, Pedro Sánchez, anunciou este mércores en Madrid, durante a inauguración do I Foro contra el Odio, a creación dun sistema para rastrexar e cuantificar a presenza de discursos de odio e a polarización nas redes sociais. A iniciativa, explicou o presidente do Executivo, pretende facer visible o impacto social deses contidos e esixir responsabilidades ás plataformas que os permiten. O anuncio produciuse antes dun encontro en La Moncloa co primeiro ministro de Irlanda, Micheál Martin, e forma parte dun paquete de medidas para reforzar o control sobre o ecosistema dixital.
O mecanismo, segundo fontes do Executivo, buscará transformar en datos unha realidade ata agora opaca: cantos e que tipos de contidos que alimentan o odio circulan en cada plataforma e como os algoritmos contribúen a amplificalos. O Goberno compara ese rexistro coa idea dunha «pegada» similar á da de carbono, pero aplicada ao dano social e democrático que xeran mensaxes de hostigamento e polarización. Coa información obtida preténdese abrir debates públicos e dispoñer de ferramentas obxectivas para avaliar o comportamento das empresas tecnolóxicas.
A posta en marcha deste sistema enmárcase xunto con outras medidas que o Executivo anunciou recentemente, entre elas a prohibición do acceso de menores de 16 anos a determinadas redes sociais e a activación da Fiscalía para investigar a difusión de contido sexual vinculado a menores xerado con intelixencia artificial. Ademais, o Goberno anunciou a súa intención de reformar o Código Penal para tipificar como delito a manipulación deliberada de algoritmos cando o seu uso favoreza a difusión de odio ou desinformación.
O Executivo insiste en que a iniciativa non só medirá a presenza de mensaxes hostís, senón que permitirá elaborar unha especie de clasificación pública que ordene as plataformas desde as que máis favorecen a polarización ata as que menos. Con estes indicadores, engadiu o presidente, buscarase obrigar as empresas a render contas públicamente polos discursos de odio que permanecen nos seus servizos e polos sistemas que os potencian. A idea é que a sociedade e os reguladores dispoñan de criterios comparables para esixir correccións.
Na súa intervención, o presidente criticou o papel que atribúe aos grandes actores dixitais ao sinalar que, na súa opinión, moitas plataformas permitiron que o insulto e o acoso se convertan en formas aceptadas de expresión. Sánchez sostivo que esa dinámica erosionou a convivencia e que a vixilancia pública debe servir de freo a modelos de negocio que se lucran coa atención xerada pola polarización. O Executivo dirixe así a súa presión aos responsables das redes, aos que cualificou en varias ocasións como «tecnoligarcas».
O deseño concreto do sistema plantexa, con todo, importantes retos técnicos e xurídicos. Medir o «odio» esixe definir con precisión que se considera tal, elaborar indicadores que eviten sesgos e garantir procesos transparentes de auditoría de algoritmos. Expertos en dereitos dixitais e xuristas advirten ademais dos riscos de sobrerreacción: criterios excesivamente amplos para identificar contidos problemáticos poderían chocar coa liberdade de expresión e provocar falsos positivos.
O Goberno, segundo fontes oficiais, aposta por combinar monitorización automática con revisións humanas e por traballar con organismos independentes que validen os resultados. Tamén prevé empregar os datos para informar a reforma legal que busca castigar a manipulación algorítmica, aínda que non fixo prazos concretos para introducir cambios no Código Penal. A cooperación internacional e a coordinación coa normativa europea serán, en opinión do Executivo, elementos clave para que a iniciativa funcione.
A proposta reabre o debate sobre o papel regulador do Estado fronte á influencia das plataformas dixitais e sobre como compatibilizar seguridade, dereitos e responsabilidade empresarial. Nos próximos meses, o anuncio do Executivo deberá traducirse en regras técnicas, acordos coas compañías e normas xurídicas que detallen responsabilidades e sancións. Mentres o Goberno impulsa a medición da denominada pegada do odio, a sociedade e os poderes públicos terán que decidir ata que punto están dispostos a intervenir nos mecanismos que gobernan a conversa en liña.
