Los gigantes tecnológicos podrían haberse beneficiado del odio durante los disturbios del verano

Las empresas de redes sociales podrían haberse beneficiado de la ola de mensajes de odio que alimentó los disturbios del verano pasado, según un informe mordaz que advierte sobre las amenazas en línea que enfrenta Gran Bretaña. Las empresas "facilitaron e incluso fomentaron" la difusión de desinformación y pusieron en peligro a la ciudadanía, según un grupo multipartidista de diputados. Advierten que el país es "vulnerable a una repetición de la crisis del verano pasado".

El Comité de Ciencia, Innovación y Tecnología alerta de que las leyes actuales son incapaces de frenar la propagación de desinformación y de garantizar la seguridad de los usuarios en línea. Describe cómo, tras los horribles asesinatos de Southport en julio del año pasado, los mensajes engañosos y de odio proliferaron rápidamente en línea, amplificados por los algoritmos de recomendación de las redes sociales.

El informe afirma que un nombre falso fue visto 420.000 veces, con un alcance potencial de 1.700 millones de personas. Añade que se utilizaron las redes sociales para organizar los disturbios, con cuentas creadas para los disturbios que incluían símbolos de extrema derecha y llamados a la 'deportación masiva'. Los parlamentarios advierten que la Ley de Seguridad en Línea no fue diseñada para combatir la desinformación y señalan que existen importantes lagunas en la legislación. Piden una regulación más estricta de las empresas de redes sociales.

El Gobierno se ve obstaculizado por la falta de transparencia, según se afirma, sobre el funcionamiento de los algoritmos que impulsan las recomendaciones en redes sociales. El comité también advierte que la ley actual está obsoleta porque no aborda los avances recientes en inteligencia artificial.

Dame Chi Onwurah, presidenta del comité, declaró: «Las redes sociales pueden, sin duda, ser una fuerza positiva, pero tienen un lado oscuro. La amplificación viral de contenido falso y dañino puede causar un daño muy real, contribuyendo a los disturbios que presenciamos el verano pasado».

“Estas tecnologías deben regularse de forma que empoderen y protejan a los usuarios, respetando al mismo tiempo la libertad de expresión”.

Advirtiendo que la Ley de Seguridad en Línea "simplemente no está a la altura", dijo: "El gobierno debe tomar medidas adicionales para combatir la propagación generalizada de desinformación que causa daño, pero que no llega a la ilegalidad. Las empresas de redes sociales no son solo plataformas neutrales, sino que seleccionan activamente lo que se ve en línea y deben rendir cuentas".

El informe, que insta a los gigantes de las redes sociales a actuar con responsabilidad, afirma: «Las declaraciones de Google, Meta, TikTok y X en nuestra sesión de pruebas nos tranquilizaron al afirmar que asumieron su responsabilidad de rendir cuentas ante el Parlamento. Esperamos ver esto en la práctica a medida que continuamos nuestro trabajo en este ámbito».

Un portavoz del Gobierno dijo: “No nos quedaremos de brazos cruzados mientras la actividad en línea fomente daños en el mundo real, y existen leyes claras, incluido un nuevo delito de comunicaciones falsas en la Ley de Seguridad en Línea, para combatir la propagación de desinformación en línea cuando existe la intención de causar daño.

“Según la Ley de Seguridad en Línea, las plataformas de redes sociales tienen el deber legal de eliminar contenido ilegal y evitar la propagación de desinformación ilegal, y Ofcom cuenta con sólidos poderes de ejecución.

Ofcom también ha anunciado una consulta sobre medidas de seguridad adicionales para evitar que el contenido ilegal se viralice, incluyendo garantizar que las plataformas cuenten con protocolos de respuesta a crisis.