Techgiganten hebben mogelijk geprofiteerd van de haat tijdens de zomerrellen

Socialemediabedrijven hebben mogelijk geprofiteerd van de golf van "haatdragende berichten" die de rellen van afgelopen zomer aanwakkerde, aldus een vernietigend rapport dat waarschuwt voor de online dreigingen waarmee Groot-Brittannië te maken heeft. Bedrijven hebben de verspreiding van desinformatie "mogelijk gemaakt en zelfs aangemoedigd" en het publiek in gevaar gebracht, aldus een partijoverschrijdende groep parlementsleden. Ze waarschuwen dat het land "kwetsbaar is voor een herhaling van de crisis van afgelopen zomer".

De Commissie voor Wetenschap, Innovatie en Technologie luidt de alarmbel dat de huidige wetgeving "niet in staat is de verspreiding van desinformatie aan te pakken" en "gebruikers online niet veilig kan houden". De commissie beschrijft hoe na de "gruwelijke" moorden in Southport in juli vorig jaar "misleidende en haatdragende berichten zich razendsnel online verspreidden, versterkt door de aanbevelingsalgoritmen van socialemediabedrijven."

Het rapport stelt dat een "valse naam 420.000 keer is bekeken, met een potentieel bereik van 1,7 miljard mensen". Het voegt eraan toe dat "sociale media werden gebruikt om de onrust te organiseren, met accounts die voor de rellen werden aangemaakt met extreemrechtse symbolen en oproepen tot 'massale deportatie'." De parlementsleden waarschuwen dat de Online Safety Act niet bedoeld was om misinformatie aan te pakken en stellen dat er "grote gaten" in de wetgeving zitten. Ze pleiten voor strengere regulering van socialemediabedrijven.

De regering wordt "gehinderd" door een "gebrek aan transparantie", zo luidt de bewering, over hoe de algoritmen werken die de aanbevelingen op sociale media aansturen. De commissie waarschuwt ook dat de huidige wet "achterhaald" is omdat deze geen rekening houdt met recente ontwikkelingen op het gebied van kunstmatige intelligentie.

Dame Chi Onwurah, voorzitter van de commissie, zei: "Sociale media kunnen ongetwijfeld een positieve kracht zijn, maar ze hebben ook een keerzijde. De virale verspreiding van valse en schadelijke content kan zeer reële schade aanrichten – en heeft bijgedragen aan de rellen die we afgelopen zomer zagen."

“Deze technologieën moeten op een manier worden gereguleerd die gebruikers macht geeft en beschermt, maar tegelijkertijd de vrijheid van meningsuiting respecteert.”

Ze waarschuwde dat de Online Safety Act "gewoon niet voldoet", en zei: "De overheid moet verder gaan om de wijdverbreide verspreiding van desinformatie aan te pakken die schade aanricht maar niet de grens van illegaliteit overschrijdt. Socialemediabedrijven zijn niet alleen neutrale platforms, maar verzamelen actief wat je online ziet, en ze moeten daar verantwoording voor afleggen."

Het rapport spoort socialemediagiganten aan om zich verantwoordelijk te gedragen en stelt: "De verklaringen van Google, Meta, TikTok en X tijdens onze hoorzitting hebben ons gerustgesteld dat zij hun verantwoordelijkheid om verantwoording af te leggen aan het parlement hebben aanvaard. We hopen dit in de praktijk te zien nu we ons werk op dit gebied voortzetten."

Een woordvoerder van de overheid zei: "Wij laten niet toe dat onlineactiviteiten schade in de echte wereld aanrichten. Er zijn duidelijke wetten van kracht, waaronder de nieuwe wet inzake valse communicatie in de Online Safety Act, om de verspreiding van desinformatie online aan te pakken wanneer er sprake is van de intentie om schade te veroorzaken.

“Op grond van de Online Safety Act hebben socialemediaplatforms een wettelijke plicht om illegale inhoud te verwijderen en de verspreiding van illegale desinformatie te voorkomen. Ofcom heeft daarbij krachtige handhavingsbevoegdheden.

Ofcom heeft ook een consultatie aangekondigd over aanvullende veiligheidsmaatregelen om te voorkomen dat illegale content viraal gaat. Hierbij hoort ook dat platforms crisisresponsprotocollen hebben.