tommaso79/Shutterstock
Het langverwachte wetsvoorstel over online veiligheid van de Britse regering is nu vrijgegeven. Het wetsvoorstel wil bedrijven, zoals sociale-mediaplatforms, een zorgplicht opleggen om illegale inhoud, en in sommige gevallen ook “legale maar schadelijke” inhoud, snel te verwijderen.
Niet-naleving zal leiden tot zware boetes of, in extreme omstandigheden, tot vervolging van leidinggevenden van bedrijven. Het blijft echter onduidelijk wat wordt verstaan onder “legale maar schadelijke” inhoud.
De eis dat degenen die onder het toepassingsgebied van de online safety bill vallen (platforms waar inhoud wordt gemaakt, geüpload of gedeeld door gebruikers, met inbegrip van zoekmachines) om legale maar schadelijke inhoud te verwijderen, staat sinds de publicatie van het witboek over online schade in 2019 voorop in de plannen van de regering om van het Verenigd Koninkrijk “de veiligste plek ter wereld om online te gaan” te maken. Maar het witboek gaf geen indicatie over hoe breed of smal de definitie zou kunnen zijn.
Verschillende organisaties wezen op het gebrek aan duidelijkheid over wat werd bedoeld met legale maar schadelijke inhoud tijdens de consultatieperiode van de regering na de publicatie van het witboek.
Naar aanleiding daarvan heeft de regering getracht wat meer informatie te verstrekken, door schade te definiëren als “redelijkerwijs voorzienbaar risico van een aanzienlijke nadelige lichamelijke of psychische invloed op personen”. Buiten deze definitie was er geen verdere duidelijkheid.
Het wetsontwerp weerspiegelde deze benadering, door schade te definiëren als “nadelige fysieke of psychologische schade”, waarbij de verantwoordelijkheid om te beslissen of inhoud op hun platform als schadelijk kan worden beschouwd, bij de bedrijven werd gelegd.
Hoewel deze actualisering enigszins een definitie bood, toonden belanghebbenden zich bezorgd dat het begrip schade nog steeds vaag was, en dat het voor bedrijven moeilijk zou zijn om schadelijke inhoud op deze basis te matigen.
Lees meer:
Het reguleren van inhoud zal het internet niet veiliger maken – we moeten de bedrijfsmodellen veranderen
Verschuiving van verantwoordelijkheid
In de laatste versie van het wetsvoorstel inzake onlineveiligheid, dat momenteel in behandeling is bij het parlement, blijft de regering schadelijke inhoud definiëren als materiaal dat “fysieke of psychologische schade” kan veroorzaken.
Terwijl het voorheen aan bedrijven zoals social media platforms was om te bepalen welk materiaal op hun site mogelijk schade zou kunnen berokkenen, zal het nu aan de regering zijn, met goedkeuring van het parlement, om te bepalen welke inhoud aan deze drempel voldoet. Vervolgens zullen bedrijven de inhoud dienovereenkomstig moeten modereren.
Deze wijziging van het wetsvoorstel is een poging om de vrijheid van meningsuiting te beschermen en de kans te verkleinen dat bedrijven inhoud op hun platforms overcensureren.
Het lijkt erop dat de grondgedachte achter het handhaven van zo’n vage definitie van “schadelijk” is om ervoor te zorgen dat het wetsvoorstel toekomstbestendig is – zodat de regering en het parlement snel kunnen reageren op “schade” als die zich voordoet.
Neem bijvoorbeeld de Momo-uitdaging die in 2019 de aandacht van het publiek trok. Volgens berichten werden kinderen door een internetgebruiker “Momo” aangemoedigd om gevaarlijke handelingen te verrichten, waaronder zelfbeschadiging. Als het wetsvoorstel over online veiligheid op dat moment van kracht was geweest, had het parlement bedrijven steeds meer onder druk kunnen zetten om Momo aan te pakken (hoewel later werd onthuld dat deze uitdaging een hoax was).
Het Britse wetsvoorstel over online veiligheid is onlangs vrijgegeven.
Shift Drive/Shutterstock
De overeengekomen categorieën van legale maar schadelijke inhoud zullen naar verwachting worden vastgelegd in secundaire wetgeving. Hoewel het nog niet duidelijk is wat in aanmerking zal worden genomen, heeft de regering enkele suggesties gedaan. Er wordt veel nadruk gelegd op het verwijderen van inhoud die mensen aanzet tot zelfbeschadiging. Voor de regering is dit een duidelijk voorbeeld van inhoud die zij als legaal maar schadelijk zou beschouwen.
In het verleden zijn sociale mediabedrijven zwaar onder vuur komen te liggen omdat zij foto’s of video’s van zelfbeschadiging niet verwijderden. Op het eerste gezicht lijkt het misschien gepast om inhoud te verwijderen die mensen actief aanmoedigt tot zelfverminking. Maar hoe zit het als mensen anderen steunen die aan zelfbeschadiging doen? Dit zijn twee verschillende scenario’s, maar ze kunnen gemakkelijk door elkaar worden gehaald.
Dit is een probleem dat eerder werd gesignaleerd door de Samaritanen, een Britse liefdadigheidsinstelling die mensen in emotionele nood ondersteunt. Volgens Samaritans chief executive Julie Bentley:
Hoewel we een wettelijke “bodem” nodig hebben rond de inhoud van zelfdoding en zelfbeschadiging, mag dit er niet toe leiden dat alle gesprekken over zelfdoding en zelfbeschadiging worden stilgelegd, want we hebben veilige ruimtes nodig waar mensen kunnen delen hoe ze zich voelen, contact kunnen leggen met anderen en informatie en bronnen van steun kunnen vinden.
Andere voorbeelden die de regering heeft aangemerkt als mogelijk legale, maar schadelijke inhoud zijn onder meer de blootstelling aan eetstoornissen, online pesten en intimidatie van publieke figuren.
Lees meer:
De ‘nieuwe’ strafbare feiten die aan het wetsvoorstel online veiligheid zijn toegevoegd, zijn niet echt nieuw – en kunnen slachtoffers van online misbruik in de steek blijven laten
Vrijheid van meningsuiting
Hoewel de regering beweert dat het wetsvoorstel tot doel heeft de vrijheid van meningsuiting te beschermen, zou een model waarbij de overheid de bevoegdheid krijgt om een verbod op te leggen voor brede onderwerpen, wel eens het tegenovergestelde effect kunnen hebben. Het is niet onmogelijk te voorzien dat materiaal dat gokken, drinken of zelfs verwijzingen naar godslastering promoot, in de toekomst verboden zou kunnen worden. Deskundigen zijn zelfs al bezorgd dat het wetsvoorstel een aanzienlijk risico inhoudt voor de vrijheid van meningsuiting.
Online bedrijven moeten meer ter verantwoording worden geroepen voor de inhoud op hun sites, maar dit mag niet ten koste gaan van een onevenredige beperking van de vrijheid van meningsuiting. Als de regering echt wil dat het Verenigd Koninkrijk de veiligste plaats ter wereld wordt om online te gaan, en tegelijkertijd de vrijheid van meningsuiting wil beschermen, moeten we de grenzen van wat we als schadelijk beschouwen herzien, of op zijn minst het begrip “schade” een preciezere betekenis geven.
Laura Higson-Bliss werkt niet voor, geeft geen advies aan, heeft geen aandelen in, en ontvangt geen financiering van bedrijven of organisaties die baat hebben bij dit artikel, en heeft geen relevante relaties buiten haar academische aanstelling bekend gemaakt.
