Newman Studio/Shutterstock
In een recent BBC-nieuwsonderzoek werd een verslaggever die zich voordeed als een 13-jarig meisje in een virtual reality (VR) app blootgesteld aan seksuele inhoud, racistische beledigingen en een verkrachtingsbedreiging. De app in kwestie, VRChat, is een interactief platform waar gebruikers “kamers” kunnen creëren waarin mensen met elkaar communiceren (in de vorm van avatars). De verslaggeefster zag avatars die seks simuleerden, en werd door talrijke mannen benaderd.
De resultaten van dit onderzoek hebben geleid tot waarschuwingen van liefdadigheidsorganisaties voor de veiligheid van kinderen, waaronder de National Society for the Prevention of Cruelty to Children (NSPCC), over de gevaren die kinderen lopen in de metaverse. De metaverse verwijst naar een netwerk van VR-werelden die Meta (voorheen Facebook) heeft gepositioneerd als een toekomstige versie van het internet, waardoor we uiteindelijk in staat zullen zijn om ons in te zetten in onderwijs, werk en sociale contexten.
De NSPCC lijkt de schuld en de verantwoordelijkheid bij de technologiebedrijven te leggen, met het argument dat zij meer moeten doen om de veiligheid van kinderen in deze online ruimten te waarborgen. Hoewel ik het ermee eens ben dat platforms meer zouden kunnen doen, kunnen zij dit probleem niet alleen aanpakken.
Toen ik over het BBC-onderzoek las, voelde ik een déjà vu. Ik was verbaasd dat iemand die zich bezighoudt met online bescherming – om de woorden van de NSPCC te gebruiken – “geschokt” zou zijn door de ervaringen van de verslaggever. Tien jaar geleden, lang voordat we het woord “metaverse” hadden gehoord, doken soortgelijke verhalen op rond platforms als Club Penguin en Habbo Hotel.
Deze op avatars gebaseerde platforms, waar gebruikers in virtuele ruimtes met elkaar communiceren via een op tekst gebaseerde chatfunctie, waren eigenlijk ontworpen voor kinderen. In beide gevallen werden volwassenen die zich als kinderen voordeden om op onderzoek uit te gaan, blootgesteld aan seksueel expliciete interacties.
De eis dat bedrijven meer doen om deze incidenten te voorkomen, bestaat al lang. We zitten opgesloten in een cyclus van nieuwe technologie, opkomende risico’s en morele paniek. Toch verandert er niets.
Lees meer:
De metaverse: drie juridische kwesties die we moeten aanpakken
Het is een lastig gebied
Er zijn eisen gesteld aan bedrijven om leeftijdscontroles uit te voeren om te voorkomen dat jongeren toegang krijgen tot ongeschikte diensten. Zo zijn er voorstellen gedaan om sociale platforms te verplichten te controleren of de gebruiker 13 jaar of ouder is, of om pornowebsites te verplichten te bewijzen dat de gebruiker ouder is dan 18 jaar.
Als leeftijdscontrole eenvoudig was, zou het nu al op grote schaal zijn ingevoerd. Als iemand een manier kan bedenken waarop alle 13-jarigen hun leeftijd online op een betrouwbare manier kunnen bewijzen, zonder dat de privacy van gegevens in het geding komt, en op een manier die voor platforms gemakkelijk te implementeren is, dan zijn er veel techbedrijven die graag met hen willen praten.
Ook het toezicht op de communicatie die op deze platformen plaatsvindt, zal niet door een algoritme worden bereikt. Kunstmatige intelligentie is bij lange na niet slim genoeg om real-time audiostreams te onderscheppen en met nauwkeurigheid te bepalen of iemand beledigend is. En hoewel er enige ruimte zou kunnen zijn voor menselijke moderatie, zou het toezicht op alle realtime online ruimten onmogelijk veel middelen kunnen vergen.
De realiteit is dat platforms al veel tools bieden om pesterijen en misbruik aan te pakken. Het probleem is dat weinig mensen ze kennen, geloven dat ze zullen werken of ze willen gebruiken. VRChat, bijvoorbeeld, biedt tools om misbruikende gebruikers te blokkeren, en de middelen om ze te rapporteren, wat er uiteindelijk toe kan leiden dat de gebruiker zijn account verwijderd ziet.
Mensen zullen toegang krijgen tot de metaverse door middel van technologie zoals VR headsets.
wavebreakmedia/Shutterstock
We kunnen niet allemaal achterover leunen en roepen: “mijn kind is overstuur geraakt door iets online, wie gaat voorkomen dat dit gebeurt?”. We moeten onze focus verleggen van het idee van “evil big tech”, wat echt niet helpt, naar het kijken naar de rol die andere belanghebbenden ook kunnen spelen.
Als ouders VR-headsets voor hun kinderen gaan kopen, moeten ze kijken naar de veiligheidsvoorzieningen. Het is vaak mogelijk om de activiteit te controleren door de jongere wat er op zijn headset staat te laten uitzenden op de gezins-tv of een ander scherm. Ouders zouden ook kunnen kijken met welke apps en games jongeren interactief bezig zijn voordat ze hun kinderen toestemming geven om ze te gebruiken.
Wat jongeren denken
Ik heb de afgelopen twee decennia onderzoek gedaan naar online bescherming, met jongeren gesproken over online schade en met verschillende belanghebbenden samengewerkt om jongeren beter te helpen. Van jongeren zelf hoor ik zelden de eis dat de overheid grote techbedrijven op de vingers moet tikken.
Wel vragen ze regelmatig om betere voorlichting en steun van volwassenen bij het aanpakken van de potentiële online schade waarmee ze te maken kunnen krijgen. Jongeren vertellen ons bijvoorbeeld dat ze discussies in de klas willen met goed geïnformeerde leraren die de discussies die ontstaan in goede banen kunnen leiden, en aan wie ze vragen kunnen stellen zonder dat ze te horen krijgen “stel dat soort vragen niet”.
Lees meer:
Hoe kinderen online te beschermen zonder harde regels en berispingen te gebruiken
Zonder nationale coördinatie kan ik echter begrip opbrengen voor leerkrachten die geen klacht willen ontvangen van bijvoorbeeld verontwaardigde ouders als gevolg van een discussie over dergelijke gevoelige onderwerpen.
Ik merk op dat de Online Safety Bill van de Britse regering, de wetgeving waarvan de beleidsmakers beweren dat ze online schade zal voorkomen, in 145 bladzijden slechts twee keer het woord “onderwijs” vermeldt.
We hebben allemaal een rol te spelen bij de ondersteuning van jongeren wanneer zij door online ruimten navigeren. Preventie is al 15 jaar de belangrijkste boodschap, maar deze aanpak werkt niet. Jongeren vragen om onderwijs, gegeven door mensen die de problemen begrijpen. Dit is niet iets dat door de platforms alleen kan worden bereikt.
Andy Phippen werkt niet voor, geeft geen advies aan, heeft geen aandelen in, en ontvangt geen financiering van bedrijven of organisaties die baat hebben bij dit artikel, en heeft buiten zijn academische aanstelling geen relevante affiliaties bekend gemaakt.
