Afrika Studio/Shutterstock
In een gesprek fulfilled mijn tienerdochter vorige week wees ik op een nieuwsbericht waarin bezorgdheid werd geuit above het gebruik van gezichtsherkenningstechnologieën in verschillende schoolkantines in North Ayrshire, Schotland. Negen scholen in het gebied hebben deze praktijk onlangs gelanceerd als middel om de betaling van lunches sneller te innen en het COVID-risico te minimaliseren, hoewel ze sindsdien de uitrol van de technologie hebben gepauzeerd.
Toen ik mijn dochter vroeg of ze zich zorgen zou maken more than het gebruik van gezichtsherkenningstechnologie in haar schoolkantine, antwoordde ze nonchalant: “Niet echt. Het zou de zaken echter een stuk sneller maken bij het afrekenen.”
Haar woorden bevestigen de zorg dat kinderen zich veel minder bewust zijn van hun gegevensrechten in vergelijking satisfied volwassenen. En hoewel er speciale bepalingen en waarborgen voor kinderen zijn onder een reeks gegevensbeschermingswetgevingen, kan het gebruik van gezichtsherkenningstechnologie op kinderen unieke privacyrisico’s fulfilled zich meebrengen.
Lees meer: Gezichtsherkenning verspreidt zich sneller dan je denkt
Gezichtsherkenningstechnologieën identificeren en verifiëren de identiteit van mensen doorway gezichten te detecteren, huge te leggen en te matchen met afbeeldingen uit een database. De technologieën worden aangedreven doorway kunstmatige intelligentie (AI), achieved identify de technologie die bekend staat als machine understanding.
Device studying voorspelt uitkomsten op basis van historische gegevens of algoritmen die in het systeem zijn ingevoerd. Dus voor gezichtsherkenning voorspelt equipment learning de identiteit die is gekoppeld aan een digitale weergave van het gezicht van een persoon, of “gezichtsafdruk”, op basis van een database satisfied gezichtsafbeeldingen. De program past zich door deze ervaring aan en leert na verloop van tijd gemakkelijker voorspellingen te genereren.
Gezichtsherkenningstechnologie wordt nu op verschillende manieren gebruikt, zoals om de identiteit van werknemers te verifiëren, om persoonlijke smartphones te ontgrendelen, om mensen te taggen op sociale-mediaplatforms zoals Facebook en in sommige landen zelfs voor bewakingsdoeleinden.
Gezichtsherkenningstechnologie op zich is niet het probleem. De kwestie is eerder hoe het wordt gebruikt en, in dit geval, het feit dat de technologie nu schoolgangen heeft geïnfiltreerd en gericht is op een kwetsbare demografie: kinderen.
Dus wat zijn de privacykwesties voor kinderen?
Uw gezichtsafdruk is uw gegevens, dus voor elk gezichtsherkenningssysteem is het belangrijk om te begrijpen hoe de beelddatabases worden verzameld en opgeslagen. Hoewel ik misschien fulfilled tegenzin instem fulfilled het gebruik van gezichtsherkenningstechnologie om een concertlocatie te betreden, zou ik niet blij zijn als mijn gezichtsafdruk zou worden bewaard voor “andere commerciële doeleinden van het bedrijf” (een uitdrukking die vrij vaak voorkomt in de kleine lettertjes van de kaartverkoop satisfied betrekking tot het gebruik van persoonsgegevens).
Als gezichtsherkenningstechnologie wordt gebruikt in schoolomgevingen, hebben we duidelijke informatie nodig around of en hoe de afbeeldingen van studenten zullen worden gebruikt buiten het doel van de lunchwachtrij. Worden ze bijvoorbeeld gedeeld met derden en fulfilled welk doel? Er kunnen zich problemen voordoen als bijvoorbeeld gezichtsafdrukken worden gekoppeld aan andere gegevens above het sort, zoals hun lunchvoorkeuren. Derden zouden deze gegevens theoretisch kunnen gebruiken voor marketingdoeleinden.
We zouden ook informatie nodig hebben over hoe de beelden zouden worden beschermd. Als de gezichtsafdrukken van de leerlingen niet goed beveiligd zijn, of als het systeem niet robuust genoeg is om hackers af te weren, ontstaan er cyberbeveiligingsrisico’s. Het kan voor hackers mogelijk zijn om gezichtsafdrukken van kinderen te koppelen aan andere gegevens over hen en deze te volgen.
Zorgen om privateness zijn van cruciaal belang als het gaat om gezichtsherkenningstechnologieën op scholen.
Monkey Enterprise-afbeeldingen/Shutterstock
Het verhoogde privacyrisico rond het gebruik van gezichtsherkenningstechnologieën op scholen heeft ook betrekking op geïnformeerde toestemming. Hoewel de Britse gegevensbeschermingswet bepaalt dat kinderen van 13 jaar en ouder toestemming kunnen geven voor de verwerking van hun persoonlijke gegevens, betekent dit niet dat ze de implicaties volledig begrijpen. Uit een enquête bleek bijvoorbeeld dat kinderen tussen acht en vijftien jaar moeite hadden satisfied het begrijpen van de algemene voorwaarden van Instagram.
Kinderen, ouders en voogden zouden niets minder dan volledige informatie moeten krijgen, uitgedrukt in taal die kinderen gemakkelijk kunnen begrijpen. Elke betrokkene, inclusief een kind, heeft het recht om precies te weten hoe hun persoonlijke gegevens worden verwerkt, gedeeld en opgeslagen, en kan de voorwaarden specificeren waaronder hun toestemming van toepassing is. Alles wat minder is dan voorzichtigheid en transparantie kan de privacy van kinderen in gevaar brengen.
Het toezicht op kinderen normaliseren?
Dit zijn slechts enkele van de vragen die het gebruik van gezichtsherkenningstechnologieën op scholen oproept. Gezichtsherkenningstechnologie brengt ook andere risico’s met zich mee, zoals fouten, die er bijvoorbeeld toe kunnen leiden dat studenten onterecht in rekening worden gebracht. En zoals bij elk AI-systeem, moeten we ons zorgen maken of de algoritmen en datasets vrij zijn van vooringenomenheid en schone, volledige en representatieve trainingsgegevens hebben.
Belangrijk is dat het gebruik van gezichtsherkenningstechnologieën op scholen ook enigszins bijdraagt aan de normalisering van het toezicht op kinderen. Het is mogelijk dat de kennis dat ze op deze manier worden gevolgd, van invloed kan zijn op het welzijn van sommige kinderen.
Lees meer: Politiegebruik van gezichtsherkenningstechnologie moet worden geregeld door strengere wetgeving
Het is niet verwonderlijk dat de Britse datawaakhond, het Details Commissioner’s Place of work, tussenbeide is gekomen om het gebruik van gezichtsherkenningstechnologieën in wachtrijen voor schoollunches te onderzoeken. En in het licht van het onderzoek is het verheugend om te zien dat de North Ayrshire Council de uitrol van de praktijk heeft gepauzeerd.
Maar naarmate we verder het digitale tijdperk ingaan, is het mogelijk dat het gebruik van gezichtsherkenningstechnologieën onder schoolkinderen zal worden hervat en zelfs op grotere schaal zal worden toegepast. Als dit gebeurt, moet het gebruik van gezichtsherkenning aanzienlijk meer voordelen dan risico’s opleveren, rekening houdend satisfied de bijzondere omstandigheden van het gebruik van de technologie op kinderen.
Pin Lean Lau is aangesloten bij de Fascination Team on Supranational Bio-Legislation van de European Affiliation of Well being Legislation (EAHL).
