Gezichtsherkenningstechnologie heeft moeite om donkere huidskleuren te herkennen Nazar Kantora/ Shutterstock
Op een middag waren mijn collega en ik in ons lab ons nieuwe prototype voor een gezichtsherkenningssoftware aan het testen op een laptop. De software gebruikte een videocamera om onze gezichten te scannen en onze leeftijd en geslacht te raden. Mijn leeftijd werd correct geraden, maar toen mijn collega, die uit Afrika kwam, het uitprobeerde, detecteerde de camera helemaal geen gezicht. We probeerden het licht in de kamer aan te doen en haar zitplaats en achtergrond aan te passen, maar het systeem had nog steeds moeite om haar gezicht te detecteren.
Na vele mislukte pogingen, detecteerde de software eindelijk haar gezicht – maar had haar leeftijd verkeerd en gaf het verkeerde geslacht.
Onze software was slechts een prototype, maar de moeilijkheid om te werken met donkere huidskleuren weerspiegelt de ervaringen van mensen van kleur die proberen om gezichtsherkenningstechnologie te gebruiken. De afgelopen jaren hebben onderzoekers de oneerlijkheid van gezichtsherkenningssystemen aangetoond, door te ontdekken dat de software en algoritmen die door grote technologiebedrijven zijn ontwikkeld, nauwkeuriger zijn in het herkennen van lichtere huidskleuren dan van donkere.
Toch meldde de Guardian onlangs dat het Britse ministerie van Binnenlandse Zaken van plan is om migranten die veroordeeld zijn voor strafbare feiten, vijf keer per dag hun gezicht te laten scannen met behulp van een smartwatch die is uitgerust met gezichtsherkenningstechnologie. Een woordvoerder van het Ministerie van Binnenlandse Zaken zei dat de gezichtsherkenningstechnologie niet zou worden gebruikt bij asielzoekers die illegaal het VK binnenkomen, en dat het bericht over het gebruik ervan bij migrerende overtreders “louter speculatief” was.
Zorg voor het juiste evenwicht
Er zal altijd een spanningsveld zijn tussen nationale veiligheid en individuele rechten. Veiligheid voor velen kan voorrang krijgen op privacy voor enkelen. Bijvoorbeeld, in november 2015 toen de terreurgroep ISIS Parijs aanviel en 130 mensen doodde, vond de Parijse politie een telefoon die een van de terroristen ter plaatse had achtergelaten, en las berichten die daarop waren opgeslagen.
Er zit veel nuance in deze kwestie. We moeten ons afvragen wiens rechten worden ingeperkt door een inbreuk op de privacy, in welke mate, en wie beoordeelt of een inbreuk op de privacy in evenwicht is met de ernst van een strafbaar feit?
In het geval van delinquenten die meerdere malen per dag foto’s van hun gezicht maken, zouden we kunnen stellen dat de inbreuk op de privacy voor de meeste mensen in het belang van de nationale veiligheid is, als het om een ernstig misdrijf gaat. De overheid heeft het recht om een dergelijke beslissing te nemen, aangezien zij verantwoordelijk is voor de veiligheid van haar burgers. Voor minder ernstige misdrijven kan gezichtsherkenning echter een te zware maatregel zijn.
In zijn plan heeft het ministerie van Binnenlandse Zaken geen onderscheid gemaakt tussen lichte en zware overtreders; evenmin heeft het overtuigend bewijs geleverd dat gezichtsherkenning de naleving van de immigratiewetgeving door mensen verbetert.
Wereldwijd weten we dat gezichtsherkenning eerder wordt gebruikt om gekleurde mensen te controleren door hun bewegingen vaker te controleren dan die van blanke mensen. Dit ondanks het feit dat gezichtsherkenningssystemen nauwkeuriger zijn bij lichtere dan bij donkere huidskleuren.
Het ministerie van Binnenlandse Zaken wil naar verluidt dat migrantendelinquenten vijf keer per dag hun gezicht laten scannen.
Prostock-studio/Shutterstock
Vijf keer per dag een foto van je gezicht maken en uploaden kan vernederend aanvoelen. Glitches met donkere huidskleuren kunnen het inchecken in het systeem meer dan alleen een frustrerende ervaring maken. Er kunnen ernstige gevolgen zijn voor overtreders als de technologie faalt.
De gebreken in de gezichtsherkenning kunnen ook nationale veiligheidsproblemen veroorzaken voor de overheid. Het zou bijvoorbeeld het gezicht van een persoon verkeerd kunnen identificeren als dat van een ander. Gezichtsherkenningstechnologie is niet klaar voor zoiets belangrijks als nationale veiligheid.
Het alternatief
Een andere optie die de regering overweegt voor migrantendelinquenten is het volgen van de locatie. In het Verenigd Koninkrijk worden mensen met een strafblad al door middel van elektronisch toezicht gevolgd met behulp van enkelbanden, en het zou zinvol zijn om dezelfde technologie ook toe te passen op allochtone en niet-migrantendelinquenten.
Het volgen van locaties brengt zijn eigen ethische problemen met zich mee voor de persoonlijke levenssfeer en raciale bewaking. Door de indringende aard van elektronisch toezicht kunnen sommige mensen die deze apparaten dragen last krijgen van depressies, angsten of zelfmoordgedachten.
Maar locatietracking technologie geeft tenminste opties. Er kan bijvoorbeeld op een gevoelige manier met gegevens worden omgegaan door richtlijnen voor gegevensprivacy te volgen, zoals de Britse Data Protection Act 2018. We kunnen de hoeveelheid locatiegegevens die we verzamelen tot een minimum beperken door iemands locatie slechts één of twee keer per dag te volgen. We kunnen de gegevens anonimiseren, door alleen de namen van mensen zichtbaar te maken wanneer en waar dat nodig is.
Het ministerie van Binnenlandse Zaken van het Verenigd Koninkrijk zou locatiegegevens kunnen gebruiken om verdachte activiteiten te signaleren, bijvoorbeeld als een overtreder een gebied betreedt waarvoor hij een toegangsverbod heeft gekregen. Voor minderjarige delinquenten hoeft niet de exacte locatie van de persoon te worden bijgehouden, maar alleen de algemene zone, zoals een postcode of een stad.
Als samenleving moeten we ernaar streven de waardigheid en privacy van mensen te behouden, behalve in de meest ernstige gevallen. Belangrijker nog is dat we ervoor zorgen dat technologie niet het potentieel heeft om een groep mensen te discrimineren op basis van hun etniciteit. De wet en regelgeving moeten gelijkelijk van toepassing zijn op alle mensen.
De woordvoerder van het ministerie van Binnenlandse Zaken voegde daaraan toe: “Het publiek verwacht van ons dat wij veroordeelde buitenlandse delinquenten controleren … Buitenlandse criminelen mogen er niet aan twijfelen dat wij vastbesloten zijn hen uit te zetten, en de regering doet er alles aan om het aantal buitenlandse delinquenten dat wordt uitgezet te verhogen.”
Namrata Primlani heeft financiering ontvangen van het onderzoeks- en innovatieprogramma Horizon 2020 van de Europese Unie's in het kader van de Marie-Sklodowska Curie-subsidieovereenkomst nr. 813508.
Namrata is een Mozilla Fellow bij de Mozilla Foundation tot juli 2022.
Namrata is lid van A+ Alliance Feminist AI Research Network f<A+i>r.
