Gezichtsherkenningstechnologie is in veel landen controversieel. Shutterstock
Gezichtsherkenningstechnologie wordt voor het eerst gebruikt in oorlogsvoering. Het zou een doorbraak kunnen betekenen in Oekraïne, waar het gebruikt wordt om doden te identificeren en families te herenigen. Maar als we ons nu niet bezighouden met de ethiek van deze technologie, kunnen we ons in een mijnenveld van mensenrechten bevinden.
Het Oekraïense ministerie van Defensie gebruikt sinds maart 2022 Clearview AI gezichtsherkenningssoftware om een zaak op te bouwen voor oorlogsmisdaden en om de doden te identificeren – zowel Russische als Oekraïense. Het ministerie van Digitale Transformatie in Oekraïne zei dat het de Clearview AI-technologie gebruikt om Russen de kans te geven de “ware kosten van de oorlog” te ervaren, en om families te laten weten dat als ze de lichamen van hun geliefden willen vinden, ze “welkom zijn om naar Oekraïne te komen”.
Oekraïne krijgt gratis toegang tot de software. Het wordt ook gebruikt bij controleposten en zou kunnen helpen om vluchtelingen met hun families te herenigen.
Het verzet tegen privacy
Vorige maand legde het Britse Information Commissioner’s Office (ICO) Clearview AI echter een boete op van meer dan 7,5 miljoen pond voor het verzamelen van afbeeldingen van mensen in het VK en elders van het web en sociale media. Het bedrijf werd gelast de beelden te wissen en te stoppen met het verkrijgen en gebruiken van de persoonsgegevens van inwoners van het Verenigd Koninkrijk die openbaar op het internet beschikbaar zijn. Oorspronkelijk zei de ICO dat het van plan was Clearview AI een boete van 17 miljoen pond op te leggen.
Volgens de ICO bevat de gezichtendatabase van Clearview AI, gezien het enorme aantal Britse gebruikers van sociale media, waarschijnlijk een aanzienlijke hoeveelheid afbeeldingen die zonder toestemming zijn verzameld.
Een advocaat van Clearview, AI Lee Wolosky, zei: “Hoewel we de wens van de ICO waarderen om hun geldboete voor Clearview AI te verminderen, blijven we niettemin bij ons standpunt dat de beslissing om een boete op te leggen juridisch onjuist is. Clearview AI valt niet onder de jurisdictie van de ICO, en Clearview AI doet op dit moment geen zaken in het Verenigd Koninkrijk.”
Clearview AI heeft gezegd dat het 100 miljard gezichtsfoto’s in zijn database wil hebben tegen begin 2023 – gelijk aan 14 voor elke persoon op aarde. Meerdere foto’s van dezelfde persoon verbeteren de nauwkeurigheid van het systeem.
Volgens de website van Clearview AI helpt zijn gezichtsherkenningstechnologie de rechtshandhaving bij het aanpakken van criminaliteit, en stelt het transportbedrijven, banken en andere commerciële bedrijven in staat om diefstal te detecteren, fraude te voorkomen en identiteiten te verifiëren.
Buzzfeed meldde in februari 2020 dat verschillende Britse politiekorpsen eerder Clearview AI hebben gebruikt. Een woordvoerster van Clearview AI zei dat de politie in het Verenigd Koninkrijk geen toegang heeft tot haar technologie, terwijl woordvoerders van zowel het National Crime Agency als de Metropolitan politie het gebruik van specifieke tools of technieken wilden bevestigen noch ontkennen. In maart 2022 publiceerde het College of Policing echter nieuwe richtsnoeren voor de Britse politiediensten over het gebruik van live gezichtsherkenning.
De Britse regering is van plan om belangrijke mensenrechtenwetten te vervangen door een nieuwe Modern Bill of Rights die het voor mensen moeilijk, zo niet onmogelijk, zou kunnen maken om beslissingen op basis van AI-bewijs, waaronder gezichtsherkenning, aan te vechten bij de rechter.
Volgens belangenbehartigingsgroep Liberty , zal het wetsvoorstel waarschijnlijk een onevenredig effect hebben op overbevolkte gemeenschappen, omdat het verschillende klassen van eisers zou creëren op basis van hun gedrag in het verleden.
Een instrument voor oorlogsvoering
Clearview AI’s chief executive Hoan Ton-That zei dat zijn gezichtsherkenningssoftware de Oekraïense rechtshandhaving en overheidsfunctionarissen in staat heeft gesteld om meer dan 2 miljard beelden op te slaan van VKontakte, een Russische sociale netwerkdienst. Hoan zei dat de software Oekraïense ambtenaren kan helpen dode soldaten efficiënter te identificeren dan vingerafdrukken, en werkt zelfs als het gezicht van een soldaat beschadigd is.
Maar er is tegenstrijdig bewijs over de effectiviteit van gezichtsherkenningssoftware. Volgens het Amerikaanse ministerie van Energie kan de ontleding van iemands gezicht de nauwkeurigheid van de software verminderen. Anderzijds heeft recent wetenschappelijk onderzoek resultaten aangetoond met betrekking tot de identificatie van dode mensen die vergelijkbaar waren met of beter waren dan menselijke beoordeling.
Onderzoek suggereert dat vingerafdrukken, gebitsgegevens en DNA nog steeds de meest betrouwbare identificatietechnieken zijn. Maar dat zijn instrumenten voor getrainde professionals, terwijl gezichtsherkenning kan worden gebruikt door niet-deskundigen.
Een ander probleem dat uit onderzoek naar voren komt, is dat gezichtsherkenning twee beelden per vergissing kan koppelen, of foto’s van dezelfde persoon niet met elkaar kan matchen. In Oekraïne zouden de gevolgen van een mogelijke fout met AI rampzalig kunnen zijn. Een onschuldige burger kan worden gedood als hij verkeerd wordt herkend als een Russische soldaat.
Een omstreden geschiedenis
In 2016 begon Hoan met het werven van computerwetenschappelijke ingenieurs om het algoritme van Clearview AI te creëren. Maar pas in 2019 begon het Amerikaanse gezichtsherkenningsbedrijf zijn software discreet te leveren aan de Amerikaanse politie en wetshandhavingsinstanties.
In januari 2020 publiceerde The New York Times het verhaal: ‘The Secretive Company That Might End Privacy as We Know It’. Dit artikel was voor meer dan 40 burgerrechten- en tech-organisaties aanleiding om een brief te sturen naar de Privacy and Civil Liberties Oversight Board en vier Amerikaanse congrescommissies, waarin werd geëist dat de gezichtsherkenningssoftware van Clearview AI zou worden opgeschort.
In februari 2020 onthulde BuzzFeed, na een datalek van de klantenlijst van Clearview AI, dat de gezichtsherkenningssoftware van Clearview AI werd gebruikt door personen in meer dan 2.200 wetshandhavingsdiensten, overheidsinstanties en bedrijven in 27 verschillende landen.
Gezichtsherkenningstechnologie wordt ook gebruikt om diefstal op te sporen, fraude te voorkomen en identiteiten te verifiëren.
Shutterstock
Op 9 mei 2022 stemde Clearview AI ermee in om te stoppen met de verkoop van toegang tot zijn gezichtendatabase aan individuen en bedrijven in de VS, nadat de American Civil Liberties Union een rechtszaak had aangespannen waarin Clearview AI werd beschuldigd van het schenden van een privacywet in Illinois.
In de afgelopen twee jaar hebben gegevensbeschermingsautoriteiten in Canada, Frankrijk, Italië, Oostenrijk en Griekenland allemaal Clearview AI beboet, onderzocht of verboden om beelden van mensen te verzamelen.
De toekomst van Clearview AI in het Verenigd Koninkrijk is onzeker. Het slechtst denkbare scenario voor gewone mensen en bedrijven zou zijn dat de Britse regering geen rekening houdt met de zorgen die zijn geuit in reactie op haar raadpleging over de Modern Bill of Rights. Liberty heeft gewaarschuwd voor een potentiële “machtsgreep” op het gebied van mensenrechten.
Het beste resultaat zou naar mijn mening zijn dat de Britse regering haar plannen voor een Modern Bill of Rights laat varen. Dit zou ook betekenen dat Britse rechtbanken rekening moeten blijven houden met zaken van het Europees Hof voor de Rechten van de Mens als jurisprudentie.
Tenzij er wetten worden aangenomen die het gebruik van gezichtsherkenning regelen, dreigt het gebruik van deze technologie door de politie een inbreuk te vormen op de privacyrechten, de gegevensbescherming en de wetgeving inzake gelijke behandeling.
Felipe Romero Moreno is aangesloten bij The British and Irish Law Education Technology Association (BILETA) https://www.bileta.org.uk/
