Regelgeving moet AI-innovatie beschermen en tegelijkertijd risico’s aanpakken, maar wat's de juiste balans? ra2 studio / Shutterstock
De nieuwste generatie kunstmatige intelligentie (AI), zoals ChatGPT, zal een revolutie teweegbrengen in de manier waarop we leven en werken. AI-technologieën kunnen onderwijs, gezondheidszorg, transport en welzijn aanzienlijk verbeteren. Maar er zijn ook nadelen: banen die niet meer bestaan, misbruik van surveillance en discriminatie, ook in de gezondheidszorg en bij de politie.
Er is algemene overeenstemming over het feit dat AI gereguleerd moet worden, gezien het ontzagwekkende potentieel voor goed en kwaad. De EU heeft één benadering voorgesteld, gebaseerd op potentiële problemen. Het VK stelt een andere, pro-zakelijke aanpak voor.
Dit jaar publiceerde de Britse regering een witboek (een beleidsdocument met plannen voor toekomstige wetgeving) waarin werd onthuld hoe ze AI wil reguleren, met de nadruk op flexibiliteit om innovatie niet te verstikken. Het document geeft de voorkeur aan vrijwillige naleving, met vijf principes die bedoeld zijn om AI-risico’s aan te pakken.
Strikte handhaving van deze principes door regelgevers kan later worden toegevoegd als dat nodig is. Maar is zo’n aanpak te mild gezien de risico’s?
Cruciale onderdelen
De Britse aanpak verschilt van de op risico gebaseerde regelgeving van de EU. De voorgestelde AI-wet van de EU verbiedt bepaalde AI-toepassingen, zoals live gezichtsherkenningstechnologie, waarbij mensen op een camerabeeld worden vergeleken met “controlelijsten” van de politie, in openbare ruimtes.
De EU-aanpak creëert strenge normen voor zogenaamde AI-systemen met een hoog risico. Hieronder vallen systemen die worden gebruikt om sollicitaties te beoordelen, studenten toe te laten, in aanmerking te komen voor leningen en overheidsdiensten.
Ik ben van mening dat de benadering van het Verenigd Koninkrijk een beter evenwicht biedt tussen de risico’s en voordelen van AI en innovatie bevordert die de economie en de maatschappij ten goede komt. Er moeten echter kritieke uitdagingen worden aangepakt.
De AI-wet van de EU zou live gezichtsherkenning door politiediensten in openbare ruimtes verbieden.
Gorodenkoff / Shutterstock
De Britse aanpak van AI-regulering heeft drie cruciale componenten. Ten eerste vertrouwt het op bestaande wettelijke kaders zoals privacy-, gegevensbeschermings- en productaansprakelijkheidswetten, in plaats van nieuwe AI-gerichte wetgeving te implementeren.
Ten tweede zouden vijf algemene principes – elk bestaande uit verschillende componenten – worden toegepast door regelgevers in combinatie met bestaande wetten. Deze principes zijn (1) “veiligheid, beveiliging en robuustheid”, (2) “gepaste transparantie en verklaarbaarheid”, (3) “eerlijkheid”, (4) “verantwoordingsplicht en bestuur”, en (5) “betwistbaarheid en verhaal”.
Tijdens de initiële implementatie zouden regelgevers niet wettelijk verplicht zijn om de principes te handhaven. Een statuut dat deze verplichtingen oplegt zou later worden uitgevaardigd, indien nodig geacht. Van organisaties wordt daarom verwacht dat ze de principes in eerste instantie vrijwillig naleven.
Ten derde zouden regelgevers de vijf principes kunnen aanpassen aan de onderwerpen die ze bestrijken, met ondersteuning van een centraal coördinerend orgaan. Er zal dus niet één enkele handhavingsinstantie zijn.
Veelbelovende aanpak?
De Britse regeling is om drie redenen veelbelovend. Ten eerste belooft het bewijs over AI in de juiste context te gebruiken, in plaats van een voorbeeld uit het ene gebied ongepast toe te passen op een ander gebied.
Ten tweede is het zo ontworpen dat de regels gemakkelijk kunnen worden aangepast aan de eisen van AI die wordt gebruikt in verschillende gebieden van het dagelijks leven. Ten derde heeft de gedecentraliseerde aanpak voordelen. Als één enkele regelgevende organisatie bijvoorbeeld ondermaats zou presteren, zou dat het gebruik van AI over de hele linie beïnvloeden.
Laten we eens kijken naar hoe ze bewijs over AI zou gebruiken. Omdat de risico’s van AI nog niet volledig worden begrepen, is het voorspellen van toekomstige problemen giswerk. Om deze leemte op te vullen, zou bewijs dat niet relevant is voor een specifiek gebruik van AI kunnen worden gebruikt om drastische en ongepaste regelgevende oplossingen voor te stellen.
Sommige Amerikaanse internetbedrijven gebruiken bijvoorbeeld algoritmes om het geslacht van een persoon te bepalen op basis van gezichtskenmerken. Deze algoritmes presteerden slecht wanneer ze foto’s van vrouwen met een donkere huidskleur te zien kregen.
Deze bevinding is aangehaald ter ondersteuning van een verbod op het gebruik van gezichtsherkenningstechnologie door wetshandhavers in het Verenigd Koninkrijk. De twee gebieden zijn echter heel verschillend en problemen met geslachtsclassificatie impliceren geen vergelijkbaar probleem met gezichtsherkenning bij wetshandhaving.
Deze Amerikaanse geslachtsalgoritmen werken onder relatief lagere wettelijke normen. Gezichtsherkenning gebruikt door wetshandhavers in het Verenigd Koninkrijk wordt rigoureus getest en wordt ingezet onder strenge wettelijke eisen.
Sommige AI-toepassingen, zoals bestuurderloze auto’s, kunnen onder meer dan één regelgevend regime vallen.
riopatuca / Shutterstock
Een ander voordeel van de Britse aanpak is het aanpassingsvermogen. Het kan moeilijk zijn om potentiële risico’s te voorspellen, vooral met AI die voor andere doeleinden kan worden gebruikt dan de ontwikkelaars ervan hadden voorzien, en met machine-leersystemen die in de loop der tijd steeds beter gaan presteren.
Het kader stelt regelgevers in staat om risico’s snel aan te pakken wanneer ze zich voordoen, waardoor lange debatten in het parlement worden vermeden. De verantwoordelijkheden worden verdeeld over verschillende organisaties. Het centraliseren van AI-toezicht bij één nationale regelgevende instantie kan leiden tot inefficiënte handhaving.
Toezichthouders met expertise op specifieke gebieden zoals vervoer, luchtvaart en financiële markten zijn beter geschikt om het gebruik van AI binnen hun interessegebied te reguleren.
Deze gedecentraliseerde aanpak kan de effecten van corruptie, van regelgevers die zich bezighouden met andere zaken dan het algemeen belang en van verschillende benaderingen van handhaving minimaliseren. Het voorkomt ook dat de handhaving op één punt faalt.
Handhaving en coördinatie
Sommige bedrijven zouden zich kunnen verzetten tegen vrijwillige normen, dus als en wanneer regelgevers handhavingsbevoegdheden krijgen, zouden ze boetes moeten kunnen uitdelen. Het publiek zou ook het recht moeten hebben om compensatie te vragen voor schade veroorzaakt door AI-systemen.
Handhaving hoeft flexibiliteit niet te ondermijnen. Regelgevers kunnen de normen nog steeds naar behoefte aanscherpen of versoepelen. Het Britse kader zou echter op problemen kunnen stuiten wanneer AI-systemen onder de jurisdictie van meerdere regelgevende instanties vallen, wat tot overlappingen kan leiden. Vervoers-, verzekerings- en gegevensbeschermingsautoriteiten zouden bijvoorbeeld allemaal tegenstrijdige richtlijnen voor zelfrijdende auto’s kunnen uitvaardigen.
Om dit aan te pakken, stelt het witboek voor om een centraal orgaan op te richten dat zou zorgen voor de harmonieuze implementatie van richtlijnen. Het is van vitaal belang om de verschillende regelgevende instanties te dwingen deze organisatie te raadplegen in plaats van de beslissing aan hen over te laten.
De Britse aanpak is veelbelovend voor het stimuleren van innovatie en het aanpakken van risico’s. Maar om de positie van het land als leider op dit gebied te versterken, moet het kader worden afgestemd op de regelgeving elders, met name in de EU.
Het verfijnen van het kader kan de rechtszekerheid voor bedrijven vergroten en het vertrouwen van het publiek versterken. Het zal ook het internationale vertrouwen in het Britse systeem van regelgeving voor deze transformatieve technologie bevorderen.
Asress Adimi Gikay werkt niet voor, voert geen advies uit over, bezit geen aandelen in en ontvangt geen financiering van bedrijven of organisaties die baat hebben bij dit artikel en heeft geen relevante banden bekendgemaakt buiten haar academische aanstelling.
