Fijne dag Foto / Shutterstock
De meeste mainstream toepassingen van kunstmatige intelligentie (AI) maken gebruik van het vermogen om grote hoeveelheden gegevens te kraken en patronen en trends te ontdekken. De resultaten kunnen helpen bij het voorspellen van het toekomstige gedrag van financiële markten en stadsverkeer, en zelfs artsen helpen bij het diagnosticeren van ziekten voordat de symptomen verschijnen.
Maar AI kan ook worden gebruikt om de privacy van onze online gegevens in gevaar te brengen, banen van mensen te automatiseren en democratische verkiezingen te ondermijnen door sociale media te overspoelen met desinformatie. Algoritmen kunnen vooroordelen overerven van de echte gegevens die gebruikt worden om ze te verbeteren, wat bijvoorbeeld kan leiden tot discriminatie bij het aannemen van personeel.
AI-regulering is een uitgebreide set regels die voorschrijft hoe deze technologie moet worden ontwikkeld en gebruikt om de potentiële schade ervan aan te pakken. Hier volgen enkele van de belangrijkste pogingen om dit te doen en hoe ze verschillen.
De EU AI-wet en de Bletchley Verklaring
De AI-wet van de Europese Commissie is erop gericht om potentiële gevaren te beperken en tegelijkertijd ondernemerschap en innovatie in AI aan te moedigen. Het AI Safety Institute van het Verenigd Koninkrijk, dat werd aangekondigd tijdens de recente regeringstop in Bletchley Park, streeft ook naar dit evenwicht.
De EU-wet verbiedt AI-instrumenten die geacht worden onaanvaardbare risico’s met zich mee te brengen. Deze categorie omvat producten voor “social scoring”, waarbij mensen worden geclassificeerd op basis van hun gedrag, en real-time gezichtsherkenning.
De wet beperkt ook AI met een hoog risico, de volgende categorie. Dit label omvat toepassingen die een negatieve invloed kunnen hebben op fundamentele rechten, waaronder veiligheid.
Voorbeelden zijn autonoom rijden en AI-aanbevelingssystemen die worden gebruikt bij aanwervingsprocessen, wetshandhaving en onderwijs. Veel van deze tools zullen moeten worden geregistreerd in een EU-database. De beperkte risicocategorie omvat chatbots zoals ChatGPT of beeldgeneratoren zoals Dall-E.
Over de hele linie zullen AI-ontwikkelaars de privacy moeten garanderen van alle persoonlijke gegevens die worden gebruikt om hun algoritmen te “trainen” – of te verbeteren – en transparant moeten zijn over hoe hun technologie werkt. Een van de belangrijkste nadelen van de wet is echter dat deze voornamelijk is ontwikkeld door technocraten, zonder uitgebreide betrokkenheid van het publiek.
In tegenstelling tot de AI Act is de recente Bletchley Declaration geen regelgevend kader op zich, maar een oproep om er een te ontwikkelen door middel van internationale samenwerking. De 2023 AI Safety Summit, die de verklaring produceerde, werd geprezen als een diplomatieke doorbraak omdat het de politieke, commerciële en wetenschappelijke gemeenschappen van de wereld op één lijn kreeg over een gezamenlijk plan dat de EU-wet weerspiegelt.
Lees meer:
Bletchley-verklaring: internationale overeenkomst over AI-veiligheid is een goed begin, maar gewone mensen moeten meepraten – niet alleen elites
De VS en China
Bedrijven uit Noord-Amerika (met name de VS) en China domineren het commerciële AI-landschap. De meeste van hun Europese hoofdkantoren zijn gevestigd in het Verenigd Koninkrijk.
De VS en China strijden om voet aan de grond te krijgen in de regelgevingsarena. De Amerikaanse president Joe Biden heeft onlangs een uitvoeringsbevel uitgevaardigd dat AI-fabrikanten verplicht om de federale overheid te voorzien van een beoordeling van de kwetsbaarheid van hun toepassingen voor cyberaanvallen, de gegevens die worden gebruikt om de AI te trainen en te testen en de prestatiemetingen.
Het Amerikaanse uitvoeringsbevel geeft stimulansen om innovatie en concurrentie te bevorderen door internationaal talent aan te trekken. Het mandateert het opzetten van onderwijsprogramma’s om AI-vaardigheden te ontwikkelen binnen de Amerikaanse beroepsbevolking. Er wordt ook overheidsfinanciering toegekend aan partnerschappen tussen de overheid en particuliere bedrijven.
Risico’s zoals discriminatie veroorzaakt door het gebruik van AI bij aanwerving, hypotheekaanvragen en gerechtelijke veroordelingen worden aangepakt door de hoofden van Amerikaanse uitvoerende departementen te verplichten om richtlijnen te publiceren. Hierin wordt uiteengezet hoe federale autoriteiten toezicht moeten houden op het gebruik van AI op deze gebieden.
Chinese AI-regelgeving onthult een aanzienlijke interesse in generatieve AI en bescherming tegen deep fakes (synthetisch geproduceerde afbeeldingen en video’s die het uiterlijk en de stem van echte mensen nabootsen, maar gebeurtenissen overbrengen die nooit hebben plaatsgevonden).
Er is ook een sterke focus op het reguleren van AI-aanbevelingssystemen. Dit verwijst naar algoritmen die de online activiteiten van mensen analyseren om te bepalen welke inhoud, waaronder advertenties, bovenaan hun feeds moet komen te staan.
Om het publiek te beschermen tegen aanbevelingen die ondeugdelijk of emotioneel schadelijk worden geacht, verbiedt de Chinese regelgeving nepnieuws en voorkomt dat bedrijven dynamic pricing toepassen (het vaststellen van hogere premies voor essentiële diensten op basis van het verzamelen van persoonlijke gegevens). Ze schrijven ook voor dat alle geautomatiseerde besluitvorming transparant moet zijn voor degenen op wie deze betrekking heeft.
De weg vooruit
Inspanningen op het gebied van regelgeving worden beïnvloed door nationale contexten, zoals de bezorgdheid van de VS over cyberdefensie, de sterke positie van China in de private sector en de pogingen van de EU en het VK om een evenwicht te vinden tussen innovatieondersteuning en risicobeperking. In hun pogingen om ethische, veilige en betrouwbare AI te bevorderen, worden de kaders wereldwijd met vergelijkbare uitdagingen geconfronteerd.
Sommige definities van belangrijke terminologie zijn vaag en weerspiegelen de inbreng van een kleine groep invloedrijke belanghebbenden. Het grote publiek is ondervertegenwoordigd in het proces.
Beleidsmakers moeten voorzichtig zijn met het aanzienlijke politieke kapitaal van techbedrijven. Het is van vitaal belang om ze te betrekken bij discussies over regelgeving, maar het zou naïef zijn om deze machtige lobbyisten te vertrouwen zichzelf te controleren.
AI dringt door in het weefsel van de economie, informeert financiële investeringen, ondersteunt de nationale gezondheidszorg en sociale voorzieningen en beïnvloedt onze voorkeuren op het gebied van entertainment. Dus wie het dominante regelgevende kader vaststelt, heeft ook de mogelijkheid om het mondiale machtsevenwicht te verschuiven.
Belangrijke kwesties blijven onaangeroerd. In het geval van jobautomatisering, bijvoorbeeld, zou de conventionele wijsheid suggereren dat digitale leercontracten en andere vormen van omscholing de beroepsbevolking zullen omvormen tot datawetenschappers en AI-programmeurs. Maar veel hoogopgeleide mensen zijn misschien niet geïnteresseerd in softwareontwikkeling.
Terwijl de wereld de risico’s en kansen van AI aanpakt, zijn er positieve stappen die we kunnen nemen om een verantwoorde ontwikkeling en gebruik van deze technologie te garanderen. Om innovatie te ondersteunen, zouden nieuw ontwikkelde AI-systemen kunnen beginnen in de categorie met een hoog risico – zoals gedefinieerd in de EU-AI Act – en kunnen worden gedegradeerd naar lagere risicocategorieën naarmate we de effecten ervan onderzoeken.
Beleidsmakers zouden ook kunnen leren van sterk gereguleerde industrieën, zoals de farmaceutische en nucleaire sector. Deze zijn niet direct vergelijkbaar met AI, maar veel van de kwaliteitsnormen en operationele procedures die gelden voor deze veiligheidskritische sectoren van de economie kunnen nuttige inzichten bieden.
Tot slot is samenwerking tussen iedereen die met AI te maken heeft essentieel. Het vormgeven van de regels mag niet alleen aan technocraten worden overgelaten. Het grote publiek moet zeggenschap hebben over een technologie die diepgaande gevolgen kan hebben voor hun persoonlijke en professionele leven.
Alina Patelli ontvangt financiering van Innovate UK.
