Rawpixel.com / Shutterstock
Kunstmatige intelligentie (AI) zal wereldwijd ernstige maatschappelijke gevolgen hebben. Het is dus urgenter dan ooit dat staatsleiders samenwerken om de technologie te reguleren.
Er zijn al verschillende oproepen gedaan: de Bletchley Verklaring op een recente top in het VK en de 11 AI principes en gedragscode die de G7 leiders zijn overeengekomen, bijvoorbeeld. Maar deze stellen grotendeels het voor de hand liggende vast. De echte vraag is niet of internationale samenwerking op het gebied van AI nodig is, maar hoe die kan worden gerealiseerd.
De meest voor de hand liggende manier om dit te bewerkstelligen op een manier die de voordelen van AI maximaliseert en “vangrails” – controles – inbouwt om de aanzienlijke risico’s te beheersen, is het opzetten van een intergouvernementele instantie.
Eén idee is om een Wereld Technologie Organisatie op te richten. Anderen pleiten voor een orgaan vergelijkbaar met de Internationale Organisatie voor Atoomenergie (IAEA), waarbij ze een vergelijking trekken tussen AI en kernwapens wat betreft de risico’s die ze met zich meebrengen.
Een andere opvatting is om een institutioneel kader te ontwikkelen dat geïnspireerd is door entiteiten zoals Cern, het Menselijk Genoom Project of het Internationale Ruimtestation (ISS).
Het creëren van een AI- of technologiespecifieke internationale organisatie, hoe het ook genoemd mag worden, staat echter voor drie bijzonder moeilijke uitdagingen.
Wrijving tussen machten
Ten eerste, omdat AI een technologie voor tweeërlei gebruik is – wat betekent dat het zowel voor vreedzame als voor militaire doeleinden kan worden ingezet – is het onwaarschijnlijk dat de grootmachten bereid zijn om samen een mondiale instelling te vormen die op een zinvolle manier toezicht kan houden op de ontwikkeling en het gebruik ervan.
De zogenaamde chipoorlog tussen de VS en China is in volle gang. AI-technologie is ook het onderwerp van hevige geopolitieke concurrentie. De wrijving tussen de grootmachten werpt ernstige hindernissen op voor internationale samenwerking op het gebied van AI in het bijzonder.
De bestaande internationale instellingen die na de Tweede Wereldoorlog zijn opgebouwd, hebben in feite al structureel te lijden onder de wrijving tussen de staten. De VN-Veiligheidsraad bijvoorbeeld is nog steeds verlamd als het gaat om de grootste controverses van internationaal belang.
De Beroepsinstantie van de Wereldhandelsorganisatie, één van de meest succesvolle internationale mechanismen om te oordelen over handelskwesties in het verleden, is momenteel disfunctioneel omdat de VS weigert gerechtelijke benoemingen te bekrachtigen. Maar zelfs voor de teloorgang van de Beroepsinstantie heb ik al betoogd dat er sprake was van aanzienlijke structurele tekortkomingen.
Meningsverschillen in de VN-Veiligheidsraad hebben grote problemen opgeleverd bij het oplossen van gewapende conflicten.
lev radin / Shutterstock
De grote internationale financiële instellingen staan ook voor serieuze bestuurlijke uitdagingen. De leiders van de G20 hebben onlangs opgeroepen tot hervormingen bij de Wereldbank en het Internationaal Monetair Fonds (IMF) en tot een duidelijkere afbakening van hun rol.
Nu de bestaande internationale instellingen in crisis verkeren, is het moeilijk voor te stellen dat er op korte termijn een op zichzelf staande internationale organisatie kan worden opgericht om AI te reguleren.
Wat gaat een AI-gerichte organisatie doen?
Ten tweede, zelfs als de internationale gemeenschap het op de een of andere manier eens wordt over de oprichting van een AI- of technologiespecifiek reguleringsorgaan, blijft de vraag wat deze organisatie eigenlijk gaat doen. Zou een AI-gerichte organisatie proberen de wetenschappelijke samenwerking tussen verschillende onderzoeksgroepen te verbeteren, of zal het proberen de AI-regulering tussen landen te coördineren.
Zou zo’n organisatie een controleregime creëren om ervoor te zorgen dat alleen mensgerichte, betrouwbare en verantwoordelijke AI wordt ontwikkeld? Hoe zou zo’n regime in werking treden en de handhaving uitvoeren? Zou de organisatie ook het mandaat krijgen om ontwikkelingslanden en de minst ontwikkelde landen te helpen het volledige potentieel van AI te realiseren?
Soevereiniteitsoverwegingen, nationale veiligheid, waargenomen nationale belangen en, uiteindelijk, verschillende benaderingen van AI betekenen dat het bereiken van een waardevolle consensus over wat zo’n organisatie zou moeten doen, waarschijnlijk nog wel even moeilijk zal blijven. We zien nu al dat er verschillende keuzes worden gemaakt met betrekking tot AI-regelgevingskaders en -implementatie. Terwijl de AI-wet van de EU social scoring en realtime gezichtsherkenning verbiedt, kiezen autoritaire staten voor een andere aanpak.
Het is dus belangrijk om ons niet te laten meeslepen door generaliserende uitspraken van de internationale gemeenschap, die de indruk wekken dat er mogelijk een internationale wet op AI aan het ontstaan is. Bijna niemand zal ontkennen dat de samenleving beschermd moet worden tegen de risico’s van AI. De toepassing ervan mag de mensenrechten niet ondermijnen en moet veilig en betrouwbaar zijn.
Maar het is de vertaling van dergelijke algemene principes naar specifieke verplichtingen in het internationaal recht die een grote uitdaging vormt.
Risicobeoordelingen van AI-instrumenten kunnen verschillende resultaten opleveren, afhankelijk van wie ze uitvoert. Welke rechten prioriteit zouden moeten krijgen – individuele rechten versus veiligheidsbelangen – zou kunnen verschillen per land. Hetzelfde geldt voor wat ethische vormen van AI zijn.
Welke rol voor particuliere actoren?
De derde belangrijke uitdaging bij het creëren van een internationaal toezichthoudend orgaan heeft te maken met het institutionele karakter dat zou moeten worden aangenomen. Dit omvat ook de rol die de private sector krijgt in een bestuurskader.
Gezien de zeer belangrijke rol van de private sector bij de ontwikkeling en toepassing van AI-instrumenten, is een gezamenlijk publiek-privaat bestuursmodel wellicht de enige realistische optie. Op dit moment zijn landen de centrale actoren in de internationale gemeenschap.
Het opnemen van particuliere bedrijven in een internationale bestuursstructuur die over het algemeen de voorkeur geeft aan landen boven al het andere, kan problemen opleveren. Dat is een uitdaging die overwonnen moet worden voordat zo’n organisatie wordt opgericht.
Tot slot bestaat er al enige internationale samenwerking op het gebied van AI. Organisaties zoals de OESO, UNESCO en de Internationale Organisatie voor Standaardisatie hebben al aanbevelingen of normen ontwikkeld op het gebied van hun expertise.
Andere organisaties, zoals de Internationale Arbeidsorganisatie en de Wereldgezondheidsorganisatie, zijn begonnen de gevolgen van AI in hun mandaat op te nemen.
De VN heeft ook een adviesorgaan op hoog niveau voor AI opgericht om analyses uit te voeren en aanbevelingen te doen voor de internationale governance van deze technologie. Het is nog te vroeg om te concluderen of deze gefragmenteerde aanpak kan leiden tot een goed doordacht en gecoördineerd antwoord.
Totdat de omstandigheden geschikt zijn om een op zichzelf staande AI-gerichte internationale organisatie op te richten, is het vrijwel zeker dat machtige actoren, zoals de VS – waar de meeste techbedrijven zijn gevestigd – en de AI-wet van de Europese Unie, een buitenproportionele invloed zullen hebben op de inhoud van AI-regulering en -bestuur wereldwijd.
Rishi Gulati werkt niet voor, heeft geen adviesfuncties, bezit geen aandelen in en ontvangt geen financiering van bedrijven of organisaties die baat zouden hebben bij dit artikel en heeft geen relevante banden bekendgemaakt buiten zijn academische aanstelling.
