ChatGPT: lessen uit het tijdelijke verbod van Italië op de AI-chatbot

ChatGPT lessen uit het tijdelijke verbod van Italie op de

De Italiaanse gegevensbeschermingsautoriteit gebruikte een noodprocedure om het tijdelijke verbod op te leggen. Shutterstock / Diego Thomazini

In maart 2023 werd Italië het eerste westerse land dat de geavanceerde chatbot bekend als ChatGPT blokkeerde.

De Italiaanse autoriteit voor gegevensbescherming, Garante, noemde bezorgdheid over de bescherming van persoonsgegevens bij het nemen van deze beslissing. Zij heeft OpenAI, het in Californië gevestigde bedrijf dat ChatGPT heeft gemaakt, tot eind april de tijd gegeven om aan haar eisen te voldoen.

Garante zei dat ChatGPT gegevens verzamelt op een manier die onverenigbaar is met de wetgeving inzake gegevensbescherming. Een andere reden was het ontbreken van leeftijdscontrole door het platform, waardoor kinderen zouden kunnen worden blootgesteld aan schadelijke inhoud. Als gevolg daarvan gebruikte zij een noodprocedure om de verwerking van persoonsgegevens door OpenAI tijdelijk op te schorten.

Nieuws over het tijdelijke verbod verspreidde zich over de hele wereld, waardoor bezorgdheid ontstond over de gevolgen van beslissingen als deze voor de ontwikkeling van nieuwe toepassingen van kunstmatige intelligentie (AI).

De stap viel ook samen met een oproep van deskundigen en zakenmensen – waaronder OpenAI’s medeoprichter Elon Musk – om grenzen te stellen aan de ontwikkeling van op AI gebaseerde toepassingen totdat de risico’s beter kunnen worden ingeschat.

Het tijdelijke verbod kan een aantal belangrijke lessen opleveren over de evenredigheid en doeltreffendheid van verboden op technologieën in ontwikkeling, over coördinatie tussen lidstaten op Europees niveau, en over hoe de toegang tot diensten in evenwicht kan worden gebracht met de noodzaak om kinderen te beschermen tegen toegang tot schadelijke inhoud.

Het bevel, dat op 30 maart is uitgevaardigd, is ondertekend door Pasquale Stanzione, de voorzitter van de Italiaanse autoriteit voor gegevensbescherming. Het volgde op een melding van een datalek betreffende ChatGPT gebruikersgegevens die tien dagen eerder was gemeld.

Gegevensverwerking

Garante rechtvaardigde haar maatregelen kort door te wijzen op het gebrek aan informatie voor gebruikers en betrokkenen over de door OpenAI verwerkte gegevens. Zij wees ook op de grootschalige verwerking van persoonsgegevens om generatieve systemen zoals ChatGPT te trainen.

In de voorwaarden van OpenAI staat dat ChatGPT alleen wordt aangeboden aan gebruikers ouder dan 13 jaar. Dit was echter niet bevredigend voor de Italiaanse gegevensbeschermingsautoriteit, die zich zorgen maakte over het gebrek aan leeftijdscontrole.

De reactie van OpenAI was, ten eerste, om de toegang tot ChatGPT in Italië te blokkeren en, ten tweede, om aan te tonen dat zij bereid is om met Garante samen te werken om aan het tijdelijke bevel te voldoen.

In haar besluit haalde Garante de grootschalige verwerking van persoonsgegevens aan om generatieve systemen zoals ChatGPT te trainen.
Shutterstock / Laymanzoom

Naleving zou inhouden dat OpenAI waarborgen implementeert, waaronder het verstrekken van een privacybeleid, gebruikers de mogelijkheid bieden om individuele rechten over gegevensbescherming uit te oefenen en informatie verstrekken over de rechtsgrondslag van het bedrijf voor de verwerking van persoonsgegevens.

Garante verwelkomde deze toezeggingen. Zij schortte het tijdelijke bevel op en verzocht OpenAI deze waarborgen uiterlijk eind april 2023 te implementeren.

Geharmoniseerd kader

Uit deze zaak kunnen echter ten minste drie belangrijke lessen worden getrokken: het gebrek aan Europese coördinatie bij de regulering van deze technologie, de doeltreffendheid en evenredigheid van deze maatregel en de bescherming van kinderen.

Ten eerste is er meer Europese coördinatie nodig rond de algemene kwestie van de AI-technologie. De door de EU voorgestelde AI-wet is slechts één stap in de richting van een geharmoniseerd kader om de ontwikkeling van AI-technologieën te waarborgen die in overeenstemming zijn met de Europese waarden. En zoals het verbod van Italië heeft aangetoond, kan het EU-regelgevingsmodel gefragmenteerd raken als nationale autoriteiten hun eigen weg gaan.

Met name het verband tussen AI en gegevensbescherming geeft de nationale autoriteiten de mogelijkheid om te reageren op de ontwikkeling van nieuwe AI-technologieën. Het onderstreept ook de noodzaak van meer coördinatie tussen de Europese lidstaten over allerlei soorten regelgeving.

Plannen, niet verbieden

Ten tweede roepen de maatregelen van de Italiaanse gegevensbeschermingsautoriteit vragen op over zowel de doeltreffendheid als de evenredigheid.

Wat de doeltreffendheid betreft, is het vermeldenswaard dat er berichten waren over een toename van 400% in VPN-downloads in Italië, waarmee gebruikers mogelijk het verbod konden omzeilen, na het nieuws over de invoering ervan.

Wat de kwestie van de evenredigheid betreft, lijkt een algemeen verbod geen evenwicht te vinden tussen de conflicterende grondwettelijke belangen die op het spel staan. De tijdelijke maatregel vermeldt niet hoe hij rekening houdt met de bescherming van andere belangen, zoals de vrijheid van gebruikers om toegang te krijgen tot ChatGPT.

Ook al is het verbod tijdelijk, de situatie had kunnen profiteren van de betrokkenheid in een eerder stadium van andere bestuursleden van de Italiaanse gegevensbeschermingsautoriteit. Een voorafgaande uitwisseling met OpenAI had een verbod helemaal kunnen voorkomen. Deze handelwijze had kunnen vooruitlopen op de invoering van verdere waarborgen om de gegevensbescherming in acht te nemen.

De beste manieren om kinderen te beschermen

Ten slotte roept de beschikking vragen op over de beste manieren om kinderen te beschermen tegen eventuele schadelijke inhoud die door deze toepassingen wordt gecreëerd. De invoering van een leeftijdscontrolesysteem of waarschuwingen met betrekking tot schadelijke inhoud hadden discussiepunten kunnen zijn, indien de partijen een permanente dialoog hadden gevoerd.

Deze zaak is een voorbeeld van hoe een algemeen verbod op nieuwe technologische toepassingen meestal het resultaat is van een snelle reactie waarbij de doeltreffendheid en de evenredigheid van de maatregel niet grondig worden beoordeeld.

Zelfs als men stelt dat de beslissing neigt naar bescherming van grondrechten, voornamelijk op het gebied van gegevensbescherming en waarborgen voor kinderen, leidt zij tot meer onzekerheid.

Een preventieve en gezamenlijke aanpak met OpenAI zou het risico dat deze dienst in Italië wordt geblokkeerd tot een minimum hebben beperkt. Voortdurende discussie tussen OpenAI en de Italiaanse autoriteiten is cruciaal.

Oreste Pollicino trad op als onafhankelijk bemiddelaar bij het opstellen van de nieuwe code van de Europese Unie tegen online desinformatie.

Giovanni De Gregorio is PLMJ-leerstoel recht en technologie aan de Católica Global School of Law, Universidade Catolica Portuguesa, Lissabon.

Mobiele versie afsluiten