Google DeepMind / Unsplash, Auteur
Er zijn veel voorgestelde manieren om te proberen grenzen te stellen aan kunstmatige intelligentie (AI), zowel vanwege de mogelijke schade die het kan toebrengen aan de maatschappij als vanwege de voordelen.
De AI-wet van de EU legt bijvoorbeeld meer beperkingen op aan systemen op basis van de vraag of ze in de categorie vallen van AI voor algemene doeleinden en generatieve AI of worden beschouwd als beperkt risico, hoog risico of een onaanvaardbaar risico.
Dit is een nieuwe en gedurfde aanpak om eventuele nadelige effecten te beperken. Maar wat als we een aantal reeds bestaande hulpmiddelen kunnen aanpassen? Softwarelicenties zijn een bekend model dat aangepast zou kunnen worden om de uitdagingen van geavanceerde AI-systemen aan te gaan.
Open verantwoordelijke AI-licenties (OpenRails) zouden een deel van dit antwoord kunnen zijn. AI met een OpenRail-licentie is vergelijkbaar met open source software. Een ontwikkelaar mag zijn systeem openbaar vrijgeven onder de licentie. Dit betekent dat iedereen vrij is om te gebruiken, aan te passen en opnieuw te delen wat oorspronkelijk gelicentieerd is.
Het verschil met OpenRail is de toevoeging van voorwaarden voor het verantwoord gebruik van de AI. Deze omvatten het niet overtreden van de wet, het zich zonder toestemming voordoen als iemand of het discrimineren van mensen.
Naast de verplichte voorwaarden kan OpenRails worden aangepast om andere voorwaarden op te nemen die direct relevant zijn voor de specifieke technologie. Als een AI bijvoorbeeld is gemaakt om appels te categoriseren, kan de ontwikkelaar aangeven dat deze nooit mag worden gebruikt om sinaasappels te categoriseren, omdat dit onverantwoord zou zijn.
De reden dat dit model nuttig kan zijn, is dat veel AI-technologieën zo algemeen zijn dat ze voor veel dingen gebruikt kunnen worden. Het is echt moeilijk om te voorspellen op welke snode manieren ze zouden kunnen worden uitgebuit.
Dit model stelt ontwikkelaars dus in staat om open innovatie vooruit te helpen en tegelijkertijd het risico te verkleinen dat hun ideeën op onverantwoorde manieren worden gebruikt.
Open maar verantwoordelijk
Propriëtaire licenties zijn daarentegen beperkter over hoe software gebruikt en aangepast kan worden. Ze zijn ontworpen om de belangen van de makers en investeerders te beschermen en hebben techgiganten zoals Microsoft geholpen om enorme imperiums op te bouwen door toegang tot hun systemen in rekening te brengen.
Vanwege het grote bereik vraagt AI aantoonbaar om een andere, meer genuanceerde aanpak die de openheid kan bevorderen die vooruitgang stimuleert. Op dit moment werken veel grote bedrijven met gesloten AI-systemen. Maar dit zou kunnen veranderen, aangezien er verschillende voorbeelden zijn van bedrijven die een open-source aanpak gebruiken.
Meta’s generatieve AI-systeem Llama-v2 en de beeldgenerator Stable Diffusion zijn open source. De Franse AI startup Mistral, opgericht in 2023 en nu gewaardeerd op US€2 miljard (£1.6 miljard), zal binnenkort openlijk zijn nieuwste model uitbrengen, waarvan wordt gezegd dat het prestaties levert die vergelijkbaar zijn met GPT-4 (het model achter Chat GPT).
Openheid moet echter worden getemperd met een gevoel van verantwoordelijkheid voor de maatschappij, vanwege de potentiële risico’s die aan AI verbonden zijn. Deze omvatten het potentieel voor algoritmen om mensen te discrimineren, banen te vervangen en zelfs existentiële bedreigingen voor de mensheid te vormen.
HuggingFace is ’s werelds grootste hub voor AI-ontwikkelaars.
Jesse Joshua Benjamin, Verschaft door de auteur
We moeten ook kijken naar de meer alledaagse toepassingen van AI. De technologie zal steeds meer deel gaan uitmaken van onze maatschappelijke infrastructuur, een centraal onderdeel van de manier waarop we toegang krijgen tot informatie, meningen vormen en ons cultureel uitdrukken.
Zo’n universeel belangrijke technologie brengt een eigen soort risico met zich mee, anders dan de robotapocalyps, maar nog steeds zeer de moeite van het overwegen waard.
Eén manier om dit te doen is door wat AI in de toekomst kan doen af te zetten tegen wat vrije meningsuiting nu doet. Het vrij delen van ideeën is niet alleen cruciaal voor het handhaven van democratische waarden, maar het is ook de motor van cultuur. Het vergemakkelijkt innovatie, moedigt diversiteit aan en stelt ons in staat waarheid van onwaarheid te onderscheiden.
De AI-modellen die vandaag worden ontwikkeld, zullen waarschijnlijk een primaire manier worden om toegang te krijgen tot informatie. Ze zullen bepalen wat we zeggen, wat we zien, wat we horen en, in het verlengde daarvan, hoe we denken.
Met andere woorden, ze zullen onze cultuur op dezelfde manier vormgeven als de vrijheid van meningsuiting dat heeft gedaan. Daarom is er een goed argument dat de vruchten van AI-innovatie vrij, gedeeld en open moeten zijn. En dat is nu al het geval.
Grenzen zijn nodig
Op het HuggingFace platform, ’s werelds grootste AI-ontwikkelaarshub, zijn er momenteel meer dan 81.000 modellen die gepubliceerd zijn met “permissive open-source” licenties. Net zoals het recht om vrijuit te spreken overweldigend ten goede komt aan de maatschappij, is dit open delen van AI een motor voor vooruitgang.
Vrije meningsuiting heeft echter noodzakelijke ethische en wettelijke grenzen. Het doen van valse beweringen die schadelijk zijn voor anderen of uitingen van haat op basis van etniciteit, religie of handicap zijn beide algemeen aanvaarde beperkingen. OpenRails biedt vernieuwers een middel om deze balans te vinden op het gebied van AI-innovatie.
Bijvoorbeeld, deep-learning technologie wordt toegepast in vele waardevolle domeinen, maar ligt ook ten grondslag aan deepfake video’s. De ontwikkelaars wilden waarschijnlijk niet dat hun werk zou worden gebruikt om desinformatie te verspreiden of om pornografie te maken die niet vrijwillig is.
Een OpenRail zou hen de mogelijkheid hebben gegeven om hun werk te delen met beperkingen die bijvoorbeeld alles verbieden wat de wet zou overtreden, schade zou veroorzaken of zou leiden tot discriminatie.
Wettelijk afdwingbaar
Kunnen OpenRAIL licenties ons helpen om de onvermijdelijke ethische dilemma’s die AI met zich meebrengt te vermijden? Licenties kunnen maar tot een bepaald punt gaan, met als één beperking dat licenties slechts zo goed zijn als de mogelijkheid om ze af te dwingen.
Op dit moment zou handhaving waarschijnlijk vergelijkbaar zijn met handhaving voor het kopiëren van muziek en softwarepiraterij en zou bestaan uit het sturen van “cease and desist” brieven met het vooruitzicht op mogelijke gerechtelijke stappen. Hoewel dergelijke maatregelen piraterij niet stoppen, ontmoedigen ze het wel.
Ondanks de beperkingen zijn er veel praktische voordelen, licenties worden goed begrepen door de technische gemeenschap, zijn gemakkelijk schaalbaar en kunnen met weinig moeite worden overgenomen. Dit is erkend door ontwikkelaars en tot op heden hebben meer dan 35.000 modellen die gehost worden op HuggingFace OpenRails geadopteerd.
Ironisch genoeg, gezien de bedrijfsnaam, licenseert OpenAI – het bedrijf achter ChatGPT – zijn krachtigste AI-modellen niet openlijk. In plaats daarvan hanteert het bedrijf voor zijn vlaggenschiptaalmodellen een gesloten benadering die iedereen die wil betalen toegang geeft tot de AI, terwijl het anderen verhindert om voort te bouwen op de onderliggende technologie of deze aan te passen.
Net als bij de analogie met vrijheid van meningsuiting, is de vrijheid om AI openlijk te delen een recht dat we hoog in het vaandel moeten hebben, maar misschien niet absoluut. Hoewel het geen wondermiddel is, lijken op licenties gebaseerde benaderingen zoals OpenRail een veelbelovend stukje van de puzzel.
Joseph's onderzoek wordt momenteel ondersteund door Design Research Works (https://designresearch.works) onder UK Research and Innovation (UKRI) grant reference MR/T019220/1. Ze zijn beiden lid van de stuurgroep van het Responsible AI Licences initiative's (https://www.licenses.ai/).
Jesse's onderzoek wordt momenteel ondersteund door Design Research Works (https://designresearch.works) onder UK Research and Innovation (UKRI) subsidie referentie MR/T019220/1. Ze zijn beiden lid van de stuurgroep van het Responsible AI Licences initiative's (https://www.licenses.ai/).
