Dit is niet de eerste keer dat AI wordt beschreven als een existentiële bedreiging. Nouskrabs/Shutterstock
Deze week ondertekende een groep bekende en gerenommeerde AI-onderzoekers een verklaring bestaande uit 22 woorden:
Het beperken van het risico van uitsterven door AI moet een wereldwijde prioriteit zijn naast andere maatschappelijke risico’s zoals pandemieën en een kernoorlog.
Als professor in de AI ben ik ook voorstander van het verminderen van elk risico, en bereid er persoonlijk aan te werken. Maar elke verklaring die op een dergelijke manier is geformuleerd, kan alleen maar onrust veroorzaken, dus de auteurs zouden waarschijnlijk specifieker moeten zijn en hun bezorgdheid moeten verduidelijken.
Zoals gedefinieerd door Encyclopedia Britannica, is uitsterven “het uitsterven of uitroeien van een soort”. Ik heb veel van de ondertekenaars van de verklaring ontmoet, die behoren tot de meest gerenommeerde en solide wetenschappers op dit gebied – en ze bedoelen het zeker goed. Ze hebben ons echter geen concreet scenario gegeven voor hoe zo’n extreme gebeurtenis zou kunnen plaatsvinden.
Het is niet de eerste keer dat wij ons in deze positie bevinden. Op 22 maart van dit jaar werd in een petitie, ondertekend door een andere groep ondernemers en onderzoekers, gevraagd om een pauze van zes maanden in de invoering van AI. In de petitie, op de website van het Future of Life Institute, zetten zij als redenering uiteen: “Profound risks to society and humanity, as shown by extensive research and acknowledged by top AI labs” – en vergezelden hun verzoek met een lijst retorische vragen:
Moeten we machines onze informatiekanalen laten overspoelen met propaganda en onwaarheid? Moeten we alle banen automatiseren, inclusief de vervullende banen? Moeten we niet-menselijke geesten ontwikkelen die ons uiteindelijk zouden kunnen overtreffen, slimmer zijn, overbodig maken en vervangen? Moeten we het risico lopen de controle over onze beschaving te verliezen?
Een algemeen gevoel van alarm
Het is zeker waar dat deze technologie, naast vele voordelen, risico’s met zich meebrengt die we serieus moeten nemen. Maar geen van de bovengenoemde scenario’s lijkt een specifieke route naar uitsterven te schetsen. Dit betekent dat we achterblijven met een algemeen gevoel van alarm, zonder mogelijke acties die we kunnen ondernemen.
De website van het Centre for AI Safety, waar de laatste verklaring verscheen, schetst in een aparte sectie acht brede risicocategorieën. Deze omvatten de “bewapening” van AI, het gebruik ervan om het nieuwssysteem te manipuleren, de mogelijkheid dat mensen uiteindelijk niet meer in staat zijn zichzelf te besturen, het faciliteren van onderdrukkende regimes, enzovoort.
Behalve voor bewapening is het onduidelijk hoe de andere – nog steeds afschuwelijke – risico’s zouden kunnen leiden tot het uitsterven van onze soort, en de last om dat uit te leggen ligt bij degenen die dat beweren.
Wapening is natuurlijk een reële zorg, maar wat daarmee bedoeld wordt moet ook verduidelijkt worden. Op haar website lijkt het Centre for AI Safety zich vooral zorgen te maken over het gebruik van AI-systemen om chemische wapens te ontwerpen. Dit moet koste wat kost worden voorkomen – maar chemische wapens zijn al verboden. Uitsterven is een zeer specifieke gebeurtenis die vraagt om zeer specifieke verklaringen.
Op 16 mei werd Sam Altman, de CEO van OpenAI – die de ChatGPT AI chatbot ontwikkelde – tijdens zijn hoorzitting in de Amerikaanse Senaat tweemaal gevraagd om zijn worst-case scenario te spellen. Hij antwoordde uiteindelijk:
Mijn grootste angst is dat wij – het veld, de technologie, de industrie – de wereld aanzienlijke schade berokkenen … Daarom zijn we het bedrijf begonnen. [to avert that future] … Ik denk dat als deze technologie fout gaat, het behoorlijk fout kan gaan.
Maar hoewel ik er sterk voorstander van ben om zo voorzichtig mogelijk te zijn, en dat de afgelopen tien jaar ook publiekelijk heb gezegd, is het belangrijk om een gevoel voor proporties te behouden – vooral als we het hebben over het uitsterven van een soort van acht miljard individuen.
AI kan sociale problemen veroorzaken die echt moeten worden afgewend. Als wetenschappers hebben we de plicht om ze te begrijpen en vervolgens ons best te doen om ze op te lossen. Maar de eerste stap is ze te benoemen en te beschrijven – en specifiek te zijn.
Nello Cristianini is de auteur van "The Shortcut: Waarom intelligente machines niet denken zoals wij"gepubliceerd door CRC Press, 2023.
