NicoElNino / Shutterstock
De release van de geavanceerde chatbot ChatGPT in 2022 deed iedereen praten over kunstmatige intelligentie (AI). De geavanceerde mogelijkheden ervan versterkten de bezorgdheid dat AI zo geavanceerd zou worden dat we er binnenkort geen controle meer over zouden hebben. Dit leidde er zelfs toe dat sommige experts en industrieleiders waarschuwden dat de technologie zou kunnen leiden tot het uitsterven van de mens.
Andere commentatoren waren echter niet overtuigd. De eminente professor in de taalkunde, Noam Chomsky, deed ChatGPT af als “hi-tech plagiaat”.
Jarenlang was ik ontspannen over het vooruitzicht van de impact van AI op het menselijk bestaan en onze omgeving. Dat komt omdat ik het altijd zag als een gids of adviseur voor mensen. Maar het vooruitzicht dat AI’s beslissingen nemen – uitvoerende macht uitoefenen – is een andere zaak. En daar wordt nu serieus over nagedacht.
Een van de belangrijkste redenen waarom we AI geen uitvoerende macht zouden moeten geven is dat het volledig emotie mist, wat cruciaal is voor het nemen van beslissingen. Zonder emotie, empathie en een moreel kompas heb je de perfecte psychopaat gecreëerd. Het resulterende systeem mag dan zeer intelligent zijn, maar het zal de menselijke emotionele kern missen die het in staat stelt om de potentieel verwoestende emotionele gevolgen van een anders rationele beslissing te meten.
Wanneer AI de uitvoerende macht overneemt
Belangrijk is dat we AI niet alleen als een existentiële bedreiging moeten zien als we het de leiding geven over nucleaire arsenalen. Er is in wezen geen grens aan het aantal controleposities van waaruit het onvoorstelbare schade zou kunnen aanrichten.
Denk bijvoorbeeld aan hoe AI nu al de informatie kan identificeren en organiseren die nodig is om je eigen serre te bouwen. De huidige iteraties van de technologie kunnen je effectief door elke stap van de bouw begeleiden en veel beginnersfouten voorkomen. Maar in de toekomst zou een AI kunnen optreden als projectmanager en de bouw kunnen coördineren door aannemers te selecteren en ze rechtstreeks uit jouw budget te betalen.
AI wordt al gebruikt in vrijwel alle domeinen van informatieverwerking en gegevensanalyse – van het modelleren van weerpatronen tot het besturen van bestuurderloze voertuigen en het helpen bij medische diagnoses. Maar hier beginnen de problemen – wanneer we AI-systemen de kritische stap laten maken van de rol van adviseur naar die van uitvoerend manager.
In plaats van alleen maar oplossingen voor te stellen voor de boekhouding van een bedrijf, wat als een AI directe controle zou krijgen, met de mogelijkheid om procedures te implementeren voor het innen van schulden, bankoverschrijvingen te doen en de winst te maximaliseren – zonder grenzen aan hoe dit te doen. Of stel je een AI-systeem voor dat niet alleen een diagnose stelt op basis van röntgenfoto’s, maar ook de bevoegdheid krijgt om direct behandelingen of medicijnen voor te schrijven.
Je zou je ongemakkelijk kunnen gaan voelen bij zulke scenario’s – ik in ieder geval wel. De reden zou je intuïtie kunnen zijn dat deze machines niet echt “zielen” hebben. Het zijn gewoon programma’s die zijn ontworpen om enorme hoeveelheden informatie te verwerken om complexe gegevens te vereenvoudigen tot veel eenvoudigere patronen, zodat mensen met meer vertrouwen beslissingen kunnen nemen. Ze hebben geen emoties en kunnen die ook niet hebben, want die zijn nauw verbonden met biologische zintuigen en instincten.
Emoties en moraal
Emotionele intelligentie is het vermogen om onze emoties te beheersen om stress te overwinnen, ons in te leven en effectief te communiceren. Dit is waarschijnlijk belangrijker in de context van besluitvorming dan intelligentie alleen, omdat de beste beslissing niet altijd de meest rationele is.
Het is waarschijnlijk dat intelligentie, het vermogen om logisch te redeneren en te werken, kan worden ingebouwd in AI-gestuurde systemen zodat ze rationele beslissingen kunnen nemen. Maar stel je voor dat je een krachtige AI met uitvoerende capaciteiten vraagt om de klimaatcrisis op te lossen. Het eerste wat het zou kunnen doen is de menselijke bevolking drastisch verminderen.
Deze gevolgtrekking heeft niet veel uitleg nodig. Wij mensen zijn, bijna per definitie, de bron van vervuiling in elke mogelijke vorm. Vernietig de mensheid en de klimaatverandering zou opgelost zijn. Het is niet de keuze waartoe menselijke besluitvormers zouden komen, hoopt men, maar een AI zou zijn eigen oplossingen vinden – ondoordringbaar en niet gehinderd door een menselijke afkeer van het veroorzaken van schade. En als het de uitvoerende macht heeft, is er misschien niets dat het tegenhoudt om door te gaan.
Een AI de mogelijkheid geven om uitvoerende beslissingen te nemen in de luchtverkeersleiding zou wel eens een vergissing kunnen zijn.
Gorodenkoff / Shutterstock
Sabotagescenario’s
Wat dacht je van het saboteren van sensoren en monitors die voedselboerderijen controleren? Dit zou in het begin geleidelijk kunnen gebeuren, waarbij de controles net voorbij het omslagpunt worden geduwd zodat geen mens merkt dat de gewassen worden afgekeurd. In bepaalde scenario’s zou dit snel tot hongersnood kunnen leiden.
Of wat dacht je van het wereldwijd uitschakelen van de luchtverkeersleiding of het simpelweg laten neerstorten van alle vliegtuigen die op dat moment vliegen? Normaal zijn er zo’n 22.000 vliegtuigen tegelijkertijd in de lucht, wat een potentieel dodental van enkele miljoenen mensen oplevert.
Als je denkt dat we nog lang niet in die situatie zitten, denk dan nog maar eens na. AI’s besturen al autonoom auto’s en militaire vliegtuigen.
Of wat dacht je van het afsluiten van de toegang tot bankrekeningen in grote delen van de wereld, waardoor overal tegelijk onrust onder de bevolking ontstaat? Of het uitschakelen van computergestuurde verwarmingssystemen midden in de winter, of airconditioningsystemen op het hoogtepunt van de zomerhitte?
Lees meer:
Een ‘black box’ AI-systeem beïnvloedt strafrechtelijke beslissingen al meer dan twee decennia – het is tijd om het open te maken
Kortom, een AI-systeem hoeft niet de leiding te krijgen over kernwapens om een serieuze bedreiging te vormen voor de mensheid. Maar nu we het er toch over hebben, als een AI-systeem krachtig en intelligent genoeg zou zijn, zou het een manier kunnen vinden om een aanval op een land met kernwapens te veinzen en zo een door mensen geïnitieerde vergelding teweeg te brengen.
Zou AI grote aantallen mensen kunnen doden? Het antwoord moet ja zijn, in theorie. Maar dit hangt voor een groot deel af van de beslissing van mensen om de AI uitvoerende macht te geven. Ik kan me niets angstaanjagenders voorstellen dan een AI die beslissingen kan nemen en de macht heeft om ze uit te voeren.
Guillaume Thierry werkt niet voor, heeft geen adviesfuncties, bezit geen aandelen in en ontvangt geen financiering van bedrijven of organisaties die baat hebben bij dit artikel en heeft geen relevante banden buiten zijn academische aanstelling bekendgemaakt.
