Virtueel personage kan binnenkort slimmer zijn dan wij. Michelangelus/Shutterstock
Het meeste onderzoek naar de ethiek van kunstmatige intelligentie (AI) betreft het gebruik ervan voor bewapening, transport of profilering. Hoewel de gevaren van een autonome, racistische tank niet kunnen worden onderschat, is er nog een ander aspect aan dit alles. Hoe zit het met onze verantwoordelijkheden tegenover de AI’s die we creëren?
Massively-multiplayer online role-playing games (dergelijke) zijn pocket-realiteiten die hoofdzakelijk bevolkt worden door personages die geen speler zijn. Op dit moment zijn deze personages niet bijzonder slim, maar geef het 50 jaar en ze zullen het zijn.
Sorry? Is 50 jaar niet genoeg? Neem 500. Neem 5.000.000. We hebben de rest van de eeuwigheid om dit te bereiken.
Wil je computers op planeetgrootte? Je kan ze krijgen. Wil je computers gemaakt van menselijk hersenweefsel? Je kan ze krijgen. Uiteindelijk denk ik dat we virtuele werelden zullen hebben met personages die net zo slim zijn als wij – zo niet slimmer – en volledig in het bezit van een vrije wil. Wat zullen onze verantwoordelijkheden tegenover deze wezens zijn? Wij zullen immers de letterlijke goden zijn van de realiteiten waarin zij vertoeven, en de fysica van hun werelden beheersen. We kunnen met hen doen wat we willen.
Dus dat allemaal wetende… zouden we?
Ethische moeilijkheden van de vrije wil
Zoals ik in mijn recente boek heb uiteengezet, is het zo dat wanneer “moeten” een rol speelt, de ethiek het overneemt – zelfs voor videospelletjes. De eerste vraag die we ons moeten stellen is of onze spelfiguren van de toekomst het waard zijn om als morele entiteiten te worden beschouwd of dat het gewoon bits in een database zijn. Als dat laatste het geval is, hoeven we ons geweten er niet meer mee te belasten dan met karakters in een tekstverwerker.
De vraag is eigenlijk betwistbaar. Als we onze personages creëren als vrijdenkende wezens, dan moeten we ze behandelen alsof ze dat ook zijn – ongeacht hoe ze er voor een externe waarnemer uitzien.
Als dat zo is, kunnen we dan onze virtuele werelden uitzetten? Als we dat doen, veroordelen we miljarden intelligente wezens tot non-existentie. Zou het desondanks in orde zijn als wij een kopie van hun wereld opsloegen op het moment dat wij die beëindigden? Betekent de theoretische mogelijkheid dat wij hun wereld weer precies zo kunnen inschakelen als hij was, dat wij hen niet echt vermoorden? Wat als we de originele spelsoftware niet hebben?
Kunnen we deze personages legitiem laten lijden? Wij implementeren zelf het concept, dus dit is niet zozeer een vraag over of het OK is om hen te kwellen, maar over of hen kwellen überhaupt wel iets is. In moderne samenlevingen is het standaard standpunt dat het immoreel is om vrijdenkende mensen te laten lijden, tenzij zij er zelf mee instemmen of het is om hen (of iemand anders) te redden van iets ergers. We kunnen onze personages niet vragen in te stemmen met de geboorte in een wereld vol lijden – zij zullen niet bestaan wanneer wij het spel maken.
Dus, hoe zit het met het “iets ergers” alternatief? Als je een vrije wil hebt, moet je wel intelligent zijn, en dus zelf een moreel wezen zijn. Dat betekent dat je moraal ontwikkeld moet hebben, dus moet het mogelijk zijn dat jou slechte dingen overkomen. Anders zou je niet hebben kunnen nadenken over wat goed of fout is om je moraal te ontwikkelen. Anders gezegd, tenzij er slechte dingen gebeuren, is er geen vrije wil. Het verwijderen van de vrije wil uit een wezen komt neer op het vernietigen van het wezen dat het voordien was, dus ja, we moeten lijden toelaten, anders is het concept van een sapient karakter een oxymoron.
Hiernamaals?
Als we aannemen dat onze personages in de toekomst vrijdenkende wezens zijn, hoe zouden zij dan in een hiërarchie van belangrijkheid passen? In het algemeen zouden mensen, als ze de keuze zouden hebben tussen het redden van een intelligent wezen (zoals een kleuter) of een wezen met louter gevoel (zoals een hond), de eerste optie verkiezen boven de tweede. Als er een vergelijkbare keuze is tussen het redden van een echte hond of een virtuele heilige, welke zou dan de voorkeur krijgen?
Bedenk dat als je personages zichzelf zien als morele wezens, maar jij ze niet als zodanig ziet, ze je een eikel zullen vinden. Zoals Alphinaud Leveilleur, een personage in Final Fantasy XIV, het netjes zegt (spoiler: hij heeft net ontdekt dat zijn wereld geschapen is door de acties van wezens die hem als gevolg daarvan niet als behoorlijk levend beschouwen): “Wij bepalen onze waarde, niet de omstandigheden van onze schepping!”.
World of Warcraft is een massively-multiplayer online role-playing game.
Daniel Krason/Shutterstock
Staan we toe dat onze personages sterven? Het is extra werk om het concept uit te voeren. Als ze eeuwig leven, maken we ze dan onkwetsbaar of zorgen we er alleen voor dat ze niet doodgaan? Het leven zou niet leuk zijn als ze in een blender vielen, tenslotte. Als ze sterven, verplaatsen we ze dan naar de speelhemel (of hel) of wissen we ze gewoon uit?
Dit zijn niet de enige vragen die we kunnen stellen. Kunnen we ideeën in hun hoofd stoppen? Kunnen we hun wereld veranderen om met hen te spelen? Leggen wij hun onze moraal op of laten wij hen hun eigen moraal ontwikkelen (waar wij het misschien niet mee eens zijn)? Er zijn er nog veel meer.
Uiteindelijk is de grootste vraag: moeten we überhaupt sapiente personages creëren?
U zult gemerkt hebben dat ik hier veel vragen stel. U vraagt zich misschien af wat de antwoorden zijn.
Nou, ik ook! Dat is het punt van deze oefening. De mensheid heeft nog geen ethisch kader voor het scheppen van werkelijkheden waarvan wij goden zijn. Er bestaat nog geen systeem van meta-ethiek om ons te helpen. We moeten dit uitwerken voordat we werelden bouwen die worden bevolkt door wezens met een vrije wil, of dat nu over 50, 500, 5.000.000 jaar is of morgen. Dit zijn vragen die u moet beantwoorden.
Maar wees voorzichtig met hoe je dat doet. Je kan een precedent scheppen.
Wijzelf zijn de niet-speler karakters van de Werkelijkheid.
Richard A. Bartle is aangesloten bij Humanists UK.
