Generatieve AI – waaronder grote taalmodellen (LLM’s) zoals ChatGPT vallen, maar ook beeld- en videogeneratoren zoals DALL-E 2 – versterkt wat bekend is komen te staan als ‘digitale necromantie’, het oproepen van de doden uit de digitale sporen die ze achterlaten.
Debatten over digitale necromantie werden voor het eerst aangewakkerd in de jaren 2010 door de vooruitgang in videoprojectie (“deep fake” technologie) die leidde tot de reanimatie van Bruce Lee, Michael Jackson en Tupac Shakur. Het leidde ook tot postume filmoptredens van onder andere Carrie Fisher en Peter Cushing.
De opkomst van generatieve AI heeft de toegang tot de technologieën die werden gebruikt om deze en andere sterren te reanimeren voor iedereen toegankelijk gemaakt.
Nog voordat ChatGPT eind 2022 het publieke bewustzijn binnendrong, had een gebruiker OpenAI’s LLM al gebruikt om met zijn dode verloofde te praten op basis van haar sms’jes en e-mails. Een aantal startups, zoals Here After en Replika, zagen het potentieel en zijn gestart met generatieve AI om dierbaren te reanimeren voor nabestaanden.
Voor sommigen lijkt deze technologie een culturele en misschien zelfs ethische grens te overschrijden: velen voelen zich ongemakkelijk bij het idee dat we routinematig kunnen omgaan met digitale simulaties van de doden. De duistere magie van AI-ondersteunde necromantie wordt daarom met argusogen bekeken.
Dit kan sommige mensen zorgen baren.
Maar als sociologen die zich bezighouden met culturele praktijken van herdenken en herdenken en die ook hebben geëxperimenteerd met het opwekken van doden met behulp van generatieve AI, denken wij dat er geen reden is om ons zorgen te maken.
Een nieuwe duistere kunst of meer van het alledaagse?
Het voortzetten van banden met de doden door middel van tekst, afbeeldingen en artefacten is aan de orde van de dag – een deel van ons leven met anderen, zowel levend als dood.
Mensen hechten al heel lang emotionele waarde aan gelijkenissen en relikwieën om de doden bij zich te houden. Terwijl het laten schilderen van een portret in die tijd niet langer een algemeen aanvaarde manier was om afbeeldingen van dierbaren te herdenken, werd de verspreiding van de fotografie in de 19e eeuw al snel een alternatief middel om overledenen te bewaren.
Velen van ons hebben tegenwoordig foto’s en video’s van dierbaren uit het verleden, waar we naar terugkeren als herinnering en troost. En natuurlijk zijn de beeltenissen, werken of overblijfselen van beroemde mensen al in omloop gebracht om ze te bewaren – vaak in hun opdracht – zolang we de geschiedenis kennen. Religieuze relikwieën uit verschillende culturen zijn slechts één voorbeeld.
Als het gaat om generatieve AI is er dus niets bijzonder wereldbepalends aan de hand. De snelheid waarmee de necromantische mogelijkheden van AI zijn benut, zegt veel over hoe goed de technologie samenwerkt met onze bestaande praktijken van rouwen, gedenken en herdenken – in plaats van ze te “verstoren” of “veranderen”.
Maar is AI niet anders?
De AI startups in dit domein bouwen voort op eerdere doe-het-zelf ondernemingen in het terugbrengen van dierbaren met behulp van generatieve AI. Met behulp van geschriften (bijvoorbeeld op sociale media en in e-mails), geluidsopnames van spraak, foto’s en video’s van dierbaren die door klanten worden ingestuurd, trainen ze AI-modellen die het mogelijk maken om postuum met “hen” te communiceren via beelden, stem en tekst.
Zoals opgemerkt door Debra Bassett, die het digitale leven na de dood uitgebreid heeft bestudeerd, hebben sommige tegenstanders van dit gebruik van AI verklaard dat ze zich zorgen maken dat de gereanimeerden dingen zeggen die ze bij leven niet zouden zeggen en in plaats daarvan het script van iemand anders uitvoeren. Voor Bassett is de zorg dat de doden “gezombificeerd” worden op een manier die hun integriteit schendt.
Dit is natuurlijk een mogelijkheid, maar we moeten deze dingen altijd per geval bekijken. In het algemeen moeten we ons echter herinneren dat we ons voortdurend gesprekken met de doden voorstellen en initiëren.
Op momenten van crisis of vreugde denken we na over wat degenen die we verloren hebben tegen ons gezegd zouden kunnen hebben, de houding die ze zouden kunnen hebben gehad en de aanmoediging die ze zouden kunnen hebben geboden met betrekking tot uitdagingen en prestaties in het hier-en-nu.
Beelden, tekst en artefacten zoals bezittingen uit het verleden of gewaardeerde erfstukken zijn al lang bruikbare media voor dat soort verbondenheid en nieuwe technologieën, recentelijk camera’s en opnameapparatuur, hebben zulke media altijd gemakkelijker en breder toegankelijk gemaakt.
Anderen, die nadenken over de vreemdheid van ontmoetingen met dode mensen die teruggebracht worden in digitale interactie met ons, stellen dat degenen die communiceren in feite helemaal niet de doden zijn, maar bedriegers. Wanneer dit op een uitbuitende en verborgen manier gebeurt, zoals bij de charlatans van de Victoriaanse spirituele opwekkingsbeweging gewapend met hun ouija-borden, is dit natuurlijk zeer problematisch.
Maar, nogmaals, we moeten onthouden dat we onze persoonlijke boodschappen, foto’s of video’s van de doden normaal gesproken niet behandelen alsof die platen zelf onze dierbaren zijn. In plaats daarvan gebruiken we ze als doorgeefluik naar hun herinnering, als plaatsvervanger voor hen, als proxy voor ons om aan te denken of door te communiceren. Het is een misvatting om te suggereren dat we routinematig in de war raken of onszelf voor de gek houden met dergelijke media.
Daarom zijn de algemene zorgen over digitale necromantie zwaar overdreven: wanneer we ons te veel concentreren op de vreemde en sinistere aspecten ervan, om de filosoof Ludwig Wittgenstein aan te halen, verliezen we de manieren uit het oog waarop deze nieuwe technologieën spreken tot en resoneren met wat we al zijn en doen als mensen.
Michael Mair ontving, samen met Phillip Brooker en Dipanjan Saha, financiering van de University of Liverpool's School of Law and Social Justice Research and Development Fund om het onderzoek uit te voeren waarop dit verhaal is gebaseerd.
Dipanjan Saha, samen met Michael Mair en Phillip Brooker, ontvingen fondsen van de University of Liverpool's School of Law and Social Justice Research and Development Fund om het onderzoek uit te voeren waarop dit verhaal gebaseerd is.
Phillip David Brooker, samen met Michael Mair en Dipanjan Saha, ontvingen fondsen van de University of Liverpool's School of Law and Social Justice Research and Development Fund om het onderzoek uit te voeren waarop dit verhaal gebaseerd is.
Terence Heng ontving financiering van Research England om onderzoek te doen naar opgravingsbeleid en -praktijken rond de HS2 spoorlijn in relatie tot het Human Remains Project aan de Universiteit van Liverpool.
