Mijn zoektocht naar de mysterieuze vermiste secretaresse die de chatbotgeschiedenis

Mijn zoektocht naar de mysterieuze vermiste secretaresse die de chatbotgeschiedenis heeft vormgegeven

Het archief van de Distinctive Collections van het Massachusetts Institute of Technology (MIT) is stil terwijl buiten een sneeuwstorm woedt. De stilte lijkt zich op te stapelen met de vallende sneeuw. Ik ben de enige onderzoeker in het archief, maar er is een stem die ik met moeite hoor.

Ik ben op zoek naar iemand – laten we haar de vermiste secretaresse noemen. Ze speelde een cruciale rol in de geschiedenis van de informatica, maar haar naam is nooit genoemd. Ik ben bij MIT als onderdeel van mijn onderzoek naar de geschiedenis van pratende machines. Je kent ze misschien als “chatbots” – computerprogramma’s en interfaces die dialoog gebruiken als het belangrijkste middel voor interactie tussen mens en machine. Misschien heb je wel eens gepraat met Alexa, Siri of ChatGPT.

Ondanks de furore rond generatieve kunstmatige intelligentie (AI) vandaag de dag, hebben pratende machines een lange geschiedenis. In 1950 stelde computerpionier Alan Turing een test voor machine-intelligentie voor. De test stelt de vraag of een mens onderscheid kan maken tussen een computer en een persoon via een gesprek. Turing’s test stimuleerde onderzoek naar AI en het opkomende gebied van computers. We leven nu in de toekomst die hij zich voorstelde: we praten met machines.

Ik ben geïnteresseerd in waarom vroege computerpioniers droomden van praten met computers en wat er op het spel stond bij dat idee. Wat betekent het voor de manier waarop we vandaag de dag computertechnologie en mens-machine-interactie begrijpen? Ik ben op het MIT, midden in deze sneeuwstorm, omdat daar de moeder van alle bots is geboren – Eliza.

Eliza’s toespraak

Eliza was een computerprogramma dat in de jaren zestig werd ontwikkeld door de besnorde MIT-professor in elektrotechniek Joseph Weizenbaum. Met Eliza wilde hij een gesprek tussen mens en computer mogelijk maken.

Eliza nam getypte berichten van de gebruiker aan, zocht naar trefwoorden en gebruikte transformatieregels (waarbij de betekenis van een uitspraak kan worden afgeleid uit een of meer andere uitspraken) om een antwoord te produceren. In haar beroemdste versie beweerde Eliza een psychotherapeut te zijn, een expert die inspeelde op de behoeften van de gebruiker. “Vertel me alsjeblieft wat je probleem is” was de openingsvraag. Eliza kon niet alleen input ontvangen in de vorm van natuurlijke taal, het gaf ook de “illusie van begrip”.

De naam van het programma was een knipoog naar de hoofdpersoon van George Bernard Shaw’s toneelstuk Pygmalion (1912) waarin een Cockney bloemenverkoper wordt geleerd om “als een dame” te spreken. Net als de Audrey Hepburn musical uit 1964, veroverde deze Eliza de wereld stormenderhand. Kranten en tijdschriften juichten de verwezenlijking van Turing’s droom toe.

Zelfs Playboy speelde ermee. Eliza’s nalatenschap is veelzeggend. Siri en Alexa zijn de directe afstammelingen van dit programma.

Verhalen over Eliza richten zich meestal op een Frankensteiniaans verhaal over de afwijzing van de uitvinder van zijn eigen creatie. Weizenbaum was geschokt dat gebruikers konden worden “misleid” door een stuk eenvoudige software. Hij deed afstand van Eliza en de hele “Artificial Intelligentsia” in de komende decennia – tot verdriet van zijn collega’s.

Maar ik ben niet in het archief om Eliza’s stem te horen, of die van Weizenbaum. In al deze verslagen over Eliza duikt één vrouw steeds weer op – onze vermiste secretaresse.

De vermiste secretaresse

In zijn verhalen over Eliza maakt Weizenbaum zich herhaaldelijk zorgen over een bepaalde gebruiker:

Mijn secretaresse heeft me lange tijd aan dit programma zien werken. Op een dag vroeg ze of ze met het systeem mocht praten. Natuurlijk wist ze dat ze tegen een machine praatte. Maar toch, nadat ik haar een paar zinnen had zien intypen, draaide ze zich naar me toe en zei: “Zou je alsjeblieft de kamer willen verlaten?

Weizenbaum zag haar reactie als verontrustend bewijs dat: “Extreem korte blootstelling aan een relatief eenvoudig computerprogramma kan krachtige waanideeën opwekken bij heel normale mensen.” Haar reactie legde de kiem voor zijn latere afkeer van zijn creatie.

Maar wie was deze “heel normale” persoon? En wat vond ze van Eliza? Als de vermiste secretaresse zo’n belangrijke rol speelde, waarom horen we dan niets van haar? In dit hoofdstuk van de geschiedenis van pratende machines hebben we maar één kant van het gesprek.

Terug in het archief wil ik kijken of ik de stem van de secretaresse kan terugvinden, om te begrijpen wat we kunnen leren van Eliza’s gebruiker. Ik baan me een weg door de vergeelde papieren van Weizenbaum. Tussen de transcripties, codeafdrukken, brieven en notitieboeken zal toch wel bewijs zitten? Er zijn enkele aanwijzingen, verwijzingen naar een secretaresse in brieven van en naar Weizenbaum. Maar geen naam.

Ik breid mijn jacht uit naar administratieve documenten. Ik zoek in afdelingspapieren en in de collecties van Weizenbaums werkplek, Project MAC – het heilige centrum van computerinnovatie bij MIT. Geen geluk. Ik neem contact op met het HR-kantoor en de alumnigroep van MIT. Ik stel het geduld van de altijd gulle archivarissen op de proef. Als mijn laatste dag aanbreekt, hoor ik nog steeds alleen maar stilte.

Luisteren naar stiltes

Maar de jacht heeft een aantal dingen onthuld. Bijvoorbeeld hoe weinig organisaties zich in het verleden hebben bekommerd om de mensen die zoveel van hun kennis produceerden, organiseerden en bewaarden.

In de geschiedenis van instituten als MIT en de computerwereld in het algemeen, zijn de schrijvers van deze gegevens – vaak slecht betaalde vrouwen met een lage status – grotendeels weggeschreven. Onze stille secretaresse is de typische uitgewiste, anonieme transcribent van de documenten waarop de geschiedenis is gebouwd.

De bijdragen van de gebruikers van praatmachines – hun arbeid, expertise, perspectieven, creativiteit – worden maar al te vaak genegeerd. Wanneer het model “praten” is, is het makkelijk om te denken dat deze bijdragen moeiteloos of onbelangrijk zijn. Maar het bagatelliseren van deze bijdragen heeft reële gevolgen, niet alleen voor de technologie van praatmachines die we ontwerpen, maar ook voor de manier waarop we de menselijke inbreng in deze systemen waarderen.

Bij generatieve AI spreken we over gebruikersinput in termen van “chat” en “prompts”. Maar op wat voor soort wettelijke status kan “praten” aanspraak maken? Moeten we bijvoorbeeld auteursrecht kunnen claimen op die opmerkingen? Hoe zit het met het werk waarop deze systemen zijn getraind? Hoe erkennen we die bijdragen?

De sneeuwstorm wordt erger. De aankondiging dat de campus vroegtijdig sluit vanwege het weer klinkt. De stem van de vermiste secretaresse ontgaat me nog steeds. Voorlopig blijft de geschiedenis van pratende machines eenzijdig. Het is een stilte die me achtervolgt terwijl ik door de gedempte, besneeuwde straten naar huis sjok.

Op zoek naar iets goeds? Doorbreek het lawaai met een zorgvuldig samengestelde selectie van de nieuwste releases, live-evenementen en tentoonstellingen, elke twee weken op vrijdag rechtstreeks in je inbox. Meld je hier aan.

De conversatie

Rebecca Roach's onderzoek werd ondersteund door een Leverhulme Trust Research Fellowship voor het project “Machine Talk: Literature, Computing and Conversation after 1945” en werd mogelijk gemaakt door de expertise en het geduld van de medewerkers van MIT's Distinctive Collections.

Ubergeek Loves Coolblue

Zou je na het lezen van deze artikel een product willen aanschaffen?
Bezoek dan Coolblue en ontdek hun uitgebreide assortiment.