yhelfman / Shutterstock
Het onofficiële motto van Silicon Valley is al heel lang “snel bewegen en dingen kapot maken”. Het is gebaseerd op de aanname dat om geavanceerde technologie te creëren en de concurrentie voor te zijn, bedrijven moeten accepteren dat er dingen beschadigd raken tijdens het proces.
Deze benadering kan echter gevolgen hebben die verder gaan dan alleen de economie. Het kan mensen in gevaar brengen en onethisch zijn. Nu het een jaar geleden is dat de AI-chatbot ChatGPT werd uitgebracht, is het de moeite waard om te overwegen of de grote techbedrijven niet beter langzaam kunnen gaan en ervoor moeten zorgen dat ze niets kapotmaken.
De indrukwekkende mogelijkheden van ChatGPT veroorzaakten een sensatie. Maar sommige commentatoren wezen al snel op problemen zoals de mogelijkheid voor studenten om te spieken bij opdrachten. Meer in het algemeen intensiveerde de chatbot het debat over hoe we controle kunnen houden over AI, een transformerende technologie met enorme potentiële voordelen – en risico’s van vergelijkbare omvang.
Laten we ook eens kijken naar de staat van dienst van Silicon Valley op het gebied van andere technologie. Sociale media werden verondersteld ons samen te brengen. In plaats daarvan heeft het de democratie bedreigd en legers trollen voortgebracht. Cryptocurrencies, aangeprezen als een uitdaging voor de financiële status quo, zijn een milieuramp en fraudegevoelig gebleken.
De komst van de personal computer werd verondersteld ons werkleven makkelijker te maken. Dat deed het ook, maar tegen de prijs van massaal banenverlies waarvan de banenmarkt meer dan tien jaar nodig had om te herstellen.
Het is niet zo dat technologieën op zichzelf slecht zijn. Maar de ideologie waarbinnen ze worden ontwikkeld kan een probleem zijn. En naarmate technologie meer en meer doordringt in ons dagelijks leven, zouden de “dingen” die kapot gaan wel eens mensenlevens kunnen zijn.
Verandering van benadering
“Beweeg snel en maak dingen kapot” zou ook economisch verkeerd kunnen uitpakken, waardoor investeerders op nieuwigheid jagen in plaats van op waarde, zoals ze deden in de dotcom-zeepbel van de vroege jaren 2000. Het idee gaat ervan uit dat, hoewel er dingen fout kunnen gaan, we in staat zullen zijn om ze snel te repareren en dat de schade dus beperkt zal zijn. Als we echter naar de geschiedenis van Silicon Valley kijken, is gebleken dat dit in meerdere opzichten een probleem is.
Vaststellen dat er een probleem is, is niet hetzelfde als de oorzaak vinden. Als een technologie eenmaal is uitgerold, kan de omgeving waarin deze wordt gebruikt zo complex zijn dat het jaren duurt om te begrijpen wat er precies fout gaat.
Het Amerikaanse rechtssysteem gebruikt AI bijvoorbeeld al meer dan tien jaar om te helpen bij beslissingen over borgtocht. Deze beslissen wie voor de rechtszaak moet worden vrijgelaten tegen een borg in contanten.
AI werd niet alleen geïntroduceerd als een manier om het vluchtrisico van verdachten die op de vlucht slaan te verminderen, maar ook om raciale vooroordelen aan te pakken, waarbij blanke rechters eerder geneigd zouden zijn om blanke verdachten vrij te laten. De algoritmes leverden echter het tegenovergestelde resultaat op, met minder zwarte verdachten die werden vrijgelaten.
Sociale media waren bedoeld om ons samen te brengen, maar het heeft ook uitdagingen gecreëerd voor iedereen.
13_Phunkod / Shutterstock
Ingenieurs bleven nieuwe versies van de AI-algoritmen introduceren in de hoop de bias te verminderen. Niets werkte. Toen, in 2019 – 17 jaar nadat het systeem voor het eerst werd geïntroduceerd – ontdekte een onderzoeker dat het probleem niet de AI zelf was, maar de manier waarop rechters het gebruikten.
Ze waren eerder geneigd om beslissingen die niet pasten bij hun stereotypen te negeren, en het probleem was de interactie tussen de rechters en de AI. Onafhankelijk van elkaar konden ze elk enigszins passende beslissingen nemen. Samen was het een ramp.
Vertraagde gevolgen
Een andere reden waarom de aanpak van Silicon Valley riskant is, is dat het lang kan duren voordat de gevolgen van nieuwe technologieën zichtbaar worden. Dit betekent dat tegen de tijd dat we ons realiseren dat er schade is aangericht, het al te laat is.
Het Nederlandse bijstandssysteem heeft bijvoorbeeld zwaar vertrouwd op AI-algoritmen om fraude op te sporen. Het is in veel opzichten problematisch geweest, maar het bleek vooral etnische afkomst en nationaliteit als een belangrijke risicofactor te gebruiken.
Het duurde jaren voordat het volledige probleem duidelijk werd. En tegen die tijd waren sommige mensen zo zwaar getroffen door de door AI geassisteerde beslissingen – hen vragen om honderdduizenden euro’s terug te geven voor een simpele fout op een formulier – dat sommigen zelfmoord pleegden.
De rotzooi opruimen
Snel bewegen en dingen kapot maken” betekent ook dat iemand anders, ergens, de rotzooi moet opruimen. Voor degenen die de technologie produceren is het een manier om de verantwoordelijkheid voor de resultaten ervan af te schuiven, of de bedrijven zich dat nu realiseren of niet. Sociale media zijn hier een vernietigend voorbeeld van.
De “suggestie”-algoritmen van sociale media – ook aangedreven door AI – hebben een heleboel problemen veroorzaakt, van het promoten van verkeerde informatie en haatzaaiende taal, alleen maar omdat die dingen meer betrokkenheid creëren, tot het faciliteren van pesterijen en het negatief beïnvloeden van de geestelijke gezondheid. Toch hebben we nog steeds moeite om deze problemen in te dammen, omdat sociale mediaplatforms weigeren verantwoordelijkheid te nemen voor de inhoud die ze promoten en waarvan ze profiteren.
De eerste verjaardag van ChatGPT biedt ons de gelegenheid om terug te kijken op de lessen die we kunnen leren van eerdere technologische ontwikkelingen. Het helpt ons te beseffen dat fouten makkelijker te vermijden zijn dan te herstellen, vooral als er mensenlevens in het spel zijn.
De auteurs werken niet voor, adviseren niet, bezitten geen aandelen in en ontvangen geen financiering van bedrijven of organisaties die baat zouden hebben bij dit artikel en hebben geen relevante banden bekendgemaakt buiten hun academische aanstelling.
