Shutterstock/Chaosamran_Studio
Keer op keer hebben vooraanstaande wetenschappers, technologen en filosofen spectaculair slecht gegokt over de richting van innovatie. Zelfs Einstein was er niet immuun voor en beweerde: “Er is niet de minste aanwijzing dat kernenergie ooit verkrijgbaar zal zijn”, slechts tien jaar voordat Enrico Fermi de bouw van de eerste kernsplijtingsreactor in Chicago voltooide. Kort daarna verschoof de consensus naar de angst voor een op handen zijnde nucleaire holocaust.
Op dezelfde manier waarschuwen de experts van vandaag dat de ondergang van de kunstmatige algemene intelligentie (AGI) nabij is. Anderen beweren weer dat grote taalmodellen (LLM’s) al het toppunt van hun kunnen hebben bereikt.
Het is moeilijk om David Collingridge’s invloedrijke stelling te weerleggen dat het voorspellen van de risico’s van nieuwe technologieën een dwaze opdracht is. Als onze vooraanstaande wetenschappers en technologen zich meestal zo vergissen in de technologische evolutie, welke kans hebben onze beleidsmakers dan om de opkomende technologische risico’s van kunstmatige intelligentie (AI) effectief te reguleren?
We zouden Collingridge’s waarschuwing dat technologie op onzekere manieren evolueert ter harte moeten nemen. Er is echter één klasse van AI-risico’s die over het algemeen van tevoren bekend is. Dit zijn risico’s die voortvloeien uit een verkeerde afstemming tussen de economische drijfveren van een bedrijf om op een bepaalde manier te profiteren van zijn gepatenteerde AI-model en de belangen van de maatschappij in hoe het AI-model te gelde moet worden gemaakt en moet worden ingezet.
Foto van Albert Einstein in zijn kantoor aan de Princeton University, New Jersey, genomen door Roman Vishniac in 1942.
De Magnes Collectie voor Joodse Kunst en Leven/Flickr, CC BY-NC-SA
De zekerste manier om een dergelijke scheve verhouding te negeren is door je uitsluitend te richten op technische vragen over de capaciteiten van AI-modellen, los van de sociaaleconomische omgeving waarin deze modellen zullen functioneren en worden ontworpen voor winst.
Ons richten op de economische risico’s van AI gaat niet simpelweg over het voorkomen van “monopolie”, “zelfverheerlijking” of “Big Tech dominantie”. Het gaat erom ervoor te zorgen dat de economische omgeving die innovatie mogelijk maakt, niet aanzet tot moeilijk voorspelbare technologische risico’s doordat bedrijven “snel gaan en dingen kapot maken” in een race om winst of marktdominantie.
Het gaat er ook om ervoor te zorgen dat de waarde van AI breed wordt gedeeld door vroegtijdige consolidatie te voorkomen. We zullen meer innovatie zien als opkomende AI-tools voor iedereen toegankelijk zijn, zodat er een verspreid ecosysteem van nieuwe bedrijven, start-ups en AI-tools kan ontstaan.
OpenAI is al een dominante speler aan het worden met een jaaromzet van 2 miljard US$ (1,6 miljard £) en miljoenen gebruikers. Haar GPT-winkel en ontwikkelaarstools moeten waarde teruggeven aan degenen die ze maken om ervoor te zorgen dat ecosystemen van innovatie levensvatbaar en verspreid blijven.
Door het systeem van economische stimulansen die ten grondslag liggen aan innovaties en hoe technologieën in de praktijk te gelde worden gemaakt zorgvuldig te onderzoeken, kunnen we een beter begrip krijgen van de risico’s, zowel economische als technologische, die worden gevoed door de structuur van een markt. Marktstructuur is niet simpelweg het aantal bedrijven, maar de kostenstructuur en economische stimulansen in de markt die voortvloeien uit de instellingen, aangrenzende overheidsregels en beschikbare financiering.
Kwaliteit verlagen voor hogere winst
Het is leerzaam om te zien hoe de algoritmische technologieën die ten grondslag lagen aan de aggregatorplatforms van weleer (denk aan Amazon, Google en Facebook, en anderen) in eerste instantie werden ingezet ten voordele van gebruikers, uiteindelijk werden geherprogrammeerd om de winst van het platform te verhogen.
De problemen die werden bevorderd door sociale media, zoek- en aanbevelingsalgoritmen waren nooit een technische kwestie, maar een kwestie van financiële prikkels (van winstgroei) die niet in overeenstemming waren met de veilige, effectieve en rechtvaardige toepassing van algoritmen. Zoals het gezegde luidt: de geschiedenis herhaalt zich niet noodzakelijkerwijs, maar het rijmt wel.
Om te begrijpen hoe platformen waarde aan zichzelf toewijzen en wat we eraan kunnen doen, onderzochten we de rol van algoritmen en de unieke informatieve opzet van digitale markten bij het onttrekken van zogenaamde economische baten aan gebruikers en producenten op platformen. In de economische theorie zijn rents “supernormale winsten” (winsten die hoger zijn dan wat haalbaar zou zijn in een concurrerende markt) en weerspiegelen ze de controle over een schaars middel.
Belangrijk is dat rents een puur rendement zijn op eigendom of een zekere mate van monopoliemacht, in plaats van een rendement dat verdiend wordt met het produceren van iets in een concurrerende markt (zoals veel producenten die auto’s maken en verkopen). Voor digitale platformen betekent het onttrekken van digitale rents meestal een verslechtering van de kwaliteit van de informatie die aan de gebruiker wordt getoond, op basis van het feit dat ze toegang “bezitten” tot een massa klanten.
De miljoenen gebruikers van Amazon vertrouwen bijvoorbeeld op de productzoekalgoritmes om hen de beste producten te tonen die beschikbaar zijn voor de verkoop, aangezien ze niet in staat zijn om elk product individueel te inspecteren. Deze algoritmes besparen iedereen tijd en geld: door gebruikers te helpen door duizenden producten te navigeren om de producten met de hoogste kwaliteit en de laagste prijs te vinden, en door het marktbereik van leveranciers uit te breiden via Amazons leveringsinfrastructuur en immense klantennetwerk.
Deze platformen maakten markten efficiënter en leverden enorme waarde op voor zowel gebruikers als productleveranciers. Maar na verloop van tijd heeft een scheve verhouding tussen de aanvankelijke belofte dat ze gebruikerswaarde zouden bieden en de noodzaak om de winstmarges te vergroten als de groei vertraagt, geleid tot slecht platformgedrag. De advertentiebusiness van Amazon is hier een goed voorbeeld van.
Amazon’s advertenties
In ons onderzoek naar Amazon ontdekten we dat gebruikers nog steeds de neiging hebben om te klikken op de productresultaten bovenaan de pagina, zelfs als dit niet langer de beste resultaten zijn maar in plaats daarvan betaalde advertenties. Amazon maakt misbruik van het gewenning vertrouwen dat gebruikers zijn gaan stellen in zijn algoritmes en wijst in plaats daarvan de aandacht en de kliks van gebruikers toe aan gesponsorde informatie van inferieure kwaliteit waar het enorm van profiteert.
We ontdekten dat de meest aangeklikte gesponsorde producten (advertenties) gemiddeld 17% duurder waren en 33% lager gerangschikt volgens Amazon’s eigen algoritmes voor optimalisatie van kwaliteit, prijs en populariteit. En omdat productleveranciers nu moeten betalen voor de productrangschikking die ze eerder verdienden met productkwaliteit en reputatie, daalt hun winst terwijl die van Amazon stijgt en stijgen de prijzen omdat een deel van de kosten wordt doorberekend aan klanten.
Amazon is een van de meest opvallende voorbeelden van een bedrijf dat wegdraait van zijn oorspronkelijke “deugdzame” missie (“het meest klantgerichte bedrijf op aarde zijn”) naar een extractief bedrijfsmodel. Maar het is verre van alleen.
Google, Meta en vrijwel alle andere grote online aggregators zijn na verloop van tijd hun economische belangen gaan verkiezen boven hun oorspronkelijke belofte aan hun gebruikers en hun ecosystemen van leveranciers van inhoud en producten of applicatieontwikkelaars. Sciencefictionschrijver en activist Cory Doctorow noemt dit de “enshittificatie” van Big Tech platforms.
Maar niet alle huren zijn slecht. Volgens de econoom Joseph Schumpeter kunnen de voordelen die een bedrijf krijgt door te innoveren gunstig zijn voor de maatschappij. De platformen van Big Tech kwamen vooruit door zeer innovatieve, superieure, algoritmische doorbraken. De huidige marktleiders in AI doen hetzelfde.
Dus hoewel Schumpeteriaanse huurprijzen reëel en gerechtvaardigd zijn, begonnen marktleiders na verloop van tijd, en onder externe financiële druk, hun algoritmische marktmacht te gebruiken om een groter deel van de door het ecosysteem van adverteerders, leveranciers en gebruikers gecreëerde waarde te veroveren om de winst te laten groeien.
Voorkeuren van gebruikers werden gedegradeerd in algoritmisch belang ten gunste van meer winstgevende inhoud. Voor sociale mediaplatforms was dit verslavende inhoud om de tijd die op het platform werd doorgebracht te vergroten, ten koste van de gezondheid van de gebruiker. Ondertussen moesten de uiteindelijke leveranciers van waarde aan hun platform – de makers van inhoud, website-eigenaren en handelaren – meer van hun rendement afstaan aan de platformeigenaar. In dit proces zijn de winsten en winstmarges geconcentreerd geraakt in de handen van een paar platformen, wat innovatie door externe bedrijven moeilijker maakt.
Een platform dat zijn ecosysteem van bedrijven dwingt om steeds hogere vergoedingen te betalen (in ruil voor niets van evenredige waarde aan beide zijden van het platform) kan niet worden gerechtvaardigd. Het is een rood licht dat het platform een zekere mate van marktmacht heeft die het uitbuit om onverdiende inkomsten te verwerven. De meest recente kwartaalcijfers van Amazon (Q4, 2023) laten een jaar-op-jaar groei zien in online verkopen van 9%, maar een groei in vergoedingen van 20% (diensten van externe verkopers) en 27% (advertentieverkoop).
Wat belangrijk is om te onthouden in de context van risico en innovatie is dat deze rent-extractieve inzet van algoritmische technologieën door Big Tech geen onkenbaar risico is, zoals geïdentificeerd door Collingridge. Het is een voorspelbaar economisch risico. Het nastreven van winst via de exploitatie van schaarse middelen waarover men controle heeft, is een verhaal dat zo oud is als de commercie zelf.
Technologische voorzorgsmaatregelen voor algoritmen en meer gedetailleerde informatie over de manier waarop platforms hun algoritmen te gelde maken, kunnen dergelijk gedrag hebben voorkomen. Algoritmes zijn poortwachters van de markt en waardetoewijzers geworden en worden nu producenten en scheidsrechters van kennis.
Risico’s van de volgende generatie AI
De grenzen die we stellen aan algoritmen en AI-modellen zullen een belangrijke rol spelen bij het sturen van economische activiteit en menselijke aandacht naar productieve doelen. Maar hoeveel groter zijn de risico’s voor de volgende generatie AI-systemen? Ze zullen niet alleen bepalen welke informatie we te zien krijgen, maar ook hoe we denken en ons uitdrukken. Het centraliseren van de macht van AI in de handen van een paar winstgedreven entiteiten die in de toekomst waarschijnlijk te maken zullen krijgen met economische prikkels voor slecht gedrag is zeker een slecht idee.
Gelukkig staat de maatschappij niet machteloos tegenover de economische risico’s die steevast ontstaan na elke nieuwe innovatie. Risico’s die voortkomen uit de economische omgeving waarin innovatie plaatsvindt, zijn niet onveranderlijk. De marktstructuur wordt gevormd door regelgevers en de algoritmische instellingen van een platform (vooral de algoritmen die marktachtige toewijzingen doen). Samen beïnvloeden deze factoren hoe sterk de netwerkeffecten en schaal- en toepassingsvoordelen in een markt zijn, inclusief de beloningen voor marktdominantie.
Technologische mandaten zoals interoperabiliteit, dat verwijst naar het vermogen van verschillende digitale systemen om naadloos samen te werken, of “side-loading”, de praktijk van het installeren van apps van andere bronnen dan de officiële winkel van een platform, hebben de vloeibaarheid van de mobiliteit van gebruikers binnen en tussen markten gevormd, en op hun beurt het vermogen van een dominante entiteit om haar gebruikers en ecosysteem duurzaam uit te buiten. De internetprotocollen hielpen het internet open te houden in plaats van gesloten. Open source software maakte het mogelijk om te ontsnappen aan het dominante monopolie van het pc-tijdperk. Welke rol kunnen interoperabiliteit en open source spelen om de AI-industrie een meer concurrerende en inclusieve markt te houden?
Openbaarmaking is een ander krachtig marktvormend instrument. Openbaarmaking kan technologiebedrijven verplichten om transparante informatie en uitleg te geven over hun producten en monetisatiestrategieën. Verplichte openbaarmaking van advertentieratio’s en andere operationele statistieken had bijvoorbeeld kunnen helpen voorkomen dat Facebook misbruik maakte van de privacy van zijn gebruikers om het advertentiegeld te maximaliseren door de gegevens van elke gebruiker te verzamelen.
Maar door een gebrek aan gegevensportabiliteit en het onvermogen om de algoritmen van Facebook onafhankelijk te controleren, bleef Facebook langer profiteren van zijn bewakingssysteem dan nodig was. Vandaag de dag weigeren OpenAI en andere toonaangevende leveranciers van AI-modellen om hun trainingsdatasets openbaar te maken, terwijl er vragen rijzen over schending van het auteursrecht en wie het recht zou moeten hebben om te profiteren van door AI ondersteunde creatieve werken. Openbaarmaking en open technologische standaarden zijn belangrijke stappen om ervoor te zorgen dat de voordelen van deze opkomende AI-platforms zo breed mogelijk worden gedeeld.
De marktstructuur en de impact ervan op “wie krijgt wat en waarom” evolueert naarmate de technologische basis voor de manier waarop bedrijven op een markt mogen concurreren zich ontwikkelt. Dus misschien is het tijd om de blik van onze regelgevende instanties af te wenden van pogingen om de specifieke risico’s te voorspellen die zouden kunnen ontstaan bij de ontwikkeling van specifieke technologieën. Per slot van rekening kon zelfs Einstein dat niet.
In plaats daarvan moeten we proberen om de economische prikkels die ten grondslag liggen aan de innovaties van vandaag te herijken, weg van riskant gebruik van AI-technologie en in de richting van open, verantwoordelijke, AI-algoritmen die waarde ondersteunen en rechtvaardig verspreiden. Hoe eerder we erkennen dat technologische risico’s vaak het gevolg zijn van verkeerd afgestemde economische prikkels, hoe sneller we kunnen voorkomen dat we de fouten uit het verleden herhalen.
We zijn er niet tegen dat Amazon advertentiediensten aanbiedt aan bedrijven op zijn marktplaats voor derden. Een gepaste hoeveelheid advertentieruimte kan inderdaad minder bekende bedrijven of producten met een concurrerend aanbod helpen om op een eerlijke manier terrein te winnen. Maar wanneer reclame bijna volledig de topposities in de organische productresultaten verdringt, wordt reclame een middel om huur te innen voor het platform.
Een woordvoerder van Amazon zei:
We zijn het niet eens met een aantal conclusies in dit onderzoek, dat de beperkte gegevens die het gebruikt verkeerd weergeeft en overdrijft. Het negeert dat verkopen van onafhankelijke verkopers, die sneller groeien dan die van Amazon zelf, bijdragen aan inkomsten uit diensten en dat veel van onze advertentiediensten niet in de winkel verschijnen.
Amazon is geobsedeerd om het leven van klanten makkelijker te maken en een groot deel daarvan is ervoor zorgen dat klanten snel en gemakkelijk de producten die ze willen in onze winkel kunnen vinden en ontdekken. Advertenties zijn al tientallen jaren een integraal onderdeel van de detailhandel en wanneer we ze opnemen, worden ze duidelijk gemarkeerd als ‘Gesponsord’. We bieden een mix van organische en gesponsorde zoekresultaten op basis van factoren zoals relevantie, populariteit bij klanten, beschikbaarheid, prijs en snelheid van levering, samen met handige zoekfilters om de resultaten te verfijnen. We hebben ook miljarden geïnvesteerd in de tools en diensten voor verkopers om hen te helpen groeien en aanvullende diensten zoals reclame en logistiek zijn volledig optioneel.
Ons project aan de UCL, waarnaar in dit artikel wordt verwezen, werd gefinancierd door Omidyar. Ik heb persoonlijk geen compensatie ontvangen van deze subsidie, maar ik geloof dat al mijn co-auteurs dat wel hebben gedaan.
Ilan Strauss ontvangt financiering van The Omidyar Network via het IIPP-onderzoeksproject van de UCL over algoritmische huren.
Mariana Mazzucato ontving financiering voor dit project van de Omidyar Foundation.
Rufus Rock ontving financiering van het Omidyar Network tijdens het uitvoeren van het onderzoek waarnaar in dit stuk wordt verwezen.
