Je loopt terug naar huis. Plotseling lijkt de grond open te gaan en een beveiligingsdrone
die je de weg verspert om je identiteit te verifiëren. Dit klinkt misschien vergezocht, maar het is gebaseerd op een bestaande technologie – een drone-systeem gemaakt door het AI-bedrijf Sunflower Labs.
Als onderdeel van een internationaal project dat kijkt naar de impact van AI op steden, hebben we onlangs een nieuw onderzoeksgebied “opengebroken” dat AI-stedenbouw wordt genoemd. Dit verschilt van het concept van een “slimme stad”. Slimme steden verzamelen informatie van technologie, zoals sensorsystemen, en gebruiken die om hun activiteiten te beheren en diensten soepeler te laten verlopen.
AI-stedenbouw vertegenwoordigt een nieuwe manier om steden vorm te geven en te besturen, door middel van kunstmatige intelligentie (AI). Het wijkt sterk af van hedendaagse modellen van stadsontwikkeling en -beheer. Hoewel het van vitaal belang is dat we dit opkomende gebied nauwlettend volgen, moeten we ons ook afvragen of we AI überhaupt wel zo nauw moeten betrekken bij het besturen van steden.
De ontwikkeling van AI is onlosmakelijk verbonden met de ontwikkeling van steden. Alles wat stedelingen doen, leert AI iets waardevols over onze wereld. De manier waarop je autorijdt of fietst helpt de AI achter een autonoom voertuig te trainen in hoe stedelijke transportsystemen functioneren.
Wat je eet en wat je koopt vertelt AI-systemen over je voorkeuren. Vermenigvuldig deze individuele gegevens met de miljarden mensen die in steden wonen en je krijgt een idee van de hoeveelheid gegevens die AI kan verzamelen uit stedelijke omgevingen.
Sunflower Labs heeft een drone voor huisbeveiliging gemaakt die ontworpen is om de identiteit van bezoekers te verifiëren.
Voorspellende politie
In het traditionele concept van slimme steden maken technologieën zoals het internet der dingen gebruik van verbonden sensoren om te observeren en te kwantificeren wat er gebeurt. Slimme gebouwen kunnen bijvoorbeeld berekenen hoeveel energie we verbruiken en realtime technologie kan kwantificeren hoeveel mensen er op een bepaald moment gebruik maken van een metro. AI-stedenbouw kwantificeert niet alleen, het vertelt verhalen en verklaart waarom en hoe bepaalde gebeurtenissen plaatsvinden.
We hebben het hier niet over complexe verhalen, maar zelfs een basisverhaal kan aanzienlijke gevolgen hebben. Neem het AI-systeem dat is ontwikkeld door het Amerikaanse bedrijf Palantir en dat al in verschillende steden wordt gebruikt om te voorspellen waar misdaden zullen plaatsvinden en wie erbij betrokken zijn.
Politieagenten kunnen op basis van deze voorspellingen bepalen waar ze middelen moeten inzetten. Voorspellend politiewerk in het algemeen is een van de meest controversiële bevoegdheden die kunstmatige intelligenties krijgen onder AI-stedenbouw: het vermogen om te bepalen wat goed of fout is en wie “goed” of “slecht” is in een stad.
Dit is een probleem omdat, zoals het recente voorbeeld van ChatGPT duidelijk heeft gemaakt, AI een gedetailleerd verslag kan produceren zonder de betekenis ervan te begrijpen. Het is een amorele intelligentie, in de zin dat het onverschillig staat tegenover vragen over goed of fout.
En toch is dit precies het soort vragen dat we in toenemende mate delegeren aan AI in stedelijk bestuur. Dit bespaart onze stadsmanagers misschien wat tijd, gezien de buitengewone snelheid waarmee AI grote hoeveelheden gegevens analyseert, maar de prijs die we betalen in termen van sociale rechtvaardigheid is enorm.
Een menselijk probleem
Recente studies tonen aan dat AI-beslissingen raciale minderheden benadelen op het gebied van huisvesting en onroerend goed. Er zijn ook aanzienlijke milieukosten om rekening mee te houden, aangezien AI-technologie energie-intensief is. De verwachting is dat deze technologie de komende decennia aanzienlijk zal bijdragen aan de koolstofemissies van de technologiesector en dat de infrastructuur die nodig is om de technologie te onderhouden kritieke grondstoffen verbruikt. AI lijkt veel te beloven op het gebied van duurzaamheid, maar als we kijken naar de werkelijke kosten en toepassingen in steden, kunnen de negatieve aspecten gemakkelijk zwaarder wegen dan de positieve.
Het is niet zo dat AI uit de hand loopt, zoals we zien in sciencefictionfilms en lezen in romans. Integendeel: wij mensen nemen bewust politieke beslissingen die AI in de positie plaatsen om beslissingen te nemen over het bestuur van steden. We staan bereidwillig een deel van onze besluitvormingsverantwoordelijkheden af aan machines en in verschillende delen van de wereld zien we al nieuwe steden ontstaan die volledig door AI zouden worden bestuurd.
Het NEOM-project in Saoedi-Arabië zou een lineaire stad omvatten met de naam The Line.
Corona Borealis Studio / Shutterstock
Deze trend wordt geïllustreerd door Neom, een kolossaal regionaal ontwikkelingsproject dat momenteel wordt gebouwd in Saoedi-Arabië. Neom zal nieuwe stedelijke ruimten bevatten, waaronder een lineaire stad genaamd The Line, die wordt beheerd door een veelheid aan AI-systemen, en het moet een toonbeeld van stedelijke duurzaamheid worden. Deze steden van de toekomst zullen beschikken over zelfrijdende voertuigen die mensen vervoeren, robots die eten koken en serveren en algoritmes die je gedrag voorspellen om te anticiperen op je behoeften.
Deze visies resoneren met het concept van de autonome stad, dat verwijst naar stedelijke ruimten waar AI autonoom sociale en bestuurlijke functies uitvoert zonder de mens erbij te betrekken.
We moeten niet vergeten dat autonomie een nulsomspel is. Naarmate de autonomie van AI toeneemt, neemt die van ons af en de opkomst van autonome steden dreigt onze rol in het stedelijk bestuur ernstig te ondermijnen. Een stad die niet door mensen, maar door AI’s wordt bestuurd, zou de autonomie van menselijke belanghebbenden op de proef stellen, net als het welzijn van veel mensen.
Kom je in aanmerking voor een hypotheek en kun je een huis kopen om een gezin te stichten? Kun je een levensverzekering afsluiten? Staat jouw naam op een lijst van verdachten waar de politie zich op gaat richten? Vandaag worden de antwoorden op deze vragen al beïnvloed door AI. In de toekomst, als de autonome stad de dominante realiteit wordt, zou AI de enige arbiter kunnen worden.
AI heeft steden nodig om onze gegevens te blijven verslinden. Als burgers is het nu tijd om het spookbeeld van de autonome stad zorgvuldig in twijfel te trekken als onderdeel van een uitgebreid publiek debat, en één heel eenvoudige vraag te stellen: hebben we AI echt nodig om onze steden duurzaam te maken?
Federico Cugurullo werkt niet voor, voert geen advies uit over, bezit geen aandelen in en ontvangt geen financiering van bedrijven of organisaties die baat hebben bij dit artikel en heeft geen relevante banden bekendgemaakt buiten zijn academische aanstelling.
