shutterstock
ChatGPT wordt aangeprezen als een tool die een revolutie teweeg zal brengen op de werkplek en thuis. AI-systemen zoals deze hebben het potentieel om de productiviteit te verhogen, maar zouden ook banen kunnen verdringen. De ChatGPT-website werd vorige maand 1,5 miljard keer bezocht.
Hoewel er geen uitgebreide statistieken bestaan, zijn deze gebruikers waarschijnlijk relatief goed opgeleid, met toegang tot smartphones of computers. Dus, kan de AI chatbot ook ten goede komen aan mensen die niet al deze voordelen hebben?
We zijn verbonden aan Friend in Need India Trust (FIN), een niet-gouvernementele organisatie (NGO) gevestigd in een geïsoleerd vissersdorp genaamd Kameswaram in de staat Tamil Nadu. FIN voert een dagelijkse strijd tegen het gebrek aan empowerment van vrouwen, vervuiling en een gebrek aan goed functionerende sanitaire voorzieningen.
Deze en andere problemen vormen belangrijke obstakels voor de lokale economische ontwikkeling. Onlangs keerde een FIN-collega, Dr. Raja Venkataramani, terug uit de VS om te praten over ChatGPT. Hij vroeg zich af of de AI-chatbot zou kunnen helpen bij het creëren van bewustzijn, motivatie en betrokkenheid van de gemeenschap bij onze duurzaamheidsdoelen in Kameswaram.
Voor één experiment werkten we met lokale vrouwen die FIN-medewerkers zijn, maar geen hoog opleidingsniveau hebben. De vrouwelijke medewerkers van FIN zijn lokale dorpsbewoners die thuis worstelen met patriarchale opvattingen en het moeilijk vinden om aantrekkelijke argumenten te bedenken om de lokale bevolking – vooral jongens en mannen – te motiveren om water te besparen, toiletten te gebruiken en geen rommel te maken op openbare plaatsen.
We hebben ChatGPT aan hen geïntroduceerd als een hulpmiddel voor hun leven en werk. Nadat ze het op hun telefoon hadden geïnstalleerd, vonden ze het erg nuttig. ChatGPT gedroeg zich als een metgezel en onthield wat er eerder was besproken.
FIN-medewerkers nemen hun campagne tegen oceaanafval mee naar de lokale omgeving.
Shyama V Ramani, Verstrekte auteur
Een medewerker wilde het gebruiken om met haar man over politiek te debatteren in de aanloop naar de staatsverkiezingen. Ze vroeg ChatGPT wat er goed en slecht was aan de kandidaat van haar voorkeur en vroeg om dit te staven met gegevens.
Vervolgens herhaalde ze dit voor de tegenstander van die politicus. Ze vond de antwoorden voor beide kandidaten even overtuigend. De medewerker had niet het geduld om de juistheid van de argumenten te controleren en raakte dus nog meer in de war. Dit maakte haar terughoudend om ChatGPT opnieuw te gebruiken.
Sam Altman, de bedenker van ChatGPT, roept samen met andere technologieleiders in de VS op tot regelgeving om de risico’s van AI-hallucinaties in te dammen, dat is wanneer de technologie valse informatie genereert die sociale spanningen kan veroorzaken. We vroegen ChatGPT om een toespraak te produceren waarin werd opgeroepen om een menigte die uit is op het plegen van eerwraak in bedwang te houden.
Tot op de dag van vandaag wordt India geteisterd door geweld tussen de gemeenschappen, zoals eerwraak tegen bijvoorbeeld koppels die buiten hun kaste trouwen of jonge vrouwen die werk zoeken buiten het dorp. ChatGPT bleek een zeer effectief speechschrijver, die overtuigende argumenten tegen deze daden produceerde.
De voorstanders van het behoud van de status quo konden de chatbot echter ook gebruiken om hun gewelddadige gedrag tegenover de gemeenschap te rechtvaardigen. Dit zou kunnen gebeuren als ze hun status binnen het dorp wilden behouden, waardoor pogingen om gemeenschapsleden aan te moedigen om de praktijken te beëindigen, werden tegengegaan. We ontdekten dat het AI-systeem net zo bedreven was in het produceren van argumenten ten gunste van eerwraak.
In een ander experiment wilden we zien hoe de chatbot NGO’s zou kunnen helpen bij het bevorderen van vrouwenemancipatie – een centrale missie van FIN – op een manier die de gemeenschap ten goede zou komen. We vroegen ChatGPT om een toespraak te maken waarin de relevantie van Internationale Vrouwendag aan dorpelingen werd uitgelegd.
De toespraak was erg indrukwekkend, maar bevatte feitelijke onjuistheden over geslachtsverhoudingen, de abortus van foetussen buiten de wettelijke grenzen en de arbeidsparticipatie van vrouwen. Toen ChatGPT werd gevraagd om de fouten te rechtvaardigen, antwoordde het: “Mijn excuses voor de verwarring. Ik gaf een hypothetische statistiek om het punt te illustreren.”
FIN-medewerkers bespreken een campagne voor vrouwenemancipatie.
Shyama V Ramani, Verstrekte auteur
Vervuilingsprobleem
In een ander experiment wilden we het probleem van vervuiling door traditionele festivals in India aanpakken. Deze gaan vaak gepaard met vuurwerk en feesten, die de lucht- en watervervuiling doen toenemen.
Hoewel straattheater al eerder met succes is gebruikt om gedragsverandering te motiveren, voelden noch de medewerkers van FIN, noch de mentoren zich in staat om een script te schrijven. Echter, binnen drie minuten nadat ze de juiste prompt hadden gekregen, kwam ChatGPT met een sketch waarbij jongeren betrokken waren.
Het bevatte zowel mannelijke als vrouwelijke personages, gebruikte lokale namen en hield rekening met lokale nuances. De FIN-medewerkers versterkten het lokale karakter van de sketch door er hun eigen grappen in te verwerken. In het korte theaterstuk werd betoogd dat de impact van microvezels uit synthetische kleding op onze oceanen een aanzienlijk milieuprobleem vormt dat schade kan toebrengen aan bestaansmiddelen.
De AI vragen
We vroegen ChatGPT naar zijn mening over onze resultaten. Het beweerde dat ChatGPT een waardevol hulpmiddel kan zijn voor zowel economisch achtergestelde mensen als NGO’s omdat het waardevolle informatie verschaft, emotionele steun biedt en de communicatie effectiever maakt.
Maar de chatbot vermeed het bespreken van zijn duidelijke nadelen, zoals het maken van argumenten op basis van valse, onvolledige of onvolmaakte informatie. Net zoals het ons kan helpen, kan het ook fungeren als een bekwame speechschrijver voor degenen die verdeeldheid willen zaaien of spanningen willen opvoeren.
Voorlopig lijkt ChatGPT een handig hulpmiddel voor goedbedoelende NGO’s, maar niet zozeer voor de gewone mensen die ze bijstaan. Zonder dat gebruikers de middelen hebben om de ethiek en het waarheidsgehalte van de suggesties van ChatGPT te controleren, kunnen AI-systemen gevaarlijke enablers worden voor desinformatie en desinformatie.
De auteurs werken niet voor, adviseren niet, bezitten geen aandelen in en ontvangen geen financiering van bedrijven of organisaties die baat zouden hebben bij dit artikel en hebben geen relevante banden bekendgemaakt buiten hun academische aanstelling.
