Kunstmatige intelligentie (AI) verandert het medialandschap, zowel voor nieuwsorganisaties als voor consumenten. Toepassingen zoals ChatGPT, Bard en Bing AI creëren nieuwe mogelijkheden om te helpen bij het schrijven en onderzoeken van het nieuws, maar deze brengen ook ethische problemen met zich mee.
Een van de meest prangende vragen voor nieuwsorganisaties is of consumenten moet worden verteld wanneer ze een verhaal lezen dat is gemaakt met of wordt geholpen door AI. Sommige media, zoals het technologietijdschrift Wired en de BBC, doen dit al, maar andere niet.
Er zijn verschillende argumenten voor en tegen het openbaar maken van dit soort informatie.
Ten eerste zou het helpen om transparantie en verantwoording te garanderen. Consumenten moeten weten hoe het nieuws dat ze consumeren tot stand komt en ze moeten in staat zijn geïnformeerde keuzes te maken over het al dan niet vertrouwen ervan.
Ten tweede zou openbaarmaking kunnen helpen om de risico’s van vooringenomenheid te beperken. AI-systemen worden getraind met gegevens en die gegevens kunnen de vooroordelen weerspiegelen van de mensen die ze hebben gemaakt. Als gevolg daarvan kan AI-gegenereerde inhoud soms bevooroordeeld zijn. Door openbaarmaking verplicht te stellen, zouden consumenten zich bewust kunnen zijn van deze mogelijke vooringenomenheid en er rekening mee kunnen houden bij het evalueren van de informatie.
Ten derde kan openbaarmaking helpen om consumenten te beschermen tegen verkeerde informatie. AI-systemen kunnen worden gebruikt om nepnieuws te genereren, waardoor het voor consumenten moeilijk wordt om onderscheid te maken tussen echt en nepnieuws. Door openbaarmaking verplicht te stellen, zouden consumenten sceptischer kunnen staan tegenover door AI gegenereerde inhoud en deze eerder verifiëren voordat ze deze delen.
Tegen openbaarmaking
Een punt van zorg is dat het innovatie in de kiem kan smoren. Als nieuwsorganisaties verplicht worden om elke keer dat ze AI gebruiken, openheid van zaken te geven, zullen ze wellicht minder snel geneigd zijn om met de technologie te experimenteren.
Een ander punt is dat openbaarmaking verwarrend kan zijn voor consumenten. Niet iedereen begrijpt hoe AI werkt. Sommige mensen kunnen wantrouwig staan tegenover door AI gegenereerde inhoud. Het verplicht stellen van openbaarmaking zou het moeilijker kunnen maken voor consumenten om de informatie te krijgen die ze nodig hebben.
Hoe het zou kunnen aflopen
Hier zijn een paar voorbeelden om deze zorgen te illustreren:
Stel je voor dat een nieuwsorganisatie AI gebruikt om realtime fact-checking en verificatie uit te voeren van uitspraken van publieke figuren tijdens live evenementen, zoals politieke debatten of persconferenties. Een AI-systeem zou snel onnauwkeurigheden kunnen identificeren en kijkers in real-time kunnen voorzien van accurate informatie.
Als de nieuwsorganisatie echter verplicht zou zijn om elke keer het gebruik van AI bekend te maken, zou dit kunnen leiden tot terughoudendheid om een dergelijke tool in te zetten. De angst voor de publieke perceptie en het mogelijke verzet zou nieuwsbedrijven ervan kunnen weerhouden om AI in te zetten om de nauwkeurigheid van hun verslaggeving te verbeteren, waardoor het publiek uiteindelijk een waardevolle dienst wordt onthouden.
Een ander scenario betreft AI-gestuurde gepersonaliseerde nieuwscuratie. Veel nieuwsplatforms gebruiken AI-algoritmes om nieuwscontent af te stemmen op de voorkeuren van individuele lezers, zodat ze informatie ontvangen die aansluit bij hun interesses.
Als nieuwsorganisaties verplicht zouden zijn om het gebruik van AI in deze context openbaar te maken, zouden lezers op hun hoede kunnen zijn voor vermeende manipulatie. Deze vrees zou nieuwsbedrijven ervan kunnen weerhouden om te investeren in AI-gestuurde personalisering, waardoor ze minder goed in staat zouden zijn om een publiek aan zich te binden in een medialandschap met steeds meer concurrentie.
Lees meer:
Deepfakes in oorlogsvoering: nieuwe bezorgdheid over het gebruik ervan rond de Russische invasie in Oekraïne
Om deze risico’s te beperken, bieden publicaties zoals de New York Times “enhanced bylines” aan met meer details over de journalisten achter de verhalen en details over hoe het verhaal tot stand is gekomen.
Uiteindelijk is de beslissing om al dan niet openbaarmaking verplicht te stellen een complexe.
Het is echter essentieel om een publiek gesprek te voeren over deze kwestie, zodat we beleid kunnen ontwikkelen dat consumenten beschermt en verantwoorde journalistiek bevordert, en het vertrouwen in de journalistiek, dat in sommige landen afneemt, kan behouden en verbeteren.
Naast openbaarmaking zijn er andere dingen die nieuwsorganisaties kunnen doen om ervoor te zorgen dat AI ethisch en verantwoord wordt gebruikt. Ze moeten duidelijke richtlijnen ontwikkelen voor het gebruik van AI. Deze richtlijnen moeten betrekking hebben op zaken als vooringenomenheid, transparantie en verantwoordingsplicht. Ze moeten investeren in training en opleiding voor hun personeel. Journalisten moeten begrijpen hoe AI werkt en hoe ze het verantwoord kunnen gebruiken.
Tot slot moeten nieuwsorganisaties samenwerken met goed geïnformeerde groepen, zoals het Neiman Lab van Harvard, beleidsmakers, technologiebedrijven en academici, om ethische normen te ontwikkelen voor het gebruik van AI en opkomende kwesties aan te pakken die cruciaal zijn voor de toekomst van nieuws van algemeen belang.
Het gebruik van AI-tools in het nieuws is een belangrijke ontwikkeling. Het is van vitaal belang om een doordacht en geïnformeerd gesprek te voeren over de mogelijke voordelen en risico’s van deze technologie. Door samen te werken kunnen we ervoor zorgen dat AI wordt gebruikt op een manier die het publieke belang dient en de waarden van verantwoorde journalistiek hoog houdt.
François Nel is redacteur van World Press Trends, het vlaggenschiprapport van WAN-IFRA, de World Association of News Publishers, en hij ontvangt financiering van het Google News Initiative voor het News Futures 2035 project, een multistakeholder foresight studie naar de duurzame levering van betrouwbaar public interest nieuws in het Verenigd Koninkrijk.
