Freedomz / Shutterstock
De rol van een ethische commissie is om advies te geven over wat er moet gebeuren in vaak controversiële situaties. Ze worden gebruikt in de geneeskunde, het onderzoek, het bedrijfsleven, de rechtspraak en op allerlei andere gebieden.
Het woord “ethiek” heeft betrekking op de morele principes die het menselijk gedrag bepalen. De taak van ethische commissies kan behoorlijk lastig zijn gezien het brede scala aan morele, politieke, filosofische, culturele en religieuze opvattingen. Toch vormen goede ethische argumenten het fundament van de samenleving, omdat ze de basis vormen voor de wetten en afspraken die we gebruiken om met elkaar om te gaan.
Gezien het belang van ethiek moet elk hulpmiddel dat gebruikt kan worden om tot betere ethische beslissingen te komen onderzocht en gebruikt worden. De laatste jaren wordt steeds meer erkend dat kunstmatige intelligentie (AI) een hulpmiddel is dat kan worden gebruikt om complexe gegevens te analyseren. Het is dus zinvol om de vraag te stellen of AI kan worden gebruikt om betere ethische beslissingen te nemen.
Omdat AI een klasse van computeralgoritmen is, is het afhankelijk van gegevens. Ethische commissies vertrouwen ook op gegevens, dus een belangrijke vraag is of AI in staat is om de soorten gegevens die ethische commissies regelmatig in overweging nemen, te laden en vervolgens zinvol te analyseren.
Hier wordt de context erg belangrijk. Een ethische commissie in een ziekenhuis kan bijvoorbeeld beslissingen nemen op basis van ervaring met patiënten, input van advocaten en een algemeen begrip van gangbare culturele of maatschappelijke normen en opvattingen. Het is op dit moment moeilijk in te zien hoe dergelijke gegevens kunnen worden vastgelegd en ingevoerd in een AI-algoritme.
Ik ben echter voorzitter van een heel specifiek type ethische commissie, een onderzoeksethische commissie (REC) genaamd, die tot taak heeft wetenschappelijke onderzoeksprotocollen te beoordelen. Het doel is om onderzoek van hoge kwaliteit te bevorderen en tegelijkertijd de rechten, veiligheid, waardigheid en het welzijn van de mensen die aan het onderzoek deelnemen te beschermen.
Ethische commissies beoordelen wetenschappelijk onderzoek waarbij menselijke proefpersonen betrokken zijn.
Gorodenkoff / Shutterstock
Het grootste deel van onze activiteiten bestaat uit het lezen van complexe documenten om te bepalen wat de relevante ethische kwesties kunnen zijn, en vervolgens suggesties te doen aan onderzoekers over hoe ze hun voorgestelde protocollen of procedures kunnen verbeteren. Op dit gebied zou AI erg nuttig kunnen zijn.
Onderzoeksprotocollen, vooral die van klinische onderzoeken, beslaan vaak honderden, zo niet duizenden pagina’s. De informatie is dicht en complex. De informatie is compact en complex. Hoewel protocollen vergezeld gaan van formulieren voor ethische toepassingen die informatie over belangrijke ethische kwesties proberen te presenteren op een manier die REC-leden gemakkelijk kunnen vinden, kan deze taak nog steeds veel tijd in beslag nemen.
Na het bestuderen van de documenten wegen de leden van het REC af wat ze hebben gelezen, vergelijken dit met de richtlijnen voor goede ethische praktijken, houden rekening met de inbreng van patiënten- en deelnemersbetrokkenheidsgroepen en komen vervolgens tot een besluit over de vraag of het onderzoek door kan gaan zoals gepland. De meest voorkomende uitkomst is dat er meer informatie en een paar aanpassingen nodig zijn voordat het onderzoek door kan gaan.
Een rol voor machines?
Hoewel er pogingen zijn gedaan om het lidmaatschap en de ervaring van REC’s te standaardiseren, klagen onderzoekers vaak dat het proces lang kan duren en inconsistent is tussen verschillende commissies.
AI lijkt ideaal geplaatst om het proces te versnellen en te helpen bij het wegwerken van enkele inconsistenties. Niet alleen zou de AI zulke lange documenten heel snel kunnen lezen, maar hij zou ook kunnen worden getraind op een groot aantal eerdere protocollen en besluiten.
Het zou heel snel ethische problemen kunnen herkennen en oplossingen kunnen voorstellen die de onderzoeksteams kunnen implementeren. Dit zou het ethische beoordelingsproces enorm versnellen en waarschijnlijk veel consistenter maken. Maar is het ethisch aanvaardbaar om AI op deze manier te gebruiken?
Hoewel AI duidelijk veel van de REC-taken zou kunnen uitvoeren, kan ook worden aangevoerd dat deze beoordelingstaken eigenlijk niet hetzelfde zijn als het nemen van een ethische beslissing. Aan het einde van het beoordelingsproces wordt REC’s gevraagd om te beslissen of een protocol, met de updates, een gunstig of ongunstig advies moet krijgen.
Hoewel het voordeel van AI duidelijk is in het versnellen van het proces, is dit dus niet helemaal hetzelfde als het nemen van de uiteindelijke beslissing.
Een mens in de lus
Het kan mogelijk zijn dat AI zeer effectief is in het beoordelen van een situatie en het aanbevelen van een handelwijze die consistent is met eerder “ethisch” gedrag. Maar de beslissing om daadwerkelijk een gedragslijn aan te nemen en zich vervolgens zo te gedragen, is fundamenteel menselijk.
In het voorbeeld van onderzoeksethiek kan de AI wel een gedragslijn aanbevelen, maar de daadwerkelijke beslissing is een menselijke beslissing. Het systeem zou ontworpen kunnen worden om ethische commissies of onderzoekers te instrueren om zonder twijfel te doen wat de AI voorstelt, maar zo’n beslissing gaat over hoe de AI gebruikt wordt, niet over de AI zelf.
Hoewel AI misschien direct nuttig is voor onderzoeksethische commissies gezien het type gegevens dat we beoordelen, is het zeer waarschijnlijk dat manieren om niet-tekstuele gegevens te coderen (zoals ervaringen van mensen) zullen verbeteren.
Dit betekent dat AI na verloop van tijd ook kan helpen bij andere gebieden van ethische besluitvorming. Het belangrijkste punt is echter om het hulpmiddel dat wordt gebruikt om gegevens te analyseren, de AI, niet te verwarren met de uiteindelijke “ethische” beslissing over hoe te handelen. Het gevaar is niet de AI, maar hoe mensen ervoor kiezen om AI te integreren in ethische besluitvormingsprocessen.
Simon Kolstoe heeft eerder financiering ontvangen van de Health Research Authority om aspecten van onderzoeksethiek te onderzoeken. Hij is voorzitter van de Cambs and Herts HRA (NHS) REC, MODREC en de UKHSA's research ethics and governance group. Hij is trustee van de liefdadigheidsinstelling UK Research Integrity Office (UKRIO). Alle standpunten in dit artikel zijn zijn eigen standpunten en moeten niet worden opgevat als de standpunten van deze organisaties.
