Sociale mediaplatforms zijn betrokken bij conflicten van allerlei omvang, van stedelijk vuurwapengeweld tot de bestorming van het Amerikaanse Capitool op 6 januari en de burgeroorlog in Zuid-Sudan. Wetenschappelijk gezien is het moeilijk om te zeggen in hoeverre sociale media verantwoordelijk zijn voor eenmalige incidenten.
Maar net zoals klimaatverandering het risico op extreem weer vergroot, zijn er aanwijzingen dat de huidige algoritmen (die meestal optimaliseren voor betrokkenheid) de politieke “temperatuur” verhogen door opruiende inhoud onevenredig te tonen. Dit kan mensen bozer maken, waardoor het risico toeneemt dat sociale verschillen escaleren tot geweld.
Maar wat als we sociale media herontwerpen om kloven te overbruggen? “Rangschikking op basis van bruggen” is een alternatief soort algoritme voor het rangschikken van inhoud in sociale media die expliciet gericht is op het opbouwen van wederzijds begrip en vertrouwen tussen verschillende perspectieven.
De kernlogica van het rangschikken op basis van bruggen is al gebruikt op Facebook en X (voorheen bekend als Twitter), zij het niet in de hoofdfeed. Het wordt ook gebruikt in Polis, een online platform voor het verzamelen van publieke input, gebruikt door verschillende regeringen om beleidsvorming over gepolariseerde onderwerpen te informeren.
Er zijn nog veel open vragen, maar het bewijs van bestaand gebruik van rangschikking op basis van overbrugging suggereert dat veranderingen in algoritmen partijgeest kunnen verminderen en de kwaliteit en inclusiviteit van online interacties kunnen verbeteren.
Mensen zijn steeds meer op zoek naar alternatieve algoritmen. Regelgevers in de EU en nieuwe platforms zoals Bluesky geven gebruikers de keuze welk algoritme bepaalt wat ze te zien krijgen en recente grootschalige experimenten op Facebook hebben verschillende opties getest.
Als we om sociale cohesie geven, dan moeten we in deze periode van “rondshoppen” alternatieven zoals bridging serieus overwegen.
Hoe het werkt
De huidige op engagement gebaseerde algoritmen doen voorspellingen over welke berichten het meest waarschijnlijk klikken, likes, shares of views zullen genereren – en gebruiken deze voorspellingen om de meest boeiende inhoud bovenaan je feed te plaatsen. Dit heeft de neiging om de meest polariserende stemmen te versterken, omdat verdeeldheid zaaiende perspectieven erg boeiend zijn.
Op overbrugging gebaseerde rangschikking gebruikt een andere reeks signalen om te bepalen welke inhoud hoog gerangschikt wordt. Eén benadering is om de rangorde te verhogen van inhoud die positieve feedback krijgt van mensen die het er normaal gesproken niet mee eens zijn. Dit creëert een stimulans voor producenten van inhoud om rekening te houden met hoe hun inhoud zal landen bij “de andere kant”.
In de interne Facebook-documenten die in 2021 zijn uitgelekt door klokkenluider Frances Haugen, is bewijs te vinden dat Facebook deze aanpak voor het rangschikken van reacties heeft getest.
Reacties met positieve betrokkenheid van divers publiek bleken van hogere kwaliteit te zijn, en “veel minder waarschijnlijk” te worden gerapporteerd voor pesten, haat of het aanzetten tot geweld. Een soortgelijke strategie wordt gebruikt in Community Notes, een crowd-sourced functie voor het controleren van feiten op X, om commentaren te identificeren die nuttig zijn voor mensen aan beide kanten van de politiek.
Dit patroon van “diverse positieve feedback” is de meest toegepaste benadering van bridging. Andere benaderingen zijn het verlagen van de ranking van inhoud die partijdig geweld promoot of het gebruik van enquêtes om algoritmes zo te vormen dat ze de ranking van inhoud verhogen op basis van hoe gebruikers zich voelen op de lange termijn in plaats van de korte termijn.
Conflicten zijn een belangrijk onderdeel van de samenleving en in veel gevallen een belangrijke motor voor politieke en sociale verandering. Het doel van bridging is niet om conflicten of onenigheid te elimineren, maar om constructieve vormen van conflict te bevorderen.
Dit staat bekend als conflicttransformatie. Professionele bemiddelaars, facilitators en “vredesbouwers” die met groepen werken die tegenover elkaar staan, hebben een gedetailleerd begrip van hoe conflicten escaleren. Ze weten ook hoe ze de communicatie tussen groepen die tegenover elkaar staan zo kunnen structureren dat er wederzijds begrip en vertrouwen ontstaat.
Onderzoek naar rangschikking op basis van bruggen kan hierop voortbouwen door inzichten uit conflictbeheersing in de fysieke wereld te vertalen naar digitale systemen.
Bijvoorbeeld, het faciliteren van contact tussen mensen van rivaliserende groepen in “opt-in”, niet-bedreigende omgevingen kan vooroordelen verminderen, en we kunnen sociale platforms ontwerpen om deze omstandigheden online te creëren.
Waarom zou big tech dit overnemen?
Bedrijven zoals Meta hebben hun fortuin gebouwd op de “aandachtseconomie” en inhoud die kortetermijnbetrokkenheid en dus inkomsten bevordert.
We weten gewoon nog niet in hoeverre de doelen van overbrugging en betrokkenheid in spanning staan. Als je praat met mensen die bij sociale mediaplatforms werken, zullen ze je vertellen dat wanneer goedbedoelde veranderingen in het algoritme worden getest, de betrokkenheid van gebruikers in eerste instantie soms daalt, maar dan na verloop van tijd langzaam weer stijgt, waardoor er uiteindelijk meer betrokkenheid ontstaat.
Het probleem is dat platforms normaal gesproken koudwatervrees krijgen en experimenten annuleren voordat ze zulke voordelen op de lange termijn kunnen waarnemen. Het bewijs dat we hebben van uitgelekte Facebook-papers suggereert dat het inbouwen van bridging de gebruikerservaring verbetert.
Rangschikking op basis van overbrugging kan ook voordelen hebben die verder gaan dan betrokkenheid. Door het verminderen van toxiciteit en inhoud die de richtlijnen van de gemeenschap schendt, zou het waarschijnlijk de noodzaak voor dure inhoudsmoderatie verminderen.
Het tonen van de bereidheid om hun algoritmes minder verdeeld te maken, zou ook goodwill kweken bij regelgevers, waardoor het risico op reputatieschade en juridische schade afneemt. Facebook is bijvoorbeeld zwaar bekritiseerd omdat het aanzetten tot geweld in Myanmar, Sri Lanka en Ethiopië zou hebben gefaciliteerd.
Het bedrijf is vervolgens geconfronteerd met rechtszaken van slachtoffers en gemeenschappen, die tot 150 miljard pond aan schadevergoedingen hebben geëist.
Vragen en uitdagingen
Er blijven belangrijke vragen over de ranglijst op basis van overbrugging en we hebben veel van deze vragen uiteengezet in een recent artikel dat we hebben gepubliceerd met het Knight First Amendment Institute, dat originele wetenschappelijke en beleidsdocumenten publiceert over de verdediging van de vrijheid van meningsuiting en de persvrijheid in het digitale tijdperk.
Welke kloven moeten worden overbrugd? Zijn er onbedoelde gevolgen – bijvoorbeeld het versterken van mainstream standpunten ten koste van minderheidsstandpunten? Hoe kunnen beslissingen over het ontwerp van massacommunicatietechnologieën democratisch worden genomen?
Bridging is geen wondermiddel. Er is maar zoveel dat algoritmische veranderingen kunnen doen om maatschappelijke conflicten aan te pakken, die het gevolg zijn van complexe factoren zoals ongelijkheid. Maar door te erkennen dat digitale platforms de maatschappij een nieuwe vorm geven, hebben we de plicht om dat proces in een ethische, humanistische richting te sturen die het beste in ons naar boven haalt.
Het is zowel aan de techbedrijven die deze systemen hebben gebouwd als aan een betrokken publiek om technologieën te creëren die zijn ontworpen voor sociale cohesie. Met zorg, wijsheid en democratisch toezicht kunnen we online gemeenschappen creëren die het beste in ons naar boven halen. Maar we moeten die keuze wel maken.
Aviv Ovadya is verbonden aan het Berkman Klein Center in Harvard, de AI & Democracy Foundation, de newDemocracy Foundation en het Centre for Governance of AI.
Luke Thorburn werkt niet voor, heeft geen adviesfuncties, bezit geen aandelen in en ontvangt geen financiering van bedrijven of organisaties die baat zouden hebben bij dit artikel, en heeft geen relevante banden bekendgemaakt buiten zijn academische aanstelling.