Contentmoderatie en de handhaving ervan op Threads en Instagram zijn niet goed, geeft Instagram-hoofd Adam Mosseri toe. Dit volgt op meerdere berichten op de sociale media-apps van Meta die willekeurig zijn gemarkeerd vanwege vermeend twijfelachtige of aanstootgevende inhoud.
De handhaving van de threadmoderatie is niet in orde, accepteert Mosseri
Meerdere gebruikers van sociale media hebben zich uitgesproken over overdreven voorzichtige technieken voor het modereren van inhoud op Threads en Instagram. Het lijkt erop dat ze geen ongelijk hadden toen ze aannamen dat de moderatiehandhaving op deze platforms niet wordt nageleefd.
Het hoofd van Instagram Adam Mosseri heeft erkend dat de moderatietechnieken van Meta en het handhavingsbeleid van het bedrijf vreemd werken. Dit vreemde gedrag doet zich al een paar dagen voor. Hoewel verschillende gebruikers twijfels hebben geuit, waren de incidenten tamelijk geïsoleerd.
Volgens De randMeta verwijderde het account van een personeelslid en beweerde dat modeteams vermoedden dat het toebehoorde aan een minderjarige gebruiker. De socialemediagigant heeft naar verluidt ook een ander account geblokkeerd vanwege een grap.
De afgelopen twee dagen is het aantal dergelijke incidenten snel toegenomen, waardoor ‘Threads Moderation Failures’ de trend is geworden. Het is interessant om op te merken dat Mosseri rechtstreeks op sommige klachten reageert. In een van de berichten zei hij dat hij ‘ernaar onderzoekt’.
Waarom is Meta plotseling begonnen met het vergrendelen of verwijderen van accounts?
Mosseri heeft toegegeven dat Meta problemen heeft met processen waarbij gematigdheid een rol speelt. Hij plaatste de erkenning zelfs publiekelijk op Threads.
De baas van Instagram en Threads heeft verklaard dat er een “tool” kapot is gegaan. Hij voegde eraan toe dat de tool menselijke recensenten niet “voldoende context” liet zien voordat ze berichten en accounts lieten verdwijnen.
Met andere woorden: Meta heeft toegegeven dat het nog steeds sterk afhankelijk is van menselijke moderatieteams. Volgens Mosseri beslissen mensen wat ze willen verwijderen en wie ze moeten verbieden, en markeert kunstmatige intelligentie alleen maar berichten voor mogelijke handhavingsmaatregelen.
Na de bekentenis van Mosseri lijkt de moderatie op Threads en Instagram te zijn verbeterd. Meta heeft stilletjes vergrendelde en verbannen accounts hersteld, en verschillende verwijderde berichten zijn opnieuw verschenen. Wat zorgwekkend is, is dat Meta een zeer korte notitie blijft plaatsen over verwijderde inhoud of vergrendelde accounts, wat geen goede verklaring biedt voor de acties.
