Amazon heeft onlangs materiaal over seksueel misbruik van kinderen (CSAM) gerapporteerd terwijl het AI-trainingsgegevens beoordeelde aan het National Center for Missing and Exploited Children. De officiële autoriteit ontving meer dan een miljoen meldingen met betrekking tot de CSAM, en een groot deel daarvan werd alleen door Amazon gerapporteerd. Sommige critici hebben echter vragen gesteld over het gebrek aan duidelijke details in het officiële rapport van het bedrijf.
Amazon rapporteert CSAM in AI-trainingsgegevens aan de kinderveiligheidsautoriteit
Een onderzoek gerapporteerd door Bloomberg onthult dat het National Center for Missing and Exploited Children in 2025 meer dan een miljoen AI-gerelateerde CSAM-rapporten ontving. De meeste van die rapporten kwamen van Amazon. De technologiegigant zei dat het het materiaal had gedetecteerd tijdens het scannen van gegevens van externe bronnen die werden gebruikt om zijn AI-systemen te trainen. Het bedrijf verklaarde verder dat het de bron van de inhoud niet kon identificeren.
De functionarissen van NCMEC zeggen dat het aantal rapporten van Amazon opviel. De uitvoerend directeur, Fallaon McNuty, voegt eraan toe dat andere bedrijven doorgaans voldoende details verstrekken zodat de wetshandhaving kan optreden. Amazon slaagde er echter niet in de broninformatie bij te voegen, waardoor de rapporten moeilijk te gebruiken waren. Ze zegt verder dat dit serieuze vragen oproept over de manier waarop AI-trainingsgegevens worden verzameld. Het rapport benadrukt ook de noodzaak van goede veiligheidscontroles en hoe deze op verschillende platforms kunnen worden gebruikt.
De toenemende vraag naar AI onderstreept de noodzaak van goede wetshandhaving
Om zijn standpunt te verduidelijken zegt Amazon dat het brede scanregels heeft gebruikt bij het beoordelen van trainingsgegevens. Deze methode kan soms tot veel valse positieven leiden. Ook zegt het bedrijf geen bewijs te hebben gevonden dat CSAM is gebruikt bij het trainen van zijn AI-model. Bovendien zegt de gigant dat het rapporten via een apart systeem heeft ingediend, omdat de gegevens afkomstig zijn van derden en geen details op gebruikersniveau bevatten.
Amazon zegt dat het zich blijft inzetten voor het responsieve gebruik en de ontwikkeling van AI en bescherming van de kinderveiligheid. Bovendien is dit niet de eerste keer dat de morele waarden van AI-bedrijven en -ontwikkelaars in twijfel worden getrokken. Er zijn verschillende rechtszaken aangespannen tegen bedrijven, waaronder OpenAI, Character.AI en Meta, wegens gerelateerde misdrijven.
