Als u eigenaar bent van het grootste sociale-mediaplatform ter wereld en AI-tools ontwikkelt waarmee gebruikers met chatbots kunnen communiceren alsof het echte mensen zijn, lijkt ouderlijk toezicht een vrij voor de hand liggende zet. Maar om de een of andere reden was Meta-CEO Mark Zuckerberg aanvankelijk tegen het idee om ouderlijk toezicht in te voeren op zijn AI-chatbots.
Mark Zuckerberg wilde geen ouderlijk toezicht
Volgens onlangs ontdekte interne metadocumenten die zijn ingediend in een rechtszaak in de staat New Mexico, had Mark Zuckerberg aanvankelijk het idee van ouderlijk toezicht en andere vangrails verworpen die zouden hebben voorkomen dat “kinderen het slachtoffer zouden worden van seksueel uitbuitende gesprekken met zijn AI-chatbots.”
Deze documenten werden onthuld als onderdeel van de rechtszaak die was aangespannen door de procureur-generaal van New Mexico, Raul Torrez. De rechtszaak beweert dat Meta er blijkbaar “niet in was geslaagd het tij van schadelijk seksueel materiaal en seksuele voorstellen aan kinderen te keren.”
Op basis van de interne communicatie van Meta hebben enkele veiligheidsmedewerkers van het bedrijf hun zorgen geuit. Dit komt omdat de AI-chatbots die Meta aan het ontwikkelen was, gericht waren op gezelschap. Dit omvat zowel romantische als seksuele interacties met gebruikers. In 2024 trok Ravi Sinha, hoofd van Meta’s kinderveiligheidsbeleid, de beslissing in twijfel. “Ik geloof niet dat het creëren en op de markt brengen van een product dat romantische AI’s voor U18 voor volwassenen creëert, raadzaam of verdedigbaar is.”
Hierna volgden berichten tussen twee medewerkers. In hun gesprek beweren ze dat Zuckerberg het creëren van ouderlijk toezicht op de chatbots heeft afgewezen.
Maar zijn deze beweringen juist?
Toegegeven, deze interne documenten komen vernietigend over. Er moet echter worden opgemerkt dat tot nu toe geen van deze berichten of memo’s bevat die door Zuckerberg zijn geschreven. Eén medewerker schreef in 2024 dat Zuckerberg eigenlijk vond dat AI-metgezellen uitgesloten moesten worden van seksueel expliciete gesprekken met jongere tieners. Ze zeiden ook dat volwassenen ook niet mogen communiceren met AI’s onder de 18 jaar voor romantische doeleinden.
Meta-woordvoerder Andy Stone beweerde ook dat de beweringen van de procureur-generaal gebaseerd waren op ‘selectieve informatie’. Stone zei: “Dit is het zoveelste voorbeeld van de manier waarop de procureur-generaal van New Mexico documenten uitkiest om een gebrekkig en onnauwkeurig beeld te schetsen.”
