Californië heeft officieel een juridisch front geopend tegen het AI-bedrijf van Elon Musk, xAI, na berichten dat zijn chatbot, Grok, is gebruikt om niet-consensuele seksueel expliciete beelden te genereren. Procureur-generaal Rob Bonta leidt het onderzoek, waarbij gouverneur Gavin Newsom ondersteuning biedt. Het markeert de eerste belangrijke actie van de Amerikaanse overheid tegen het platform vanwege de creatie van deepfake-beelden waarbij vrouwen en minderjarigen betrokken zijn.
Er wordt onderzoek gedaan naar de xAI van Elon Musk vanwege het genereren van niet-consensuele AI-deepfakes
Het onderzoek concentreert zich op beschuldigingen dat de beeldgeneratietools van Grok gebruikers in staat stellen bestaande foto’s van mensen te maken en deze digitaal te veranderen in suggestieve of expliciete situaties zonder hun toestemming. Staatsfunctionarissen maken zich vooral zorgen over een ‘pittige modus’ binnen de app. Ze beweren dat Musk Grok op een manier op de markt brengt die de productie van expliciete inhoud aanmoedigt. Uit een door het kantoor van de procureur-generaal aangehaalde analyse bleek dat een duizelingwekkend aantal afbeeldingen die eind 2025 gedurende één week werden gegenereerd, mensen in minimale kleding afbeeldde. Sommige van deze personen leken kinderen te zijn.
Elon Musk heeft publiekelijk ontkend dat Grok illegale inhoud genereert. In een bericht op X verklaarde ik dat hij op de hoogte was van “letterlijk nul” naakte minderjarige afbeeldingen gemaakt door de chatbot. Grok kan geen foto’s maken van naakte mensen. Het kan ze echter nog steeds op suggestieve manieren in een zwempak stoppen. Hij voerde verder aan dat Grok deze afbeeldingen niet spontaan maakt, maar alleen handelt op basis van specifieke gebruikersverzoeken. Juridische experts suggereren echter dat deze verdediging voor uitdagingen in de rechtbank kan komen te staan.
Sectie 230 beschermt platforms doorgaans tegen aansprakelijkheid voor wat gebruikers op hun accounts plaatsen. Maar velen beweren dat, aangezien het eigen model van xAI degene is die de afbeeldingen fysiek maakt, het bedrijf verantwoordelijk zou moeten zijn voor de output.
Van Californië tot Groot-Brittannië
Californië is niet de enige plaats waar Grok de gevolgen ervaart. Federale wetgevers en belangengroepen roepen nu technologiegiganten als Apple en Google op om X en Grok uit hun respectievelijke app-winkels te verwijderen. Buiten de Verenigde Staten is de druk nog groter. Internationale toezichthouders in het Verenigd Koninkrijk, Maleisië en Indonesië hebben al hun afkeer geuit of verboden ingevoerd. Groot-Brittannië waarschuwt zelfs dat X zijn recht op zelfregulering zou kunnen verliezen als het zijn AI-instrumenten niet kan controleren.
X heeft onlangs de toegang beperkt tot betalende abonnees en bepaalde toestemmingen voor het genereren van afbeeldingen beperkt als reactie op de groeiende reactie. Sommigen suggereren echter dat, hoewel deze afbeeldingen minder zichtbaar zijn voor het publiek, gebruikers met de zelfstandige app en website van Grok nog steeds controversiële inhoud in privé kunnen maken.
