Na maanden van controverse en wereldwijde controle verbiedt Grok eindelijk de illegale pornogeneratie op het platform. X heeft bevestigd dat het Grok nu heeft beperkt in het produceren van materiaal met seksueel misbruik van kinderen en expliciete afbeeldingen zonder wederzijds goedvinden. Dit besluit volgt op mondiale kritiek, juridische bevelen van de overheid en internationale verboden op de manier waarop de AI-tool werd gebruikt.
Grok verbiedt eindelijk illegale porno en het expliciet genereren van afbeeldingen
Elon Musk’s socialemediabedrijf X bevestigt dat Grok niet langer niet-consensuele expliciete beelden kan genereren. Het bedrijf bestempelt de maatregel als een ‘veiligheidsmaatregel’, maar de beperkte reikwijdte ervan heeft vragen doen rijzen over de verantwoordelijkheid, handhaving en de toekomst van het genereren van AI-beelden.
Het probleem begon te escaleren toen sommige gebruikers Grok begonnen te gebruiken om pornografische afbeeldingen te genereren van echte foto’s, inclusief inhoud waarbij kinderen betrokken waren. Dit lokte waarschuwingen uit van de regeringen van verschillende landen en kritiek van de gebruikers. Maar ondanks dat bleef de functie toegankelijk. Elon Musk wuifde de zorgen aanvankelijk zelfs weg. Hij omschreef het systeem verder als ‘humoristisch’, voordat hij later misbruik helemaal ontkende.
Toen de illegale afbeeldingen steeds populairder werden, kwamen verschillende regeringen tussenbeide om de tool te reguleren. Indonesië en Maleisië hebben een Grok-verbod ingevoerd. Groot-Brittannië onderzocht de mogelijkheden van regelgeving om dit onder controle te krijgen, en Amerikaanse wetgevers vroegen zich verder af of bedrijven illegale porno mogelijk maken door niets te doen.
In een poging de zaken onder controle te krijgen, kondigde X later aan dat het Grok nu heeft beperkt om expliciete beeldcreatie waarbij echte mensen betrokken zijn, te voorkomen. Het bedrijf zei dat de wijzigingen van toepassing zijn op alle gebruikers, inclusief betalende abonnees. Het benadrukte verder dat het een nultolerantiebeleid volgt. De verandering was echter sterk gericht op naleving in plaats van op verantwoordelijkheid. Het benadrukt dat beperkingen mogelijk alleen van toepassing zijn in rechtsgebieden waar dergelijke productieactiviteiten illegaal zijn. Het is nog steeds onduidelijk of het verbod universeel is of gebaseerd is op geografie. Het bedrijf heeft ook geen onderscheid gemaakt tussen toegestane en beperkte inhoud.
