OpenAI CEO Sam Altman heeft zojuist een belangrijke verschuiving aangekondigd voor het populaire AI-aangedreven ChatGPT-platform: de chatbot zal binnenkort inhoud kunnen genereren, inclusief erotica, voor geverifieerde volwassen gebruikers. Deze stap, onderdeel van een bredere strategie, duidt op een opmerkelijke versoepeling van de klassieke inhoudsbarrières van de dienst.
Altman onthulde het plan op sociale media. Hij verklaarde dat OpenAI, als onderdeel van het principe ‘behandel volwassen gebruikers als volwassenen’, tegen december een uitgebreidere leeftijdsbeperking zal uitrollen. Zodra de leeftijdsverificatie volledig is geïmplementeerd, is het bedrijf van plan “nog meer toe te staan, zoals erotica voor geverifieerde volwassenen.”
ChatGPT staat “erotica” toe: de grondgedachte achter de beleidswijziging
Deze beslissing is rechtstreeks in tegenspraak met het huidige zeer restrictieve inhoudsbeleid van ChatGPT. De chatbot verbiedt in de meeste contexten specifiek Not Safe for Work (NSFW)-materiaal. Altman legde de aanvankelijke waarschuwing uit: de eerste versies van ChatGPT waren “behoorlijk restrictief gemaakt om ervoor te zorgen dat we voorzichtig waren met geestelijke gezondheidsproblemen”, vooral met betrekking tot jongere gebruikers.
De aanvankelijke strikte aanpak slaagde erin kwetsbare gebruikers te beschermen. Altman gaf echter toe dat de chatbot hierdoor “minder nuttig/plezierig werd voor veel gebruikers die geen geestelijke gezondheidsproblemen hadden.” Nu beweert het bedrijf dat nieuwe veiligheidsvoorzieningen en bijgewerkte tools hen in staat stellen “in de meeste gevallen de beperkingen veilig te versoepelen.” Dit opende effectief de deur voor meer persoonlijke en complexe interacties met volwassenen.
Concurreren op de gezelschapsmarkt
De beleidswijziging komt op een gevoelig moment voor de AI-gigant. OpenAI heeft te maken gekregen met toenemende druk van concurrenten als xAI van Elon Musk, dat al chatbot-metgezellen aanbiedt met “NSFW-ondersteuning” via Grok AI. Voor OpenAI, wiens omzetgroei cruciaal is, ondanks dat het nooit winstgevend is geweest. Het versoepelen van deze regels zou dus kunnen helpen meer betalende abonnees aan te trekken die op zoek zijn naar meer soorten interacties.
Dat gezegd hebbende, botst het streven naar groei nu al met de roep om regulering. OpenAI kwam onlangs onder meer toezicht te staan na een rechtszaak van een echtpaar uit Californië dat beweerde dat ChatGPT heeft bijgedragen aan de zelfmoord van hun 16-jarige zoon. Bovendien voert de Federal Trade Commission (FTC) momenteel een onderzoek uit naar verschillende technologiebedrijven, waaronder OpenAI, over mogelijke risico’s voor de geestelijke gezondheid van kinderen. Als reactie op deze zorgen kondigde het bedrijf tegelijkertijd een deskundigenraad op het gebied van welzijn en AI aan om zijn toekomstige veiligheidsaanpak te begeleiden.
Naast de inhoudelijke veranderingen bevestigde Altman ook dat een aankomende versie van de chatbot gebruikers in staat zal stellen de persoonlijkheid en toon ervan beter te dicteren. Gebruikers kunnen ChatGPT vertellen om op een “menselijke manier” te reageren, een specifieke toon te gebruiken of zich “als een vriend te gedragen”, wat de rol van het platform als veelzijdige metgezel versterkt.
