Character.AI voert grote veranderingen door om tienergebruikers veilig te houden. Volgens een blogpost van het bedrijf heeft Character.AI verschillende nieuwe functies toegevoegd om tieners veilig te houden op het platform en zal binnenkort ouderlijk toezicht uitrollen, waardoor ouders veel meer toezicht krijgen. Het bedrijf zegt dat deze maatregelen ongepaste inhoud zullen blokkeren en de algehele ervaring veiliger zullen maken.
Een moeder heeft onlangs Character.AI aangeklaagd en beschuldigd van de zelfmoord van haar 14-jarige zoon.
Character.AI heeft een aparte LLM voor gebruikers onder de 18 jaar
Character.AI heeft zijn LLM voor tienergebruikers bijgewerkt. Het heeft een apart groottaalmodel (LLM) gecreëerd voor gebruikers jonger dan 18 jaar. Deze LLM identificeert ongepaste reacties, vooral op gevoelige onderwerpen zoals romantiek of zelfbeschadiging, en blokkeert deze.
Het platform zal ook een specifieke pop-up tonen die gebruikers naar de National Suicide Prevention Lifeline leidt als de LLM taal identificeert die verwijst naar zelfbeschadiging of zelfmoord. De nieuwe veranderingen zullen het een vriendelijkere en veiligere plek voor tieners maken.
Het heeft ook voorkomen dat kleine gebruikers reacties op de chatbots kunnen bewerken. Eerder konden gebruikers bewerken wat de bots zeiden, maar tieners kunnen de gesprekken niet meer wijzigen. Dit maakt deel uit van de inspanningen van het bedrijf om te voorkomen dat ongepaste inhoud aan chats wordt toegevoegd.
Waarom zijn deze nieuwe wijzigingen nodig voor Character.AI?
Deze veranderingen zijn nodig om tieners te beschermen tegen schadelijke gesprekken. Het zal helpen bij het creëren van een veilige omgeving voor een kleinere leeftijdsgroep. De veranderingen worden doorgevoerd samen met “verschillende online veiligheidsexperts voor tieners”, waaronder de organisatie ConnectSafely.
Het bedrijf voegt ook nieuw ouderlijk toezicht toe waarmee ouders kunnen zien hoeveel tijd hun kind aan Character.AI besteedt en met welke AI-chatbots ze het meest communiceren. Het nieuwe ouderlijk toezicht zal beschikbaar zijn in het eerste kwartaal van 2025.
Het bedrijf zal ook een tijdslimietfunctie introduceren: het zal gebruikers na een uur chatten met een bot op de hoogte stellen om een pauze te nemen. Deze functie voorkomt verslaving aan het platform en zorgt voor gezonde gebruiksgewoonten.
“Wij streven ernaar een veilige omgeving voor al onze gebruikers te creëren. Om aan deze belofte te voldoen, erkennen we dat onze benadering van veiligheid moet evolueren naast de technologie die ons product aandrijft – een platform creëren waar creativiteit en onderzoek kunnen gedijen zonder de veiligheid in gevaar te brengen.” Character.AI zei in een blogpost.
