De “kunstmatige intelligentie -boom” in de technische industrie heeft allerlei soorten apps en diensten voortgebracht. Chatgpt, een chatbot, populariseerde de technologie onder de massa, dus soortgelijke producten – maar met verschillende benaderingen – te floreren. Character.ai, een platform voor ‘praten’ met AI-aangedreven personages, is zo’n service. Het lijkt er echter op dat Google noch Apple erg blij waren met wat het personage.ai -app was in de begindagen.
Zoals de naam al doet vermoeden, biedt Character.AI een breed scala aan ‘personages’ aangedreven door het AI -model van het bedrijf. Personages kunnen origineel zijn of zelfs representaties van anderen die aanwezig zijn in populaire films, tv -programma’s, videogames of boekfranchises. Met het platform kunnen gebruikers hun eigen “AI -persona’s” maken waarmee anderen kunnen communiceren.
Google en Apple vroegen strengere filters voor de personage.AI -app omdat ze ongepast waren voor tieners
In de afgelopen jaren klagen gebruikers over steeds sterke censuurfilters. Volgens een rapport uit de informatie is dit te wijten aan verzoeken van zowel Apple als Google, die zich zorgen maakten over het gebruik van tieners.
Blijkbaar stond Character.Ai aanvankelijk ongepaste gespreksonderwerpen toe voor tieners. Voor een deel hielp dit een plotselinge enorme toename in populariteit voor de dienst. Naarmate de tijd verstreek, begonnen gesprekken echter fouten of waarschuwingen over meer woorden en onderwerpen te activeren vanwege nieuwe censuurfilters.
De informatie beweert dat Apple en Google het bedrijf aanspoorden om strengere filters in te stellen. Apple ging nog een stap verder door personage te hebben. AIM verhoogde zijn leeftijdsbeoordeling tot +17 in de App Store. Beide tech -reuzen waren niet de enige die zich zorgen maakten over de mogelijke effecten van gesprekken op jongeren. De bron zegt dat zelfs karakter.AI -werknemers intern gerelateerde zorgen hebben opgebracht.
Google heeft het personage.AI -leiderschapsteam in augustus 2024 overgenomen, dat mogelijk de setting van nog strengere filters aanspoorde. De Mountain View Giant wilde dat de service zo veilig mogelijk was voor tieners.
Karakter.ai controverses in 2024
Karakter.ai was vorig jaar twee keer verwikkeld in controverse. Een van de zaken betrof de dood van een 14-jarige. Blijkbaar bracht de persoonlijke situaties van Sewell Setzer hem ertoe geobsedeerd te raken door een AI-aangedreven weergave van Daenerys Targaryen, een van de hoofdpersonen van de Game of Thrones-franchise. Megan Garcia, de moeder van Setzer, klaagde zowel Google als Character.Ai -oprichters Noam Shazeer en Daniel de Freitas aan.
De tweede rechtszaak, in december ingediend, beweerde dat het platform minderjarige gebruikers toestond “Gericht op seksueel expliciet, gewelddadig en anderszins schadelijk materiaal, misbruikt, verzorgd en zelfs aangemoedigd om gewelddaden te plegen voor zichzelf en anderen. “
