Om ervoor te zorgen dat tieners een veiligere interactie met AI hebben, heeft Meta nieuwe middelen voor ouders aangekondigd op platforms zoals Facebook en Instagram. Het nieuwste Meta AI-ouderlijk toezicht omvat nu de mogelijkheid om de één-op-één interactie van tieners met AI-personages die beschikbaar zijn op genoemde sociale mediaplatforms, af te sluiten of er toegang toe te krijgen. Deze komen als aanvullende beschermingsmaatregelen naast wat Meta al biedt met zijn Teen Accounts.
In de blogpost merkt Meta op dat dit nieuwe toezichtinstrumenten voor ouders zijn. Het is om “Help hen weloverwogen beslissingen te nemen over de AI-personages waarmee hun tieners chatten.” Voor niet-ingewijden biedt het bedrijf naast de traditionele Meta AI-assistent ook AI-personages om mee te communiceren.
Met de toezichttools kunnen ouders de toegang van hun tieners tot de AI-personages volledig afsnijden, waardoor tieners niet langer één-op-één kunnen chatten. Als alternatief kunnen ouders ook specifieke AI-tekens blokkeren in plaats van de volledige toegang uit te schakelen.
Bovendien kunnen ouders ook inzicht krijgen in de onderwerpen waarmee de tieners omgaan met de AI-personages. Het doel hier is om ouders bewust te maken en nuttige gesprekken te voeren met hun tieners over AI-interacties.
Deze inzichten omvatten niet alleen de interactie van AI-personages, maar ook interacties met de Meta AI-assistent. Dit laatste is beschikbaar voor tieners om nuttige informatie te verstrekken en wordt gebruikt voor educatieve mogelijkheden met voor hun leeftijd passende bescherming.
AI-personages zullen zich niet bezighouden met leeftijdsongepaste discussies
Naast de nieuwe toezichtcontroles voor ouders met betrekking tot de AI-personages, merkt Meta op dat deze karakters dat ook zijn “ontworpen om niet deel te nemen aan leeftijdsongepaste discussies over zelfbeschadiging, zelfmoord of eetstoornissen met tieners, of gesprekken die deze onderwerpen aanmoedigen, promoten of mogelijk maken.”
Ze zijn verder ontworpen om veilig op de genoemde onderwerpen te reageren en tieners door te verwijzen naar deskundige bronnen die beschikbaar zijn voor ondersteuning.
Om ervoor te zorgen dat ouders meer controle over hun tieners hebben, kunnen ze de tijdslimieten voor de AI-karakterinteractie instellen. Ze kunnen de interactietijd ook instellen op slechts 15 minuten per dag. En voor sommige tieners die van plan zijn deze bescherming te omzeilen, zegt Meta dat het AI-technologie zal gebruiken om ervoor te zorgen dat ze nog steeds tieners zijn, zelfs als ze zich als volwassenen gedragen.
Hoewel deze nieuwe toezichtcontroles zich nog in de bouwfase bevinden, merkt het bedrijf op dat deze begin volgend jaar voor het eerst het levenslicht zullen zien, te beginnen met Instagram. De uitrol is eerst gepland voor de Engelse taal, te beginnen met de VS, het VK, Canada en Australië.
De nieuw aangekondigde toezichtinstrumenten lijken op zijn zachtst gezegd handig. Een recent onderzoek van de FTC naar technologiebedrijven zou echter de reden kunnen zijn geweest voor de introductie van deze nieuwe toezichtinstrumenten, meldt CNBC. Het onderzoek ging over de impact van AI-chatbots op de schade aan kinderen en tieners.
Eén zo’n geval deed zich in augustus voor. Volgens Reuters waren de chatbots van Meta betrokken bij het voeren van romantische en seksuele gesprekken met kinderen. Hoewel het bedrijf wijzigingen heeft aangebracht in zijn AI-beleid, zullen deze nieuwe updates waarschijnlijk de zaken op hun plaats houden met ouderlijk toezicht. Deze lijken veelbelovend nadat Meta druk bezig is geweest met het vrijgeven van functies, vooral de recente, door AI aangedreven functies voor bijvoorbeeld Facebook Reels.
Aan de andere kant heeft Meta buitengewone resultaten geboekt als het gaat om de verkoop van zijn populaire Ray-Ban slimme brillen. Het moederbedrijf EssilorLuxottica heeft onlangs een omzetstijging van 11,7% op jaarbasis gerapporteerd.
