Kindveiligheid en privacy zijn een van de grootste zorgen van een AI -chatbot. Meta is onlangs zelfs blootgesteld voor het gebruik van zijn chatbot -gebruik expliciete taal voor minderjarigen. Nu, in een nieuwe risicorecensie, is Google’s Gemini bestempeld met een ‘hoog risico’ -tag voor kinderveiligheid. De beoordeling suggereert dat het een aanzienlijk gevaar vormt voor kinderen en tieners.
Google’s Gemini wordt geconfronteerd met een ‘hoog risico’ -tag voor de veiligheid van kinderen
Common Sense Media, een organisatie zonder winstoogmerk die media en technologie voor de veiligheid van kinderen beoordeelt, heeft de beoordeling van Gemini vrijgegeven. Volgens het rapport lijken Gemini’s “Under 13” en “Teen Experience” -modi grotendeels op de volwassen of volwaardige versie. Beide modi worden verondersteld ‘kindvriendelijk’ te zijn, terwijl ze in werkelijkheid niets anders zijn dan de originele versie met enkele extra filters die zijn gelaagd.
Het rapport voegt echter eraan toe dat Gemini de minderjarigen vermeldt dat het een “computer” is en geen “vriend”. Maar experts beweren dat deze aanpak nog steeds onvoldoende is. De veiligheid van kinderen moet vanaf de grond worden geïntegreerd, niet als een bijzaak worden behandeld.
Gemini wordt beschuldigd van het delen van ongepaste en onveilige materialen met kinderen
De beoordeling benadrukt dat, ondanks het feit dat een speciale modus voor minderjarigen, Gemini nog steeds inhoud kan delen die ongepast en onveilig is. Het heeft geen bredere beperking van de levering van inhoud. Het kan nog steeds informatie leveren waar de kinderen niet klaar voor zijn, zoals drugs, seks of alcohol.
Terwijl hij Gemini’s fouten benadrukt, merkt Common Sense Media op dat Google de fundamentele pijlers over het hoofd heeft gezien die nodig zijn om een hulpmiddel voor kinderen en tieners te ontwerpen. De versie van Gemini van de minderjarige negeert het feit dat een jonger publiek verschillende begeleiding en behandeling nodig heeft dan volwassenen. Het rapport markeert uiteindelijk de Gemini van Google met een ‘hoog risico’ -tag in termen van kinderveiligheid.
Als een AI een rol wil spelen in het dagelijkse leven van kinderen, moet deze worden ontworpen met hun ontwikkelingsbehoeften in gedachten, in plaats van achtergestelde versies van volwassen producten, suggereren experts. Tot die tijd moeten ouders misschien voorzichtig blijven over hoe deze tools thuis worden gebruikt.
