Dit jaar stonden socialemediabedrijven in de schijnwerpers van de autoriteiten. Rechtszaken hebben grote namen als Meta en TikTok getroffen omdat ze er niet in slaagden minderjarige gebruikers adequaat te beschermen. Onder alle druk hebben sommigen, zoals Instagram, strenge privacymaatregelen geïmplementeerd op tieneraccounts. Nu heeft Meta inzicht gegeven in zijn nieuwe, door AI aangedreven classificatiesysteem voor volwassenen.
Al maandenlang krijgen minderjarige accounts (gebruikers onder de 16 jaar) op Instagram het label ‘tieneraccount’. Profielen die als zodanig zijn gelabeld, hebben standaard de meest restrictieve privacybeperkingen. Dit moet voorkomen dat kinderen of tieners rechtstreeks contact opnemen met potentiële slechte acteurs of roofdieren. Omdat deze beperkingen de functies kunnen beperken, proberen sommige tieners deze mogelijk te omzeilen.
Meta biedt meer details over de AI-aangedreven classificatie voor volwassenen die Instagram zal krijgen
Eén manier waarop minderjarigen kunnen proberen de beperkingen op tieneraccounts te omzeilen, is door een nieuw profiel aan te maken met een valse geboortedatum. Met dat in gedachten kondigde Meta in september aan dat het een AI-aangedreven classificatietool voor volwassenen zal lanceren om dergelijke gevallen automatisch te detecteren. Nu heeft Allison Hartnett, Meta’s directeur productmanagement voor jongeren en sociale impact, meer details onthuld over hoe het zal werken.
Volgens Hartnett zal de tool meerdere parameters analyseren om een beslissing te nemen. Deze omvatten de accounts die een gebruiker in het bijzonder volgt en het type inhoud waarmee hij vaak communiceert. De systemen van Meta zullen ook op zoek zijn naar mogelijk verdacht gedrag bij het aanmaken van een nieuw Instagram-account, bijvoorbeeld door gebruik te maken van een e-mailadres dat is gekoppeld aan een bestaand profiel of zelfs door het verkrijgen van de apparaat-ID. Op deze manier kunnen ze een nauwkeuriger beslissing nemen over wie een nieuw profiel aanmaakt.
Meta’s AI-classificatie voor volwassenen kan accounts waarvan wordt vermoed dat ze tot minderjarigen behoren, als ’tieners’ bestempelen, waarbij automatisch alle beperkingen worden toegepast. Accounts met deze beperkingen kunnen niet worden verwijderd zonder voorafgaande toestemming van een ouder. Het bedrijf belooft een bezwaartool te bieden als het een account ten onrechte als ’tiener’ bestempelt. Er is echter nog geen datum voor de beschikbaarheid van de bezwaartool.
Instagram zal om geldige identiteitsbewijzen of door AI aangedreven gezichtsanalyse vragen wanneer ze de leeftijd proberen te veranderen
Er kunnen ook gevallen zijn waarin tieners proberen de beperkingen op te heffen door hun geboortedatum te wijzigen. Hier vraagt Instagram om een geldig, door de overheid uitgegeven identiteitsbewijs. Gebruikers krijgen ook de mogelijkheid om een selfievideo te uploaden via de technologie van Yoti. Deze laatste biedt geavanceerde AI-aangedreven herkenningsdiensten die zelfs de leeftijd van een persoon kunnen bepalen. Meta heeft zich al tot Yoti gewend om de leeftijd van gebruikers van de datingoptie van Facebook te verifiëren.
