Meta zal Instagram DM's (directe berichten) die naaktheid bevatten, vervagen. Daarnaast gaat het bedrijf tieners ook waarschuwen voor het steeds groter wordende gevaar van sextortion-zwendel.
Meta introduceert naaktheidswaarschuwingen en vervaagt DM's om tieners te beschermen
Instagram krijgt een broodnodige functie om tieners te beschermen tegen oplichting, uitbuiting en misbruik. Meta heeft aangekondigd dat het berichten met naaktafbeeldingen zal vervagen.
Om minderjarigen op het platform te beschermen tegen misbruik en seksueel uitbuitende oplichting, zal Meta gebruikers bovendien waarschuwen voor de gevaren van het uitwisselen van seksueel expliciete afbeeldingen.
Instagram introduceert een nieuwe functie die automatisch afbeeldingen detecteert en vervaagt die naaktheid bevatten en die via DM's naar tieners worden verzonden. pic.twitter.com/gLlpJkvsIE
— Popbasis (@PopBase) 11 april 2024
Meta rolt de twee functies wereldwijd uit. Voor gebruikers die jonger zijn dan 18 jaar is de beveiligingsoptie standaard ingeschakeld. Het is niet duidelijk of Instagram gebruikers onder de 18 jaar toestaat de functie en waarschuwingen uit te schakelen. Meta stuurt meldingen uit om volwassenen aan te moedigen de prompts in te schakelen.
Volgens De Wall Street Journal, Meta is begonnen met het automatisch detecteren van naaktfoto's in DM's. Deze functies zijn bedoeld om tieners en volwassenen te beschermen tegen de groeiende dreiging van sextortion (seksuele afpersing), beweerde Meta.
Hoe zal Meta naaktfoto’s herkennen, vervagen en gebruikers waarschuwen?
Meta beweert dat het ‘on-device machine learning’ gebruikt om te analyseren of een afbeelding die via de direct messaging-service van Instagram wordt verzonden naaktheid bevat. Met andere woorden: alle verwerking en detectie vindt plaats op het apparaat.
Meta heeft naar verluidt verzekerd dat het geen toegang zal hebben tot deze afbeeldingen. Gebruikers kunnen deze afbeeldingen echter altijd melden aan het bedrijf.
Nieuw:
* Naaktheidsbeschermingsfunctie in Instagram DM's
* Signalen om potentiële sextorters te detecteren en interactie tussen tieneraccounts te voorkomen
* Pop-upwaarschuwingen voor mensen die zich bezighouden met vermoedelijke afpersers
* Meer signaaluitwisseling vanuit de sector over sextortion via Lanternhttps://t.co/NcQCSQlGBs— Andy Steen (@andymstone) 11 april 2024
Als de instelling en waarschuwingen zijn ingeschakeld, zal Meta Instagram-gebruikers, die naaktfoto's ontvangen, een bericht presenteren waarin staat dat ze zich niet onder druk gezet moeten voelen om te reageren. In een aankondiging over de functie merkte Meta op:
“Deze functie is niet alleen ontworpen om mensen te beschermen tegen het zien van ongewenste naaktheid in hun DM’s, maar ook om hen te beschermen tegen oplichters die naaktfoto’s kunnen sturen om mensen te misleiden om in ruil daarvoor hun (eigen) afbeeldingen te sturen.”
Instagram gaat ook proactief proberen te voorkomen dat gebruikers een DM proberen te sturen met een naaktafbeelding. De melding waarschuwt hen voor de gevaren van het delen van gevoelige foto's. Bovendien ontvangen gebruikers die proberen een ontvangen naaktafbeelding door te sturen ook een waarschuwing.
