Apple en Google staan opnieuw in de schijnwerpers nadat een nieuw rapport AI-aangedreven nudify-apps op hun platforms onthult. Wat zorgwekkend is, is dat veel van deze apps zelfs zonder toestemming normale foto’s kunnen maken en naaktfoto’s kunnen maken. De bevinding roept zorgen op over privacy, veiligheid en duidelijk toezicht door technologiegiganten op hun app-winkels.
Een nieuw rapport onthult talloze nudify-apps op de marktplaats van Google en Apple
Een studie gepubliceerd door Project voor technische transparantieeen non-profitorganisatie die digitale risico’s in kaart brengt, laat een duidelijk geval van toezicht door Google en Apple zien. Om te beginnen doorzochten de onderzoekers de Apple App Store en Google Play Store op termen die verband hielden met uitkleedfoto’s. Wat schokkend is, is dat ze talloze apps hebben gevonden die AI gebruiken om kleding te verwijderen of gezichten op naakte lichamen te wisselen. Uit een uitgebreide test blijkt verder dat de apps duidelijk zijn gebouwd voor geseksualiseerde resultaten, en niet voor eenvoudige fotobewerking of wijzigingen.
Nadat Apple over dergelijke apps was geïnformeerd, zei het dat het verschillende apps had verwijderd en hun respectieve ontwikkelaars had gewaarschuwd. Sommige apps mochten terugkeren naar de App Store nadat de vereiste wijzigingen waren aangebracht. Google daarentegen zei dat het meerdere apps heeft opgeschort terwijl de beoordelingen doorgaan. Beide bedrijven benadrukken dat ze tegen de apps zijn die seksuele beelden creëren en daartegen actie zullen blijven ondernemen.
De merken kwamen te laat met actie
Critici zeggen dat de merken te laat waren met het verwijderen van de apps van hun platforms. Om je een idee te geven: sommige apps zijn miljoenen gedownload en genereerden grote hoeveelheden inkomsten. Rapporten als deze stellen het concept van privacy en toestemming in de evoluerende digitale ruimte in vraag. xAI kreeg onlangs te maken met terugslag nadat zijn chatbot Grok geseksualiseerde beelden produceerde. Het bedrijf beperkte de tool pas na de reactie.
Verschillende overheden en gebruikers wereldwijd zijn al tegen elke app of dienst die geseksualiseerde afbeeldingen maakt. De meeste bedrijven ondernemen echter alleen actie als ze te maken krijgen met tegenreacties of als er over dergelijke apps wordt gerapporteerd. Dit moet zo snel mogelijk door de bedrijven worden opgelost.
