Apple is bezorgd dat AI-fotobewerking gebruikers zal misleiden

Apple heeft groeiende zorgen geuit over de impact van kunstmatige intelligentie (AI) op fotobewerking en de mogelijke erosie van het vertrouwen in afbeeldingen. Tijdens een recent interview met The Wall Street Journal ging Apple’s softwarechef Craig Federighi in op het standpunt van het bedrijf, vooral nu AI-technologie steeds gangbaarder wordt. Federighi besprak Apple’s benadering van AI, en specifiek hoe Apple van plan is om met beeldbewerkingsfuncties om te gaan in de komende iOS 18.1-update.

Apple is bezorgd dat AI-foto’s het vertrouwen kunnen aantasten

Apple’s iOS 18.1, dat binnenkort uitkomt, introduceert een nieuwe functie genaamd ‘Clean Up’. Met deze tool kunnen gebruikers ongewenste objecten en mensen uit afbeeldingen verwijderen. Hoewel de functie minder geavanceerd is dan de AI-aangedreven tools van sommige concurrenten, blijft Apple voorzichtig met de manier waarop dergelijke technologie de publieke perceptie van foto’s verandert. Federighi benadrukte dat het bedrijf heeft gedebatteerd over de implicaties van deze functie, als weerspiegeling van de bezorgdheid van Apple over AI-foto’s en hun impact op de authenticiteit.

In tegenstelling tot bedrijven als Google en Samsung, die AI-tools aanbieden die gegenereerde assets aan afbeeldingen kunnen toevoegen, is Apple’s Clean Up terughoudender. “De vraag naar mensen om irrelevante details te verwijderen zonder de betekenis van de foto te veranderen is erg groot”, zegt Federighi. Hij voegde er echter aan toe dat de aanpak van Apple voorzichtig blijft om ervoor te zorgen dat gebruikers niet afhankelijk zijn van AI om onrealistische inhoud te creëren.

Federighi benadrukte een dieper liggend probleem met betrekking tot het vertrouwen van het publiek in beelden. Naarmate hulpmiddelen voor kunstmatige intelligentie steeds gebruikelijker worden, nemen de zorgen toe over de manier waarop mensen bewerkte beelden waarnemen. Apple maakt zich vooral zorgen over AI-foto’s en de mogelijkheid dat mensen bewerkte foto’s zien als een minder betrouwbare weergave van de werkelijkheid.

Concurrenten hebben al AI-tools uitgebracht die afbeeldingen aanzienlijk kunnen manipuleren. Met de Reimagine-functie van Google kunnen gebruikers bijvoorbeeld objecten toevoegen en zelfs geheel nieuwe scènes maken met slechts een tekstprompt. Apple slaat echter een andere weg in en richt zich op het behouden van het vertrouwen in de authenticiteit van foto’s.

De rol van AI-foto’s in desinformatie

Apple heeft een taggingsysteem geïmplementeerd om de kans op verkeerde informatie aan te pakken. Foto’s die met de tool Opschonen zijn bewerkt, krijgen het label ‘Aangepast met opschonen’ weergegeven, wat aangeeft dat de afbeelding is gewijzigd. Deze stap biedt transparantie met betrekking tot door AI bewerkte foto’s en benadrukt de zorgen over hun potentiële rol bij het verspreiden van valse of misleidende inhoud.

Thijs Van der Does