Google onderneemt stappen om een van de grootste zorgen in het AI-tijdperk aan te pakken. Het gebruik van gemanipuleerde afbeeldingen voor kwaadaardige doeleinden staat al een tijdje op de radar van bedrijven. Nu zet Google een nieuwe stap richting transparantie in het gebruik van generatieve AI.
Er zijn nog steeds mensen die aarzelen om kunstmatige intelligentie te gebruiken om afbeeldingen te genereren. Sommige kunstenaars geloven bijvoorbeeld dat AI-aangedreven diensten hun werk van het internet stelen zonder hun toestemming, terwijl anderen zich zorgen maken over het mogelijke misbruik van gemanipuleerde afbeeldingen. Daarom hebben de grote namen in het segment een uitdagende taak voor zich om het publiek te overtuigen.
Verbeterde ‘Over deze afbeelding’ van Google moet meer transparantie bieden over door AI gegenereerde afbeeldingen
In lijn hiermee implementeert Google tools voor meer transparantie met betrekking tot de herkomst van afbeeldingen, inclusief die gegenereerd door AI-services. Eerder dit jaar sloot het bedrijf zich aan bij het Coalition for Content Provenance and Authenticity (C2PA)-comité. Sindsdien helpen ze technologieën te ontwikkelen die helpen het ‘spoor’ van afbeeldingen op internet te identificeren. Nu biedt een nieuwe blogpost van het bedrijf updates.
In de komende maanden krijgen de zoekresultaten van Google een verbeterde functie ‘Over deze afbeelding’. Het bedrijf gaat C2PA-metadata implementeren om de functie krachtiger te maken. C2PA-metadata kan aangeven of een afbeelding afkomstig is van AI, is bewerkt of rechtstreeks afkomstig is van een camera. De functie ‘Over deze afbeelding’ kon al door AI gegenereerde afbeeldingslabels weergeven. De integratie met C2PA-metadata stelt het echter in staat om meer informatie over de oorsprong van de afbeelding te tonen.
Verbeteringen mogelijk gemaakt door de standaard van C2PA
Als u het niet weet, de standaard van C2PA bevat een reeks technische gegevens die een spoor van de oorsprong van een afbeelding vormen. Grote namen als Google, Amazon, OpenAI, Microsoft, Adobe, Intel en Arm hebben de standaard allemaal onderschreven. De implementatie in hun belangrijkste tools is echter wat traag verlopen. De zet van Google zou andere bedrijven kunnen inspireren om in dit opzicht actie te ondernemen.
Er zijn nog steeds enkele technische beperkingen aan de massale implementatie van C2PA-metadata. Wat betreft de camerahardware ondersteunen momenteel slechts enkele Leica- en Sony-modellen het. Nikon- en Canon-camera’s zullen naar verwachting in de toekomst ook compatibel zijn. Verder is er nog steeds geen nieuws over ondersteuning op Android- en iOS-apparaten. Wat betreft de software blijven belangrijke bewerkingstools niet ondersteund. Adobe’s Photoshop en Lightroom ondersteunen bijvoorbeeld C2PA-standaarden, terwijl andere zoals Affinity Photo of Gimp dat nog niet doen. Bovendien kunnen nog niet alle sociale platforms door AI gegenereerde labels weergeven.
Over het geheel genomen is het slechts een kwestie van tijd voordat er massale acceptatie van standaarden en wetgeving voor AI plaatsvindt. LLM’s veroverden de wereld stormenderhand en ontwikkelden zich sneller dan wetgevers en standaardontwikkelaars. Begin augustus 2024 werd de eerste EU AI Act vastgesteld.
