YouTube breidt zijn trackingtool uit, die is ontworpen om makers te helpen AI-deepfake-video’s te identificeren en te verwijderen die misbruik maken van hun gelijkenis. De functie heeft echter ook aanleiding gegeven tot zorgen met betrekking tot gegevensprivacy en de bredere ambities van Google op het gebied van kunstmatige intelligentie. Het systeem maakt gebruik van biometrische tracking om gemanipuleerde video’s te identificeren en te markeren. Experts hebben gewaarschuwd voor het verband met het onduidelijke privacybeleid van Google.
De tool voor het detecteren van gelijkenissen van YouTube scant geüploade video’s om te identificeren of het gezicht van een maker is gewijzigd of synthetisch is gegenereerd, zodat de maker om verwijdering kan verzoeken. Creators moeten hun geverifieerde overheids-ID en een biometrische video indienen om de functie in te schakelen. Deze specifieke eis heeft deskundigen op het gebied van intellectuele eigendom ongerust gemaakt. Ze waarschuwen dat het bredere privacybeleid van Google technisch gezien openbare biometrische informatie toestaat ter ondersteuning van modeltraining.
YouTube houdt daarentegen vol dat Google deze gegevens nooit heeft gebruikt om AI-modellen te trainen. Critici beweren dat het koppelen van biometrische uploads aan een algemeen privacybeleid ruimte laat voor toekomstig misbruik. Bedrijven als Vermillio en Loti, die gelijkenisrechten helpen beschermen, zeggen dat de risico’s aanzienlijk zijn en adviseren makers momenteel om zich niet in te schrijven voor het gelijkenisdetectiesysteem. Interessant genoeg waarschuwen de bedrijven ook dat het koppelen van de naam van een maker aan biometrische monsters van hoge kwaliteit overtuigender synthetische inhoud mogelijk zou kunnen maken, wat behoorlijk zorgwekkend is.
YouTube maakt zijn standpunt duidelijk door te zeggen dat de functie optioneel is
YouTube benadrukt dat de functie optioneel is om te gebruiken. Makers kunnen ervoor kiezen zich niet in te schrijven als ze dat willen, en alle gegevens zijn strikt beperkt tot identiteitsverificatie. De technologiegigant voegt er ook aan toe dat de uitrol noodzakelijk is om de toenemende deepfake-video’s en het misbruik ervan tegen te gaan. De populaire maker en arts Mikhail Varshavski, bekend als Doctor Mike, zegt dat hij elke week tientallen door AI gegenereerde video’s beoordeelt, waarvan sommige valse medische claims promoten met behulp van zijn imago.
AI-tools zoals Veo 3 en Gemini worden steeds geavanceerder. De nieuwste versie van deze tools is zo krachtig dat het bijna onmogelijk is om het door AI gegenereerde resultaat op het eerste gezicht te onderscheiden. Hoe dan ook, het huidige inschrijvingspercentage van het gelijkenisdetectiesysteem van YouTube is laag. Dit laat zien dat de makers nog geen vertrouwen hebben in het gebruik van de functie. Voorstanders zeggen dat makers de voordelen van bescherming moeten afwegen tegen de langetermijnrisico’s van het overhandigen van biometrische gegevens.
