Tijdens het Microsoft Ignite 2023-evenement presenteerde het bedrijf gelanceerd de maker van de Azure AI Speech-tekst-naar-spraak-avatar. Deze tool is momenteel beschikbaar voor publieke preview en de belangrijkste functie ervan is het creëren van deep fakes van mensen voor gebruik. Microsoft laat ook zien hoe gebruikers kunnen profiteren van deze nieuwe tool die ze toevoegen aan hun lijst met AI-aangedreven tools.
Met deze nieuwe deep fake-maker kunnen gebruikers video’s maken van mensen die praten door simpelweg een script te maken en de afbeelding van de persoon te uploaden. Nadat dit is gedaan, zal de AI aan de geleverde afbeelding werken en de persoon de woorden in het script laten uitspreken. Twee AI-modellen werken samen om deze nieuwe functie werkelijkheid te maken.
De één richt zich op de animatie, terwijl de ander zijn aandacht richt op de tekst-naar-spraak-kant van de zaak. Volgens Microsoft, deze nieuwe tool zal nuttig zijn voor bedrijven omdat ze “trainingsvideo’s, productintroducties en getuigenissen van klanten kunnen maken [and so on] gewoon met tekstinvoer.” Bedrijven die realistische virtuele assistenten of chatbots willen creëren, kunnen voor hulp terecht bij deze nieuwe functie.
Hoewel de tekst-naar-spraak-avatar van Microsoft Azure AI Speech er indrukwekkend uitziet, is deze zeer zorgwekkend
De afgelopen maanden zijn er wereldwijd klachten geweest over misbruik van AI. Oplichters en slechte acteurs hebben zich tot deze hulpmiddelen gewend om hun werk gemakkelijker voor hen te maken. Zonder de noodzakelijke regelgeving zijn deze gezamenlijk in staat geweest om miljoenen nietsvermoedende gebruikers weg te jagen.
Gewoon een paar dagen geleden, er werd een AI-model gebruikt om de stem van een populaire actrice te kopiëren voor een advertentie waar ze niets vanaf wist. Een paar maanden geleden hielp een AI-model bij het genereren van muziek onder de naam van populaire zangers. Dit zijn slechts enkele gevallen die misbruik aantonen van verschillende AI-tools die momenteel beschikbaar zijn voor gebruik.
Niemand zegt nu dat de tekst-naar-spraak-avatar van Microsoft Azure AI Speech er is om oplichting eenvoudiger te maken. Maar kan deze tool toegankelijk zijn voor deze oplichters en slechte actoren die misbruik zullen maken van het beoogde gebruik ervan? Het antwoord op die vraag is een volmondig ja, dus er moeten strenge regels komen voor het gebruik van deze nieuwe AI-tool van Microsoft.
Microsoft is zich bewust van de risico’s die dit met zich meebrengt nieuwe AI-tool kan poseren voor het publiek als het in handen komt van slechte acteurs. Om deze reden hebben bedrijven of andere gebruikers “expliciete schriftelijke toestemming” nodig om deze functie te gebruiken. Aan het einde van de video vereist Microsoft ook een openbaarmaking waarin duidelijk wordt vermeld dat de video door AI is gegenereerd.
Deze twee maatregelen kunnen ervoor zorgen dat oplichters en slechte acteurs geen misbruik maken van deze nieuwe functie. Bedrijven en gebruikers kunnen deze nieuwe functie nu uitproberen en bedenken hoe ze deze goed kunnen gebruiken. In de komende maanden zullen internetgebruikers te zien krijgen dat deze nieuwe functie ook in bedrijven en op andere gebieden wordt gebruikt.
