De FCC maakt zich zorgen over de maatschappelijke gevaren van politieke AI-robocalls. Jessica Rosenworcel, president van het agentschap, stuurde brieven naar negen grote telecommunicatiebedrijven. Het agentschap wil weten of bedrijven een plan hebben om dit soort oproepen aan te pakken.
Een politieke AI-robocall is een misleidingsmethode die om politieke redenen de acties van sommige sectoren van de bevolking probeert te beïnvloeden. De slechte actoren achter deze oproepen wenden zich tot AI-diensten om de stemmen van politieke figuren te imiteren. Vervolgens implementeren ze ze in geautomatiseerde telefoongesprekken met vooraf opgenomen audio om een nepbericht over te brengen. Deze methode kan de huidige en toekomstige verkiezingsprocessen beïnvloeden.
Politieke AI-robocalls hebben al invloed gehad op verkiezingsprocessen, en de FCC maakt zich zorgen
In feite is er al minstens één geval van deze stijl geweest. Verschillende kiezers hebben de Democratische voorverkiezingen in New Hampshire overgeslagen vanwege een hoax in verband met politieke AI-robocalls. Het is dus een zorgwekkende situatie die onmiddellijke actie vereist. Het lijkt er echter op dat de FCC er niet van overtuigd is dat telecommunicatiebedrijven genoeg doen.
In een brief van Rosenworcel staat het volgende: “We weten dat AI-technologieën het goedkoop en gemakkelijk zullen maken om onze netwerken te overspoelen met deepfakes die worden gebruikt om vertrouwen te misleiden en te beschamen. Het is vooral huiveringwekkend om te zien dat het klonen van AI-stem wordt gebruikt om zich tijdens verkiezingen voor te doen als kandidaten. Naarmate AI-tools toegankelijker worden voor slechte actoren en oplichters, moeten we er alles aan doen om deze rommel uit onze netwerken te houden.”
Negen grote telecommunicatiebedrijven, waaronder AT&T en Comcast, ontvingen de brief. Het agentschap wil weten wat ze doen om politieke AI-robocalls te stoppen. Het is opmerkelijk dat de Amerikaanse overheid in februari alle AI-robocalls heeft verboden. Dit omvat AI-robocalls van alle soorten, of ze nu politiek zijn of niet. Er is zelfs toestemming om degenen die bij dit soort oproepen betrokken zijn, te vervolgen. De FCC wil dus een overzicht van de strategieën die telecombedrijven uitvoeren.
Rosenworcel wil bedrijven ook dwingen te waarschuwen voor het gebruik van AI in tv- of radioadvertenties. Sean Cooksey, voorzitter van de Federal Election Commission (FEC), is echter tegen dit initiatief. Cooksey is van mening dat een dergelijk besluit de autoriteit van de FEC over verkiezingsprocessen terzijde zou schuiven.
