We zijn nog maar een maand verwijderd van de Amerikaanse presidentsverkiezingen, en de verwachtingen zijn ongekend hoog (en dat geldt ook voor desinformatie). Verschillende politici proberen desinformatie te verminderen in het licht van door AI gegenereerde en door AI gemanipuleerde inhoud, en een van hen is de gouverneur van Californië, Gavin Newsom. Hij kwam met een wet die AI-deepfakes zou bestrijden, maar een rechter uit Californië blokkeerde die.
Newsom was onlangs in het nieuws vanwege het neerhalen van SB 1047, het wetsontwerp dat grote regulering voor grote AI-bedrijven zou hebben gebracht. Hij heeft het wetsvoorstel niet aangenomen om een aantal redenen, waaronder een gebrek aan specificiteit met betrekking tot de AI-toepassingen en een onevenredige focus op grotere bedrijven. Het is niet te zeggen of er in de toekomst een soortgelijk wetsvoorstel zal komen, maar hopelijk wel. Als Newsom gelijk heeft, dan woont de meerderheid van de grote AI-bedrijven in Californië. We zouden dus een op Californië gebaseerde wet verwelkomen.
Een rechter uit Californië blokkeerde een wet tegen AI-deepfakes
Het feit dat Newsome het wetsvoorstel heeft verworpen, betekent niet dat hij zich geen zorgen maakt over de negatieve effecten van AI. Eerder ondertekende hij AB 2839 in de wet. Deze wet was gericht op mensen die deepfakes maken van politieke kandidaten. Als iemand binnen 120 dagen na een verkiezing in een verkiezingsstaat willens en wetens een deepfake van een kandidaat maakt, is hij aansprakelijk voor civielrechtelijke stappen. De distributeur kan te maken krijgen met een civiele procedure tegen iedereen die het ziet. De wet zou hen kunnen dwingen de functie neer te leggen, anders riskeren ze geldboetes.
Deze wet lijkt stevig maar eerlijk, nu we dichter bij de verkiezingen komen. Anti-linkse en anti-rechtse propaganda wordt overal op internet en op sociale media verspreid, en we kunnen er zeker van zijn dat AI daar deels de hand in heeft gehad. Hoe het ook zij, rechter John Mendez lijkt niet te denken dat AI-deepfakes een groot probleem zijn.
Een tijdje geleden was er een beetje drama waarbij een persoon betrokken was die Christopher Kohls heette. Hij verspreidde een deepfaked video van vice-president Kamala Harris, waarin zij wordt afgeschilderd als een incompetente kandidaat. Het trok de aandacht van het internet na een retweet van Elon Musk, en dit was voor Newsom aanleiding om het wetsontwerp te ondertekenen.
Kohls spande echter een rechtszaak aan om te voorkomen dat de wet officieel zou worden, waarbij hij beweerde dat de video satire was en dat de wet zijn vrijheid van meningsuiting schendt. Rechter Mendez koos de kant van Kohls en tekende een bevel om de wet tijdelijk te blokkeren. De rechter legde een lange verklaring af waarin hij uitlegde waarom hij tot deze beslissing kwam. In de verklaring zei hij: “Hoewel een gegronde angst voor een digitaal gemanipuleerd medialandschap gerechtvaardigd kan zijn, geeft deze angst wetgevers geen ongebreidelde vrijheid om de al lang bestaande traditie van kritiek, parodie en satire, beschermd door het Eerste Amendement, met de grond gelijk te maken..”
Te laat?
Dus de rechter koos in deze kwestie de kant van Kohls, maar dit is slechts een voorlopig bevel. Hoe lang de blokkade van kracht blijft, weten we op dit moment niet. Aangezien de verkiezingen nog maar een maand duren, is er niet veel reden om te hopen dat deze nog eens terugkomen. Dit stuk Californische wetgeving zou een effect kunnen hebben op de hoeveelheid AI-deepfake die zich zou kunnen verspreiden.
Op dit moment is een groot deel van de Amerikaanse bevolking vastbesloten op wie ze stemmen. De wet was echter niet alleen gericht op de vierjaarlijkse presidentsverkiezingen. Het lijkt zich op vrijwel elke verkiezing te richten, zolang je je maar in een verkiezingsstaat bevindt en binnen 120 dagen na de grote dag. Het zou dus elk van de kleinere verkiezingen kunnen zijn, die nog steeds beschermd moeten worden tegen desinformatie op basis van AI.
Als zodanig moeten we nog steeds hopen dat deze of een soortgelijke wet tot stand komt. We staan nog aan het begin van dit AI-tijdperk. Hoewel deepfakes al jaren bestaan, maakt de huidige golf van AI-tools het zoveel gemakkelijker om deepfakes te creëren, en zijn de tools veel toegankelijker. Dit zijn het soort wetten die er moeten zijn.
Dus, wat nu?
Deze wet zou een grote overwinning zijn geweest voor mensen die tegen desinformatie zijn. Terwijl Mendez vermeldt dat “Californië heeft een groot belang bij het behoud van de verkiezingsintegriteit,Dat blijkt niet uit zijn uitspraak. De wet zou een solide wet tot stand hebben gebracht die op zijn minst zou helpen de desinformatie die op internet rondzwerft, te verminderen. De hoeveelheid valse informatie die wordt verspreid, neemt met het verstrijken van het jaar toe. AI maakt het alleen maar zoveel gemakkelijker om de massa voor de gek te houden.
De rechter zegt dat de wet “een bot instrument dat hindert humoristische expressie en verstikt op ongrondwettelijke wijze de vrije en onbelemmerde uitwisseling van ideeën die zo essentieel is voor Amerika democratisch debat.” Maar we hebben het hier over deepfakes, niet over politieke cartoons of komische sketches. Als iemand een SNL-schets koppelt waarin een kandidaat in een slecht daglicht wordt gesteld, is dat duidelijk satire. Deepfakes zijn echter totaal anders. Het kernpunt van deepfake is om het te laten lijken alsof iemand iets doet of zegt wat hij niet doet. Natuurlijk zijn er deepfakes die komisch bedoeld zijn, maar er is een dunne grens tussen politieke satire en desinformatie.
Deepfakes mogen niet met dezelfde regels worden behandeld, omdat ze een heel ander beest zijn. Ze hebben het potentieel om grote schade aan te richten.
Het is niet te breed
Mendez stelt ook dat de wet tot doel heeft satire en humoristische uitingen te onderdrukken, maar dat is niet het geval. De wet richt zich niet op mensen die ENIGE deepfakes creëren. Het richt zich op mensen die deepfakes van kandidaten maken binnen 120 dagen na verkiezingen in een verkiezingsstaat. Dus als iemand alleen maar een deepfake maakt van een beroemdheid door een personage uit een videogame te citeren, zal dat niet onder de wet worden verpletterd.
Als iemand echter een video maakt waarin een van de kandidaten zegt dat hij binnen enkele weken na de verkiezingen een land gaat bombarderen, en er is niet op aangegeven dat de video nep is, dan is het een ander verhaal. Dat is geen satire, dat is een stukje media dat gemaakt is om mensen te misleiden. De wet zou zich daarop richten, wat volkomen gerechtvaardigd is.
Wat nu?
Nu er een solide stuk Californische wetgevende macht in het vagevuur zit, wat kan mensen met kwade bedoelingen ervan weerhouden om in het elfde uur van de verkiezingen AI-deepfakes te posten? De uitspraak van rechter Mendez is sterk gericht op het eerste amendement, maar houdt geen rekening met de olifant in de kamer. Nu deze wet geblokkeerd is, wat is de volgende stap? Laat desinformatie zich maar blijven verspreiden. Wat is het strijdplan?
Deze hele nieuwe AI-boom begon ongeveer twee jaar geleden, en naarmate de technologie vorderde, wisten we allemaal dat dit jaar lastig zou worden. Nu AI in staat is om deepfakes gangbaar te maken, wisten we dat mensen hiervan zouden profiteren en misleidende inhoud naar buiten zouden pompen. Maar zo laat in het spel maken we nog steeds dit soort bewegingen. We zijn al ver voorbij het punt waarop we een aantal gezond verstand-wetten zouden moeten hebben tegen het verspreiden van door AI gegenereerde desinformatie. Nu er niets is om de leegte op te vullen, wie zal zeggen wat voor soort wilde deepfakes er zullen ontstaan naarmate we dichter bij de verkiezingen komen?
