Het opstellen van verstandige wetten voor AI is een van de moeilijkste uitdagingen waarmee de overheid wordt geconfronteerd. Dit is iets waar overheidsinstanties nog steeds over nadenken. Welnu, vandaag kregen we nieuws dat de regering-Biden zojuist weer een stap voorwaarts heeft gezet in dit streven. De Amerikaanse regering heeft strenge veiligheidseisen onthuld voor federale agentschappen die AI-tools en -systemen gebruiken.
Op dit moment is kunstmatige intelligentie een van de meest gevoelige en controversiële onderwerpen in de technologiesector. In november 2022 kregen we voor het eerst kennis met generatieve AI, en verschillende regeringen hebben zich ingespannen om er een wetgevende macht omheen te bouwen. Het is echter een lang proces geweest.
Onlangs heeft de EU de eerste grote stap gezet in het maken van wetten met betrekking tot AI, en is daarmee het eerste overheidsorgaan dat dit doet. Bedrijven en landen binnen de EU moeten deze wetten binnen de komende paar jaar doorvoeren zonder dat er repercussies optreden.
Bovendien heeft het Amerikaanse Octrooibureau zojuist een update uitgebracht waarin het publiek laat weten dat het in de loop van 2024 solide wetten gaat uitvaardigen over auteursrecht en AI. Het is van plan deze wetten tegen het einde van het jaar te publiceren.
De Amerikaanse overheid heeft eisen vrijgegeven voor federale instanties die AI gebruiken
Op dit moment zijn de zaken nog vrij vroeg voor het plaatsen van deze nieuwe vangrails, dus we vragen ons allemaal nog steeds af wat voor gevolgen we kunnen verwachten. Zoals bij elke overheidsregelgeving hebben federale agentschappen enkele maanden de tijd om de boel in beweging te brengen. Dit stuk zal dus worden bijgewerkt als de Amerikaanse overheid met nog meer AI-vereisten komt.
Eerste vereiste: veiligheid
Ten eerste moeten federale instanties die AI-instrumenten gebruiken ervoor zorgen dat deze instrumenten geen negatieve invloed hebben op de rechten of veiligheid van Amerikaanse burgers. Het instrument kan dus niet de grondwettelijke rechten van Amerikaanse burgers onderdrukken of mogelijk leiden tot letsel of verlies van het leven van welke burger dan ook.
Hoe kan een AI-systeem de gebruikersrechten beïnvloeden?
Een belangrijk voorbeeld hiervan is het gebruik van AI-systemen om de privacy van iemand in gevaar te brengen. Agentschappen mogen geen AI-hulpmiddelen gebruiken om bijvoorbeeld biometrische gegevens of gezichtsgegevens over mensen te verzamelen en vast te stellen.
Een ander mooi voorbeeld hiervan is het weghouden van AI-systemen van alles wat met stemmen te maken heeft. Het is momenteel 2024 en binnenkort beginnen de Amerikaanse presidentsverkiezingen. Agentschappen kunnen dus geen AI-tools gebruiken om stemmen in stembiljetten te tellen, te verzamelen of anderszins te beïnvloeden.
Hoe kan een AI-systeem de veiligheid beïnvloeden?
Als het gaat om het beïnvloeden van de veiligheid, zijn er hulpmiddelen die niet kunnen worden gebruikt in toepassingen in de echte wereld die mogelijk de veiligheid van mensen of levens kunnen beïnvloeden. Instanties die elektriciteitsnetwerken, noodsystemen, water, transport, medicijnen, enz. controleren, mogen AI-tools dus niet voor kritische doeleinden gebruiken.
Op dit moment is generatieve AI zich nog steeds aan het ontwikkelen, dus de kans is groot dat AI-systemen in de war raken. Als bijvoorbeeld een AI-systeem dat de watervoorziening van een stad controleert, in de war raakt, kan dit verwoestende gevolgen hebben voor die stad en de mensen die daar wonen.
Er is een uitzondering
Als een agentschap of entiteit AI-systemen voor deze functies wil gebruiken, zal het over concrete waarborgen moeten beschikken om ervoor te zorgen dat er geen negatieve gevolgen zullen zijn. Als het bureau het gebruik van het instrument goed kan rechtvaardigen, mag het het gebruiken.
Welke waarborgen de federale agentschappen ook gebruiken, het is hun zaak, dus de bal ligt bij hen. Ze hebben echter tot december de tijd om ervoor te zorgen dat alles in orde is, zodat de systemen die ze gebruiken geen gevolgen hebben voor de menselijke veiligheid of rechten.
Tweede vereiste: transparantie
De tweede van deze vereisten raakt iets waar de Amerikaanse regering en burgers zich zorgen over maken met betrekking tot AI; transparantie. De betrokken instanties kunnen geen kritische informatie achterhouden over de systemen die zij gebruiken, of hun potentiële impact op Amerikaanse burgers.
Elk jaar zullen federale agentschappen “online een lijst moeten publiceren van hun AI-systemen, een beoordeling van de risico’s die deze systemen kunnen opleveren en hoe die risico’s worden beheerd”, aldus de Amerikaanse vice-president Kamala Harris. Dit zal er niet alleen voor zorgen dat de overheid weet wat elk bedrijf gebruikt, maar het zorgt er ook voor dat Amerikaanse burgers weten welke instanties gebruik maken.
Er is een groot probleem als bedrijven en instanties hun activiteiten achter gesloten deuren houden. De mensen wier data de AI-modellen trainen, moeten weten wat deze entiteiten met hun data doen. Agentschappen zullen dus volledig transparant moeten zijn over hun AI-instrumenten.
Er is echter een uitzondering. Als het publiceren van de informatie de privacy of veiligheid van een burger in gevaar brengt, hoeft het agentschap geen volledig rapport te publiceren. Het zal echter nog steeds statistieken moeten posten.
De derde vereiste: AI-inzicht
De laatste Amerikaanse eis dwingt federale instanties ertoe om over de juiste kennis en inzicht in AI te beschikken. Elke afdeling zal dus een Chief AI Officer moeten aanstellen om precies toezicht te houden op de manier waarop deze instanties AI gebruiken. De Chief AI Officers zullen een diepgaande en professionele kennis van kunstmatige intelligentie hebben. Dit zou de overheid kunnen helpen zich te oriënteren en potentiële risico's te beperken.
Daarnaast zullen verschillende instanties ook AI-bestuursraden nodig hebben. Deze moeten ze uiterlijk 27 mei hebben.
Zijn dit officiële wetten?
Technisch gezien niet. Een tijdje geleden ondertekende de president van de Verenigde Staten een Executive Order om grote bedrijven en hun gebruik van AI aan te spreken. Deze vereisten breiden het Executive Order verder uit en schetsen meer details. Dit zijn echter geen officiële wetten.
Als de instanties of entiteiten zich niet houden aan de geschetste vangrails, valt nog te bezien wat voor soort straf ze zullen krijgen, of helemaal niet. Hoewel dit geen officiële wetten zijn, zijn het nog steeds vereisten van de hoogste autoriteit van de Amerikaanse overheid, dus deze instanties zullen ze hoe dan ook moeten naleven.
