Tegenwoordig worden de onderwerpen cybersecurity en AI meer bij elkaar gebracht. Het punt is dat AI-systemen meestal worden aangevallen door slechte actoren, en dat vormt een groot probleem. Daarom is er een nieuw wetsvoorstel dat probeert te helpen bij de beveiliging van AI-systemen.
We zien dat steeds meer overheidsinstanties AI in het algemeen hard aanpakken. De EU heeft de eerste wetten opgesteld rond de veiligheid van AI, en de regering van de Verenigde Staten heeft zelf maatregelen genomen. Dit betekent dat steeds meer overheidsinstanties zich het potentiële gevaar van misbruik van AI-technologie realiseren.
Er is een nieuwe AI-beveiligingswet in de maak
Dit wetsvoorstel, de Secure Artificial Intelligence Act genoemd, is een wetsvoorstel dat tot doel heeft de veiligheid van AI-systemen in Amerika te helpen vergroten. Op dit punt zal AI-technologie worden gebruikt in bepaalde gebieden van overheidsinstanties, en dit is de reden waarom veiligheid van cruciaal belang is.
Wat de wet zou doen is in feite een impuls geven aan het onderzoek naar wat counter-AI wordt genoemd. Dit zijn manieren om AI-systemen voor snode doeleinden te manipuleren. De twee senatoren die het wetsvoorstel hebben ingediend, Mark Warner en Thom Tillis, classificeren deze counter-AI-methoden feitelijk in vier categorieën. Dit zijn invasieaanvallen, misbruikaanvallen, gegevensvergiftiging en op privacy gebaseerde aanvallen.
Naast onderzoek naar AI-maatregelen zal het wetsvoorstel ook vereisen dat het National Institute of Standards and Technology en de Cyber Security and Infrastructure Security Agency een grote database met AI-inbreuken opzetten. Dit maakt het een stuk eenvoudiger om te begrijpen welke soorten cyberveiligheidsincidenten zich hebben voorgedaan en om deze bij te houden. Ze zijn zelfs verplicht om ‘bijna-ongevallen’ op te nemen.
Als het om dit soort onderwerpen gaat, is het altijd belangrijk om wetsvoorstellen te hebben die de veiligheid met AI-systemen helpen vergroten. Als er overheidsinstanties zijn die AI gebruiken, kun je er zeker van zijn dat er mensen zullen zijn die proberen hiervan te profiteren. Dit soort stappen zijn dus de beste verdediging.
