“Vrede is de deugd van de beschaving. Oorlog is de misdaad ervan. Toch zijn het vaak in de oven van de oorlog dat de scherpste instrumenten van vrede worden gesmeed.” – Victor Hugo.
In 1971 verscheen er een verontrustende boodschap op verschillende computers die deel uitmaakten van ARPANET, de voorloper van wat we nu kennen als het internet. De boodschap, die luidde “I’m the Creeper: catch me if you can.” was de output van een programma genaamd Creeper, dat werd ontwikkeld door de beroemde programmeur Bob Thomas toen hij werkte bij BBN Technologies. Hoewel Thomas’ bedoelingen niet kwaadaardig waren, vertegenwoordigt het Creeper-programma de komst van wat we nu een computervirus noemen.
De verschijning van Creeper op ARPANET zette de toon voor de opkomst van de eerste antivirussoftware. Hoewel het nog niet is bevestigd, wordt aangenomen dat Ray Thomlinson, bekend van het uitvinden van e-mail, Reaper heeft ontwikkeld, een programma dat is ontworpen om Creeper van geïnfecteerde machines te verwijderen. De ontwikkeling van deze tool die wordt gebruikt om een kwaadaardig programma op een computer defensief te achtervolgen en te verwijderen, wordt vaak de start van het cybersecurityveld genoemd. Het benadrukt een vroege erkenning van de potentiële kracht van een cyberaanval en de noodzaak van defensieve maatregelen.
De onthulling van de noodzaak van cybersecurity zou niet zo’n verrassing moeten zijn, aangezien het cyberdomein niets meer is dan een abstractie van de natuurlijke wereld. Op dezelfde manier dat we groeiden van vechten met stokken en stenen naar zwaarden en speren naar nu bommen en vliegtuigen, zo is ook de oorlog om het cyberdomein geëvolueerd. In het begin begon het allemaal met een rudimentair Creeper-virus dat een brutale weergave was van wat een voorbode van digitale ondergang zou kunnen zijn. De ontdekking van bewapende elektronische systemen maakte de uitvinding van antivirusoplossingen zoals Reaper noodzakelijk, en naarmate de aanvallen complexer werden, werden ook de defensieve oplossingen dat. Spoelen we door naar het tijdperk van netwerkgebaseerde aanvallen, dan begonnen digitale slagvelden vorm te krijgen. Firewalls verschenen om enorme stadsmuren te vervangen, load balancers fungeren als generaals die middelen aansturen om ervoor te zorgen dat één enkel punt niet overweldigd wordt, en Intrusion Detection and Prevention-systemen vervangen schildwachten in wachttorens. Dit wil niet zeggen dat alle systemen perfect zijn; Er is altijd de existentiële angst dat een wereldwijd geliefde, welwillende rootkit die we een EDR-oplossing noemen, een null pointer dereference zou kunnen bevatten die als een Trojaans paard zou kunnen fungeren en tientallen miljoenen Windows-apparaten zou kunnen blokkeren.
Als we catastrofale, en al zijn het toevallige, situaties even buiten beschouwing laten, blijft de vraag wat er nu gaat gebeuren. Maak kennis met Offensive AI, het gevaarlijkste cyberwapen tot nu toe. In 2023 publiceerde Foster Nethercott een whitepaper bij het SANS Technology Institute waarin hij gedetailleerd beschrijft hoe dreigingsactoren ChatGPT met minimale technische mogelijkheden kunnen misbruiken om nieuwe malware te creëren die traditionele beveiligingsmaatregelen kan omzeilen. Talrijke andere artikelen hebben ook het gebruik van generatieve AI onderzocht om geavanceerde wormen zoals Morris II en polymorfe malware zoals Black Mamba te creëren.
De schijnbaar paradoxale oplossing voor deze groeiende bedreigingen is verdere ontwikkeling en onderzoek naar geavanceerdere offensieve AI. Plato’s adagium, “Noodzaak is de moeder van uitvinding,” is een passende karakterisering van cybersecurity vandaag de dag, waar nieuwe AI-gedreven bedreigingen de innovatie van geavanceerdere beveiligingscontroles aansturen. Hoewel het ontwikkelen van geavanceerdere offensieve AI-tools en -technieken verre van moreel prijzenswaardig is, blijft het een onontkoombare noodzaak. Om ons effectief te verdedigen tegen deze bedreigingen, moeten we ze begrijpen, wat hun verdere ontwikkeling en studie noodzakelijk maakt.
De redenatie voor deze aanpak is geworteld in één simpele waarheid. Je kunt je niet verdedigen tegen een bedreiging die je niet begrijpt, en zonder de ontwikkeling en het onderzoek naar deze nieuwe bedreigingen kunnen we niet hopen ze te begrijpen. De ongelukkige realiteit is dat kwaadwillenden al offensieve AI gebruiken om te innoveren en nieuwe bedreigingen in te zetten. Proberen dit te weerleggen zou misleidend en naïef zijn. Daarom ligt de toekomst van cybersecurity in de verdere ontwikkeling van offensieve AI.
Als u meer wilt weten over Offensive AI en praktische ervaring wilt opdoen met het implementeren ervan in penetratietesten, nodig ik u uit om mijn komende workshop bij te wonen op SANS Network Security 2024: Offensive AI for Social Engineering and Deep Fake Development op 7 september in Las Vegas. Deze workshop is een geweldige introductie tot mijn nieuwe cursus, SEC535: Offensive AI – Attack Tools and Techniques, die begin 2025 wordt uitgebracht. Het evenement als geheel is ook een uitstekende gelegenheid om verschillende toonaangevende experts in AI te ontmoeten en te leren hoe het de toekomst van cybersecurity vormgeeft. U kunt hier evenementdetails en de volledige lijst met bonusactiviteiten vinden.
Opmerking: Dit artikel is vakkundig geschreven door Foster Nethercott, een veteraan van het United States Marine Corps en Afghanistan met bijna tien jaar ervaring in cybersecurity. Foster is eigenaar van het beveiligingsadviesbureau Fortisec en is auteur voor het SANS Technology Institute, waar hij momenteel de nieuwe cursus SEC 535 Offensive Artificial Intelligence ontwikkelt.
