De opkomst van kunstmatige intelligentie heeft ongelooflijke productiviteitsinstrumenten opgeleverd. Het heeft echter ook nieuwe veiligheidsrisico’s met zich meegebracht. Een van de belangrijkste daarvan is de democratisering van cybercriminaliteit. Een recent rapport van de cybersecurity-startup Gambit Security heeft een grote inbreuk op de beveiliging onthuld waarbij een aanvaller erin slaagde verschillende overheidsinstanties in Mexico in gevaar te brengen door de AI-aangedreven chatbot van Anthropic, Claude, als voornaamste medeplichtige te gebruiken.
Hacken met AI: uitleg over het door Claude aangedreven datalek van 150 GB in Mexico
Wat deze zaak bijzonder opvallend maakt, is niet alleen de hoeveelheid gestolen gegevens, maar ook de manier waarop de aanvaller de medewerking van de AI veiligstelde. Als je het niet weet: AI-chatbots hebben beveiligingsschermen tegen zogenaamde ‘schadelijke aanwijzingen’. Dit zijn instructies die bedoeld zijn om op de een of andere manier schade te veroorzaken. Kwaadwillenden kunnen deze schilden echter omzeilen met behulp van de ‘prompt injection’-techniek.
In dit geval gebruikte de hacker Spaanstalige aanwijzingen om Claude ervan te overtuigen dat hij deelnam aan een legitiem ‘bug bounty’-programma. De gebruiker overtuigde de AI om op te treden als een ‘elitehacker’ door kwaadaardige bedoelingen te vermommen als ethisch onderzoek. Door deze misleiding genereerde de chatbot duizenden gedetailleerde rapporten, computerscripts en kant-en-klare aanvalsplannen.
Toen Claude bepaalde veiligheidsleuningen raakte, wendde de aanvaller zich naar verluidt tot OpenAI’s ChatGPT om laterale bewegingstactieken en ontwijkingsmethoden te verkrijgen. Dankzij deze ‘tag-team’-aanpak kon het individu gegevensdiefstal op grote schaal automatiseren zonder dat daarvoor diepgaande technische expertise nodig was.
Een buit van 150 gigabyte
De resultaten van deze campagne waren verwoestend voor de nationale privacy. Volgens Gambit-onderzoekers ging de aanvaller er met 150 GB aan gevoelige informatie vandoor. De buit omvatte gegevens die verband hielden met 195 miljoen belastingbetalers van de federale belastingdienst en gevoelige kiezersgegevens van het nationale kiesinstituut.
De reactie van de Mexicaanse autoriteiten is na de ontdekking gemengd. Hoewel sommige federale onderzoeken maanden geleden zijn begonnen, hebben andere lokale instanties elke ongeautoriseerde toegang tot hun netwerken geweigerd.
