Chinese door de staat gesteunde hackers gebruikten het AI-model van Anthropic, Claude, in een grote golf van cyberaanvallen. De aanval is de meest geavanceerde AI-gestuurde hackcampagne tot nu toe geworden. De Wall Street Journal meldt dat Claude in september werd gebruikt om ongeveer dertig hackpogingen op bedrijfs- en overheidssystemen te automatiseren. De AI verzorgde naar verluidt ongeveer 90% van de totale workflow.
Chinese hackers gebruikten de Claude AI van Anthropic om aanvallen uit te voeren
Het hoofd van de inlichtingendienst van Anthropic, Jacob Klein, bevestigt dat de hackers met slechts één klik op een knop lange, gecompliceerde hacksequenties konden uitvoeren. Het automatiseringsniveau bij deze specifieke aanval is veel hoger dan bij eerdere gevallen van misbruik waarbij het model betrokken was. De hackers wisten met succes gevoelige gegevens van vier slachtoffers te stelen. Anthropic heeft echter geen specifieke informatie over de beoogde organisatie/persoon onthuld.
De betrokkenheid van AI bij cybercriminaliteit neemt met de dag toe. Grote technologiebedrijven, waaronder Google, hebben gemeld dat cybercriminelen experimenteren met AI om malware-operaties te ondersteunen. Google heeft onlangs gedeeld dat sommige aan Rusland gelinkte hackers grote taalmodellen hebben gebruikt om opdrachten te genereren en de efficiëntie van hun malware-aanvallen te verbeteren.
China maakt naar verluidt gebruik van AI om gevoelige gegevens te verzamelen.
Amerikaanse functionarissen hebben herhaaldelijk gewaarschuwd dat China AI gebruikt om gevoelige informatie van Amerikaanse bedrijven en individuen te verzamelen. China heeft de claim echter ontkend. Anthropic beweert daarentegen dat ze er vertrouwen in hebben dat de aanvallers banden hadden met de Chinese regering. Ook werd bevestigd dat er geen gegevens van de Amerikaanse overheid waren gelekt.
Claude wordt de eerste keuze van hackers die malwarecampagnes uitvoeren. Eerder dit jaar was Claude naar verluidt betrokken bij een ‘vibe-hacking’-afpersingsprogramma dat zich op ten minste zeventien organisaties richtte. In dit geval eisten de criminelen een losgeld van $500.000 in ruil voor het achterhouden van de gestolen gegevens. Uit deze rapporten blijkt dat AI-ondersteunde hackaanvallen in een ongekend tempo groeien. Wat ooit uitgebreide technische vaardigheden vereiste, is nu gedeeltelijk geautomatiseerd.
