Anthropic heeft gewaarschuwd dat zowel cybercriminelen als door de staat gesponsorde hackers zijn Claude-modellen gebruiken voor cyberaanvallen, wapenontwerp, propaganda en massale surveillance tussen december 2025 en augustus 2026.
De bedreigingsactoren, die het kunstmatige-intelligentiebedrijf (AI) Generative Threat Groups (GTG’s) heeft genoemd, omvatten door de staat gesponsorde groepen, financieel gemotiveerde criminelen, commerciële spywareverkopers, staatspropaganda-instellingen en politiek gemotiveerde individuen.
“De cyberveiligheidsvaardigheden van AI-modellen betekenen dat AI de kloof op het gebied van arbeid en gereedschap heeft gedicht die vroeger goed gefinancierde, door de staat gesponsorde operaties scheidde van individuele operators”, aldus Anthropic. “Het gebruik van AI ging verder dan eenvoudige vragen en antwoorden van een chatbot, maar omvatte eerder het gebruik van multi-agent-frameworks die verkenningen, exploitatie en data-exfiltratie uitvoerden.”
Een van de opmerkelijke gevallen die Anthropic benadrukt, is de ontwikkeling van een AI-ondersteunde workflow door een Russische, door de staat gesponsorde dreigingsacteur die GTG-20006 wordt genoemd, die tactische en commerciële overlappingen deelt met een Russische geavanceerde persistente dreigingsgroep (APT), gevolgd als Midnight Blizzard (ook bekend als APT29 en Cosy Bear). Enkele van de andere op AI gebaseerde cybercampagnes die door Anthropic in zijn 154 pagina’s tellende rapport worden benadrukt, zijn onder meer:
- GTG-50014 (ook bekend als MeowSHA, frkoo en blazespider), een Franstalige operator en vermoedelijk aangesloten bij het ShinyHunters-collectief dat een gedistribueerde pijplijn voor het verzamelen van inloggegevens beheerde over een vloot van 10 AWS EC2-werknemers die 1,8 miljoen verschillende Android APK’s massaal downloadden van meerdere app-store-bronnen, deze scanden op hardgecodeerde geheimen met behulp van TruffleHog en geverifieerde bevindingen naar een Telegram-groep stuurden.
- Nog een dochteronderneming van ShinyHunters die zich specialiseerde in diefstal van de supply chain door software-as-a-service (SaaS)-leveranciers in gevaar te brengen om gegevens van downstream-klanten te stelen, verkenning te versnellen en gegevensexfiltratie mogelijk te maken.
- GTG-10007een Chineessprekende operator, waarschijnlijk gevestigd in de provincie Hunan, van wie sommigen zijn geïdentificeerd als studenten aan een Chinese universiteit en Claude hebben gebruikt om inbraakpogingen uit te voeren tegen productiesystemen, verkenningen van buitenlandse overheidsnetwerken in het Midden-Oosten, Europa en Zuidoost-Azië, onderzoek naar kwetsbaarheid en ontwikkelingsinspanningen voor grote eindpuntbeveiligingsproducten, en de ontwikkeling van een platform voor het verzamelen van inlichtingen voor het bulksgewijs oogsten van open source-materiaal in lijn met de prioriteiten van Peking. De dreigingsactor richtte zich wereldwijd op ongeveer vijftig organisaties in de sectoren onderwijs, detailhandel, energie, technologie, gezondheidszorg, financiën, productie en overheid. De groep onderhield ook een autonoom onderzoeksprogramma voor kwetsbaarheden om werkende exploits te produceren voor voorheen onbekende kwetsbaarheden in netwerk- en beveiligingsapparatuur.
- GTG-50021een Russisch- en Oekraïenssprekende groep die een frauduleuze AI-reselleroperatie uitvoerde die goedkope Claude-toegang bood, alleen om het verkeer van klanten stilzwijgend door te sturen naar een ander AI-model, terwijl het illegale plan een credential harvester installeerde om de inloggegevens van hun Anthropic-account over te hevelen en deze voor kwaadwillig gebruik aan andere proxy-resellers te verkopen.
- GTG-50020een Russisch sprekende, financieel gemotiveerde speler die zich in het verleden heeft gericht op hotelboekings- en financiële technologieplatforms, maar zich sindsdien heeft geconcentreerd op de AI-toeleveringsketen door API-sleutels van modelaanbieders te stelen en tevergeefs te proberen toegang te krijgen tot pre-release AI-modellen. De dreigingsactor heeft naar schatting in een periode van vier dagen ongeveer dertig AI-leveranciers aangevallen met behulp van vergelijkbare technieken.
- GTG-50029een enkele Franstalige actor die Claude gebruikte om zich te richten op Europese politieke partijen, media, denktanks en de SaaS-providers die door deze organisaties worden gebruikt, onder meer door misbruik te maken van een voorheen ongedocumenteerde herinstallatie-raceconditie van WordPress die het mogelijk maakte om een frauduleus beheerdersaccount aan te maken zonder geldige inloggegevens, en door een openbaar zoekeindpunt te misbruiken om een platform voor politiek campagnebeheer te doorbreken en gevoelige gegevens over te hevelen. Er is ook waargenomen dat de bedreigingsactor webshells en een C2-framework voor browserexploitatie tegen andere doelen inzet. Centraal in de operatie van de aanvaller stond een speciaal gebouwd doxxingplatform met de naam ‘fafsearch’ dat de mogelijkheid bood om individuele inbreukdumps te vergelijken met geëxfiltreerde gegevens.
“Aan de ene kant gebruikten acteurs Claude als gesprekspartner: hij fungeerde als technisch assistent bij het maken van malware, phishing-kits en surveillance-tools”, aldus Anthropic. “Verderop in het spectrum gaven bedreigingsactoren Claude de opdracht om operaties uit te voeren (zoals het uitvoeren van commando’s tegen slachtoffernetwerken, het verzamelen van inloggegevens en het exfiltreren van gegevens) waarbij een mens elke individuele doelwitbeslissing nam (GTG-20006).”
“Aan de andere kant verliepen de operaties autonoom, met minimale menselijke inbreng of supervisie: deze omvatten multi-agent-frameworks die verkenningen, uitbuiting en diefstal van meerdere slachtoffers parallel uitvoerden, uren of dagen achter elkaar (GTG-50014, GTG-50020, GTG-50029).”
Het AI-bedrijf zei dat het ook een aantal beïnvloedingsoperaties heeft geïdentificeerd en vernietigd waarbij Claude de rol speelde van een ‘sub-editor of maker van inhoud’ om inhoud te produceren en deze uit te voeren op een schaal die verder gaat dan wat acteurs met weinig middelen op eigen kracht hadden kunnen bereiken. Anthropic benadrukte echter dat geen van deze inspanningen authentieke betrokkenheid opleverde en dat ze werden verstoord voordat ze zelfs maar een publiek konden opbouwen.
Enkele van de clusters van invloeds- en surveillancecampagnes die door Anthropic op een hoog niveau zijn gemarkeerd, staan hieronder:
- GTG-04001een Russisch sprekende acteur in Bangui die betrokken was bij een operatie voor manipulatie en interferentie van buitenlandse informatie in de Centraal-Afrikaanse Republiek om de pro-Russische en anti-Franse gesprekspunten te versterken.
- GTG-54002een commerciële ‘influence-as-a-service’-operatie waarbij Claude werd gebruikt voor de massaproductie en herschrijving van politieke inhoud op ongeveer zeventig verzonnen nieuwswebsites. De operatie is terug te voeren op LKM Company, een in Frankrijk gevestigd digitaal reclamebureau.
- GTG-84005een enkel account dat Claude gebruikte om een commercieel platform voor verkiezingsmanipulatie te runnen dat zich voornamelijk richtte op gebruikers in Maleisië op basis van politieke en sociale factoren, zoals hun ras en religie, door zich voor te doen als een defensieve uitlaatklep voor cyberintelligentie en anti-desinformatie. Er is vastgesteld dat de activiteit banden heeft met BBS Bilisim Teknolojileri, een in Istanbul gevestigd technologiebedrijf.
- GTG-24015een reeks van vier accounts die Claude gebruikten als een “redactie- en nieuwsproductiebureau” om ze te verspreiden via staatsmedia zoals Sputnik Moldova, RIA Novosti, Sputnik en Español, Sputnik Africa en de Engelstalige redactiekamer van RT.
- GTG-34001een reeks van drie Iraanse, op de staat gerichte accounts die Claude gebruikten om de publieke opinie vorm te geven, officiële inlichtingenbulletins van de overheid om te zetten in op maat gemaakte inhoud en de inhoud te verspreiden via sociale-mediaplatforms.
- GTG-54006een duurzaam, geautomatiseerd desinformatienetwerk dat Claude gebruikte om verzonnen Bengaals nieuws in Bangladesh te genereren en de Awami League-partij van het land te promoten. De activiteit is gekoppeld aan een enkele actor gevestigd in het Gaibandha-district in Bangladesh via een reeks van 29 Claude-accounts die werden gerouleerd om platformlimieten en detectie te omzeilen.
- GTG-84006een gedistribueerde invloedsoperatie die zich richtte op een Iraans publiek over de hele wereld met als doel echte activisten na te doen en deel te nemen aan live politieke gesprekken. De activiteit is gekoppeld aan de Volksmojahedin Organisatie van Iran (PMOI/MEK) en de Nationale Raad van Verzet van Iran (NCRI).
- GTG-54004een account dat door één enkele actor wordt gebruikt om Keniaanse politieke inhoud massaal te produceren als onderdeel van wat vermoedelijk een binnenlandse astroturfcampagne is met een pro-administratieve inslag.
- GTG-84002een verslag dat door één enkele actor wordt gebruikt om een duurzame invloedsoperatie uit te voeren tegen de Moslimbroederschap, het conflict in Soedan en de verantwoordingsmechanismen van de Verenigde Naties.
- GTG-54009een commercieel surveillanceplatform dat Claude gebruikte om de sociale media-activiteit van gebruikers in Iran en de Perzische Golfregio te analyseren, classificeren en profileren. Er wordt aangenomen dat de activiteit is uitgevoerd door of namens een Israëlisch-Singaporese commerciële inlichtingenleverancier genaamd S2T Unlocking Cyberspace.
- GTG-14010een aan de Chinese staat verbonden operatie waarbij Claude werd gebruikt om Oeigoeren en Oeigoerse gewapende formaties in Syrië op te sporen, te profileren en te rekruteren. De acteur blijkt het AI-model te gebruiken om gesprekken uit meer dan honderd gecontroleerde WhatsApp-groepen en tientallen Telegram-kanalen om te zetten in gestructureerde gegevens in de Chinese taal en om ‘profielen te creëren van individuen die mogelijk kwetsbaar zijn voor doelwitten vanwege financiële stress, scheiding van gezinnen en ideologische desillusie.’
- GTG-14020een reeks verslagen die waarschijnlijk verband houden met een door de Chinese overheid gesteunde inlichtingenoperatie die Claude gebruikte om Chineestalige dossiers op te bouwen die zich richtten op religieuze leiders en Chinese diasporafiguren in heel Azië, en om religieuze locaties in kaart te brengen en het model te instrueren om ‘het standpunt van China’ over te nemen.
- GTG-14021een reeks verslagen van in China gevestigde actoren die Claude gebruikten om surveillance en transnationale repressie te ondersteunen, waaronder het model ertoe aanzetten de rol op zich te nemen van een inlichtingenanalist die het Chinese nationale veiligheidsapparaat dient.
- GTG-14022een in China gevestigde operatie voor ‘monitoring van de publieke opinie’ en dissidentensurveillance die Claude gebruikte om overheidsbriefings te produceren waarin dissidenten, activisten, etnische minderheden, Chinese diasporagemeenschappen en buitenlandse media werden genoemd als bedreigingen voor de politieke stabiliteit, terwijl hen werd gevraagd de rol te spelen van een ‘senior noodanalist van de publieke opinie ten dienste van de regering van de Volksrepubliek China’.
- GTG-34007een reeks van 16 accounts die worden beheerd door twee Iraanse nexusactoren die banden hebben met paramilitaire en binnenlandse veiligheidsdiensten die Claude hebben gebruikt om een frontend te bouwen voor wat lijkt op een door de overheid gecontroleerd systeem voor het beheer van surveillance-cases, om sociale netwerkanalyses uit te voeren over 155.216 X-posts en om binnenlandse surveillancemogelijkheden op te bouwen via een kwaadaardige Mozilla Firefox-extensie genaamd “al-Najm al-thāqib” om gebruikersidentiteiten van grote sociale netwerkplatforms te verzamelen.
- GTG-50027een enkel account dat Claude gebruikte om een nationaal platform voor massale onderschepping en surveillance te ontwerpen, genaamd Lakana 360, voor de Malinese staatsinlichtingendienst om ongeveer 25 miljoen simkaarten van drie van de nationale mobiele operators van het land te monitoren en inlichtingendossiers voor elk telefoonnummer te genereren. Het platform heeft een aparte laag die oproepgegevens, sms-berichten en spraakoproepen via de mobiele netwerken verzamelt.
- GTG-30004een Iran-nexus-bedreigingsacteur die Claude gebruikte om een geautomatiseerde, open-source inlichtingendienst voor identiteitsprofilering te ontwikkelen, gericht op Israëlische en Joodse diasporaorganisaties.
- GTG-30005een Iran-nexus-bedreigingsacteur die Claude gebruikte om publiekelijk toegankelijke gegevens te verzamelen en te analyseren om doelgerichte aanbevelingen tegen Amerikaanse zeestrijdkrachten in de regio te ontwikkelen en softwarecomponenten te bouwen van een binnenlands massabewakingsplatform dat automatische nummerplaatherkenning combineerde met onderschepping van identificatiemiddelen voor mobiele apparaten.
- GTG-30006een Iraanse bedreigingsacteur die gratis Claude.ai-accounts heeft gebruikt om malware, een leveringspijplijn en een phishing-portaal te ontwikkelen dat zich richt op binnenlandse Iraniërs. Dit omvatte een valse ESET NOD32-antivirus-inlogpagina die vastgelegde inloggegevens naar Telegram verzendt, een ClickFix-stijl Windows Run-dialooglokmiddel en geofenced leveringspagina’s. De bedreigingsacteur heeft Claude ook gebruikt om SECOMS64 te bouwen, een modulair Windows-implantaat met keylogging, screenshot-opname en mogelijkheden voor het extraheren van Chrome-referenties.
Elders zei Anthropic dat het Claude-misbruikpogingen van in Noord-Jemen gevestigde dreigingsactoren om geleide wapens te ontwikkelen, heeft geneutraliseerd, twee in China gevestigde operaties om een Chineestalige specificatie op te stellen voor een anti-torpedovuurleidingssysteem en richtsoftware voor elektronische oorlogsvoering te bouwen, en een in Rusland gevestigde operatie om een full-stack autonome first-person-view (FPV) kamikaze-dronezwerm te ontwikkelen.
“Naarmate AI-modellen op grotere schaal worden gebruikt, zullen providers dreigingsrelevante inzichten in het gebruik in de echte wereld blijven verwerven die zelfs overheden en intergouvernementele organisaties ontberen”, aldus het bedrijf. “We hopen dat het delen van deze vroege inzichten met het publiek overheden, de industrie en het grote publiek helpt informeren over de aard van deze risico’s en de waarborgen die nodig zijn om de veilige inzet van AI-modellen te garanderen.”
