De Noord-Koreaanse staatshackers zijn niet langer tevreden met het typen van aanwijzingen in openbare chatbots. Een van de belangrijkste spionagegroepen van het land is begonnen met het offline uitvoeren van kunstmatige intelligentie (AI) op zijn eigen servers, het verbinden van documentzoektools met bestanden in zijn bezit, en het verzamelen van de softwareonderdelen die nodig zijn om AI in zijn malware in te bouwen.
Het Zuid-Koreaanse beveiligingsbedrijf Genians zegt dat het de opzet heeft ontdekt na maanden van tracking en loganalyse van de infrastructuur die is gekoppeld aan Kimsuky, een hackeenheid onder het Noord-Koreaanse Reconnaissance General Bureau.
Genians vonden geen bewijs dat de groep een eigen AI-model had getraind, en het bedrijf biedt dat niet als geruststelling. Het beschrijft een actor in een fase van ‘onderzoek en kennisverwerving’, die bestaande tools samenstelt en test in plaats van nieuwe modellen te maken, met het duidelijke doel om AI door de hele operatie heen te vouwen, van het schrijven van malware tot het analyseren van gegevens.
Voor een inlichtingeneenheid die jarenlang overheids-, onderzoeks- en andere strategische doelen heeft gephishing, wijst dit op aanvallen die sneller zijn voor te bereiden en moeilijker te herkennen zijn.
Omdat er niets te repareren valt, komt het gewicht op de verdedigers terecht. Zodra AI het aas schrijft, worden de aanwijzingen waarop ze ooit vertrouwden zwakker: hoogdravende vertaling, onhandige opmaak, spelfouten. Wat een inbraak op de machine doet, wordt iets om naar te kijken.
Het rapport van Genians vertelt verdedigers dat ze LNK-uitvoering, PowerShell, verborgen geplande taken, GitHub-verkeer en latere payload-activiteit moeten correleren in plaats van een kunstaas voornamelijk te beoordelen op hoe gepolijst het eruit ziet.
Het belangrijkste bewijsmateriaal zijn tools om taalmodellen offline uit te voeren: Ollama, GPT4All en Msty, allemaal te vinden op infrastructuurgenians die aan de groep zijn gekoppeld. Het rapport zegt dat ze zijn uitgevoerd of geconfigureerd, en niet alleen maar zijn gedownload: Ollama genereerde de sleutels die bij de eerste keer opstarten waren gemaakt, terwijl GPT4All een geconfigureerde localdocs_v3.db droeg, de database die wordt gebruikt door de LocalDocs retrieval-augmented generation (RAG)-functie.
RAG verhuurt een modelantwoord uit een privécollectie documenten. De database is het bewijs dat de acteur documenten in zijn bezit probeerde te koppelen aan een AI-systeem; er wordt niet aangetoond dat deze documenten zijn gestolen.
De onderzoekers ontdekten afzonderlijk een verzoek van een operator om een dataset te controleren op portefeuillegegevens, Gmail-inloggegevens en siteregistratiegeschiedenis, en eindigden met: “Hoe gedetailleerder de analyse, hoe beter. Doe het alsjeblieft niet lukraak.” Het rapport kon niet bevestigen dat dit specifieke verzoek bij een AI-dienst was ingediend.
De groep bleef niet bij kant-en-klare apps. Op dezelfde infrastructuur vond het bedrijf ontwikkelaarsbibliotheken, waaronder LLaMaSharp, Microsoft’s Semantic Kernel en Microsoft.Agents.AI, componenten voor het inbouwen van AI-functies in aangepaste C#- en .NET-software.
Het vond ook de Whisper-spraak-naar-tekstbestanden van OpenAI met een handleiding voor het extraheren van tekst uit audio, en actieve sporen van Cursor, een door AI aangedreven codeereditor. Geen van deze tools is exotisch. Wat nieuw is, is dat een spionagegroep van een natiestaat ze met opzet heeft samengesteld om AI dieper in zijn eigen aanvalsworkflow te duwen.
De activiteit breidt een Kimsuky-campagne uit die Genians Operatie GitPower noemt, die GitHub-opslagplaatsen misbruikt als commandokanalen in een LNK-naar-PowerShell-infectieketen en gecodeerde AsyncRAT-payloads heeft verspreid, vermomd als afbeeldingsbestanden
Fortinet documenteerde in april afzonderlijk het bredere GitHub-C2-patroon bij aanvallen gericht op Zuid-Koreaanse gebruikers. Dat rapport bevestigt de omringende techniekfamilie, en niet de nieuwe lokale AI-artefacten van Genians; Reuters zei dat de nieuwe bevindingen niet onafhankelijk konden worden geverifieerd.
De nieuw waargenomen offline stack (de lokale modellen, RAG-database en transcriptietools) is tot nu toe in de rapportage niet tegen een slachtoffer gebleken, en er is geen telling van GitPower-slachtoffers bekendgemaakt. Afgezet tegen de bredere ‘AI-aanvalstools’-framing, is dat een beperktere verandering op korte termijn dan het label impliceert, waarbij de basis voor het automatiseren van delen van de operatie nog steeds wordt gelegd.
Genians koppelt de operatie aan Kimsuky door gebruik te maken van overlappingen met eerdere campagnes, infrastructuuraanwijzingen en Noord-Koreaanse woordenschat uit operatorlogboeken. Het Amerikaanse ministerie van Financiën, dat Kimsuky in 2023 sancties oplegde, beschrijft het als ondergeschikt aan het Reconnaissance General Bureau en was primair gericht op het verzamelen van inlichtingen.
De stap past ook in een patroon dat Genians in 2025 signaleerden, toen het Kimsuky in verband bracht met een spearphishing-aanval waarbij gebruik werd gemaakt van door ChatGPT gegenereerde afbeeldingen van ID-kaarten van Zuid-Koreaanse militaire werknemers.
