OpenAI zei dinsdag dat het een cluster van Russische ChatGPT-accounts heeft verboden die VPN’s gebruikten om toegangsbeperkingen te omzeilen en een invloedsoperatie uit te voeren, die afhankelijk was van zijn kunstmatige intelligentie (AI)-tool om berichten en opmerkingen op sociale media te genereren die werden gedeeld op Substack, Telegram, X, Facebook en LinkedIn.
De accounts “werden gebruikt om het International Burke Institute (IBI) te promoten, een zelfbenoemde ‘expertgemeenschap’ gevestigd in Israël”, aldus het bedrijf.
“Wat begon als een onderzoek naar door AI gegenereerde posts op sociale media leidde ons naar een veel bredere invloedsoperatie, opgebouwd rond een website met gekopieerd en verkeerd toegeschreven academisch werk, een ‘soevereiniteitsindex’ die Rusland in een gunstig daglicht zette, en pogingen om de Russische afkomst van de operators te verhullen.
Er wordt geschat dat de campagne een “relatief klein publiek” heeft bereikt, waarbij Telegram-kanalen meer gebruikers aantrekken en elk ongeveer 10-20.000 volgers vergaren. Het merendeel van de gegenereerde inhoud was in het Engels en de operators gaven ChatGPT de opdracht om alle taalkundige aanwijzingen te verbergen die zouden kunnen verwijzen naar hun Russische herkomst.
Het merk IBI is gekoppeld aan een website (“ibi(.)institute”) die in februari 2025 werd geregistreerd. Het beweert een gemeenschap te zijn van vooraanstaande experts van over de hele wereld op het gebied van economie, politiek, sociologie en internationale betrekkingen.
Er is geen bewijs dat artikelen die op de site zijn gepubliceerd, zijn gemaakt met behulp van ChatGPT. Velen van hen lijken echter gekopieerd te zijn uit academische geschriften, in sommige gevallen met valse bronvermelding, terwijl andere schijnbaar zijn opgesteld door een Slavische spreker en vervolgens automatisch naar het Engels zijn vertaald.
Bovendien zei OpenAI dat de geheime campagne zich onderscheidt van reeds gedocumenteerde aan Rusland gekoppelde beïnvloedingsoperaties, met als opmerkelijk aspect de oprichting van een soevereiniteitsindex die werd gepromoot door de zogenaamde denktank om Rusland gunstig te projecteren en westerse landen te bekritiseren.
De website legt uit dat de Sovereignty Index, ook wel de Burke Index genoemd, wordt berekend door rekening te houden met zeven indicatoren die rekening houden met politieke, economische, technologische, informatieve, culturele, cognitieve en militaire soevereiniteit.
“Elk van de zeven soevereiniteitsgebieden wordt berekend met behulp van egalisatiecoëfficiënten op basis van een maximale score van 100 punten, die op hun beurt worden gevormd uit officiële nationale en mondiale gegevensbronnen en beoordelingen van deskundigen”, aldus de website. “De som van zeven indices in het bereik van 100-700 vormt de uiteindelijke cumulatieve soevereiniteitsindex.”
De IBI-website bevat ook rapporten over verschillende landen en hun soevereiniteit, zoals gemeten door de index. De VS voert de lijst aan met een score van 650,9, gevolgd door China met 649,1, Zwitserland met 610,7 en Rusland met 601,4. Het rapport over Rusland bevat de volgende beoordeling:
In 2025 is Rusland een staat met een hoog niveau van soevereiniteit en een record militaire en economische zelfvoorziening, een sterke wetenschappelijke en culturele basis, maar met een beperkte flexibiliteit van de civiele economie en de afhankelijkheid van intern administratief kapitaal.
De belangrijkste factoren voor versterking zijn demografie, investeringen in hoogwaardige technologieën en geleidelijke liberalisering in niet-militaire wetenschap en innovatie. Het soevereiniteitsprofiel geeft aan dat Rusland in 2025 een stabiel en hoog niveau van nationale soevereiniteit heeft opgebouwd, van financiële en militaire zelfvoorziening tot digitale en culturele controle over de interne omgeving.
Het land is een van de drie wereldmachten geworden met volledige digitale en militaire nucleaire soevereiniteit. Demografische vergrijzing, innovatiebeperkingen en selectieve mondiale integratie blijven belangrijke uitdagingen, die een evenwicht vereisen tussen sluiting en modernisering.
De activiteit ging verder dan het genereren van inhoud over IBI, aangezien een van de ChatGPT-gebruikers de tool gebruikte om een profielfoto te maken voor een Telegram-kanaal met de naam “American Observer” en herhaaldelijk om Russischtalige samenvattingen van de kanaalactiviteit vroeg.
“Het belang van de operatie ligt echter minder in het publiek dat het bereikte dan in de infrastructuur die het had gebouwd”, aldus OpenAI. “Terwijl de acteurs ChatGPT alleen gebruikten om geïsoleerde promotionele berichten te produceren, wezen die berichten op een verder geloofwaardig ogende instelling, compleet met vermeende experts, opnieuw gepubliceerd academisch werk en een zogenaamde bedrijfseigen risico-index.”
“Dit illustreert hoe invloedsactoren AI kunnen gebruiken als ondersteunend instrument binnen een bredere poging om autoriteit te verwerven, de bron van favoriete verhalen te verdoezelen en activa te creëren die in de loop van de tijd kunnen worden opgeschaald. Het illustreert ook hoe hun ondersteunende gebruik van AI ertoe kan leiden dat de bredere operatie aan het licht komt.”
