OpenAI zei dat het een in Cambodja gevestigde zwendeloperatie heeft verstoord die zijn generatieve kunstmatige intelligentie (AI) chatbot ChatGPT gebruikte om een breed scala aan investeringen, romantiek, gokken en nabootsing van wetshandhaving mogelijk te maken.
Daartoe heeft het een gecoördineerd netwerk van ChatGPT-accounts verboden, waarschijnlijk afkomstig uit Zuidoost-Azië en opererend vanuit de stad Poipet, een regio die in het verleden uitgebreide banden had met oplichters en mensenhandel.
Het cluster van accounts zou de modellen van OpenAI hebben gebruikt om de werking van valse online persona’s te creëren en te ondersteunen, berichten te genereren en te vertalen die naar oplichtingsdoelen zijn gestuurd, promotionele inhoud voor hun frauduleuze plannen te creëren en te helpen bij dagelijkse activiteiten.
De promotionele inhoud omvatte onder meer het maken van advertenties op sociale media voor ‘chatter’-banen in Poipet, specifiek gericht op gebruikers in Bangladesh en India, die een basissalaris van $ 800 beloofden (en een bonus van $ 100 voor ‘volledige aanwezigheid’), samen met vliegtickets, gratis accommodatie, maaltijden, Cambodjaanse visa voor 1 jaar en werkvergunningen.
Een deel van deze accounts blijkt ook gebruik te maken van de AI-tool voor administratief werk, zoals het opstellen van interne aankondigingen, het vertalen van berichten tussen personeel en het documenteren van schulden van werknemers, salarisaftrek, boetes, aflossingen van leningen, visumoverschrijdingen, werkvergunningen, immigratiestatus en wervingsprikkels.
De AI-parvenu zei dat het de operatie heeft onderzocht in samenwerking met WhatsApp, eigendom van Meta.
“De operatie illustreert een belangrijke realiteit over moderne zwendelnetwerken: georganiseerde criminele groepen beperken zich zelden tot één enkele vorm van zwendel”, aldus OpenAI. “In plaats daarvan gebruiken ze opportunistisch alle verhalen, persona’s en tactieken waarvan zij denken dat ze het meest effectief zijn om slachtoffers te misleiden.”
De dreigingsactoren achter het netwerk voerden verschillende soorten oplichting parallel uit, waarbij ze technieken uit verschillende programma’s combineerden om de kans op succes van hun illegale activiteiten te vergroten.
Naast het gebruik van datingpersona’s om vertrouwen op te bouwen voordat slachtoffers worden gevangen in frauduleuze investeringsmogelijkheden met cryptocurrencies en spotgoudhandel, voerden de acteurs uitgebreide romantische gesprekken met doelwitten die synthetische identiteiten gebruikten of zich voordeden als vertegenwoordigers van online gokplatforms die beweerden valse bonussen en winsten aan te bieden.
Andere gebruikers die deel uitmaken van het cluster deden zich voor als wetshandhavingsinstanties om een vals gevoel van urgentie te wekken en doelen te informeren dat ze boetes moesten betalen voor het plegen van ernstige strafbare feiten.
Om dit voor elkaar te krijgen, creëerde en exploiteerde het netwerk valse datingprofielen, fictieve beleggingsexperts en frauduleuze wetshandhavers, terwijl het ook afbeeldingen genereerde van vervalste documenten, waaronder paspoorten, evenals juridische mededelingen, bevestigingen van aandelenaankopen en gokplatforminterfaces.
De aanvalsketen volgt, volgens OpenAI, een aanpak in drie stappen, genaamd ping-zing-sting, waarbij de oplichters een eerste outreach ondernemen op berichtenplatforms zoals WhatsApp en Telegram en deelnemen aan een vertrouwensopbouwende oefening, voordat ze de slachtoffers de opdracht geven om stortingen te doen, activeringskosten te betalen of niet-bestaande boetes te vereffenen. De doelwitten krijgen vervolgens valse screenshots van overboekingen of rekeninginformatie als bewijs van betaling.
Sommige accounts in het netwerk genereerden inhoud die consistent is met mensenhandel en dwangarbeid in verband met georganiseerde misdaadgroepen in Oost-Azië. Het is bekend dat de dreigingsactoren mensen rekruteren met valse beloften van lucratieve banen, om vervolgens hun paspoorten in beslag te nemen en hen te dwingen onder slaafachtige omstandigheden te werken.
“De volledige omvang van de financiële verliezen die met het netwerk gepaard gaan is onbekend, maar op basis van de eigen communicatie van de oplichters kan de operatie interactie hebben gehad met honderden doelwitten in meerdere vormen van oplichting”, aldus OpenAI. “In gesprekken met gebruikers werd verwezen naar individuele slachtoffers die duizenden dollars verloren, hoewel we deze beweringen niet onafhankelijk kunnen verifiëren.”
De ontwikkeling geeft aan hoe bedreigingsactoren AI-aangedreven offensieve capaciteiten ontwikkelen die hen in staat stellen de snelheid en schaal van hun campagnes dramatisch te vergroten, zelfs nu de grensmodellen zelf betrapt zijn op het aanvallen van echte systemen en individuen tijdens Capture-the-Flag (CTF)-achtige cyberevaluaties.
