Openai op vrijdag onthulde dat het een reeks accounts verbood die zijn chatgpt-tool gebruikten om een vermoedelijke kunstmatige intelligentie (AI) te ontwikkelen, aangedreven toezicht.
Van het luistertool voor sociale media wordt gezegd dat het waarschijnlijk afkomstig is van China en wordt aangedreven door een van de LLA-modellen van Meta, waarbij de rekeningen in kwestie worden gebruikt met behulp van de modellen van het AI-bedrijf om gedetailleerde beschrijvingen te genereren en documenten te analyseren voor een apparaat dat in staat is om realtime gegevens te verzamelen en Rapporten over anti-China-protesten in het Westen en het delen van de inzichten met de Chinese autoriteiten.
De campagne is een codenaam peer review vanwege het gedrag van het “netwerk bij het promoten en beoordelen van bewakingsgereedschap”, onderzoekers Ben Nimmo, Albert Zhang, Matthew Richard en Nathaniel Hartley merkten op dat het toevoegen van de tool is ontworpen om berichten en opmerkingen van platforms in te nemen en te analyseren van platforms zoals X, Facebook, YouTube, Instagram, Telegram en Reddit.
In één geval gemarkeerd door het bedrijf, gebruikten de actoren Chatgpt om de broncode te debuggen en te wijzigen waarvan wordt aangenomen dat het de bewakingssoftware heeft uitgevoerd, aangeduid als “Qianyue overzeese publieke opinie AI Assistant.”
Naast het gebruik van zijn model als onderzoekstool om openbaar beschikbare informatie over denktanks in de Verenigde Staten, en overheidsfunctionarissen en politici in landen als Australië, Cambodja en de Verenigde Staten te gebruiken, is het cluster ook gevonden om chatgpt toegang te gebruiken om te lezen, vertaal en analyseer screenshots van Engelstalige documenten.
Sommige afbeeldingen waren aankondigingen van Uyghur -rechtenprotesten in verschillende westerse steden en werden waarschijnlijk gekopieerd van sociale media. Het is momenteel niet bekend of deze afbeeldingen authentiek waren.
Openai zei ook dat het verschillende andere clusters verstoorde die chatgpt werden gevonden voor verschillende kwaadaardige activiteiten –
- Misleidende arbeidsregeling – Een netwerk uit Noord -Korea gekoppeld aan het frauduleuze IT -werknemerschema dat betrokken was bij het creëren van persoonlijke documentatie voor fictieve sollicitanten, zoals cv’s, online vacature en sollicitatiebrieven, en overtuigende antwoorden naar voren te komen om ongebruikelijk gedrag uit te leggen, Video -oproepen vermijden, toegang tot bedrijfssystemen uit ongeautoriseerde landen of onregelmatige uren werken. Sommige nep -sollicitaties werden vervolgens gedeeld op LinkedIn.
- Gesponsorde ontevredenheid – Een netwerk dat waarschijnlijk van Chinese oorsprong was dat betrokken was bij het creëren van sociale media-inhoud in het Engels en langvormige artikelen in het Spaans die kritisch waren over de Verenigde Staten en vervolgens gepubliceerd door Latijns-Amerikaanse nieuwswebsites in Peru, Mexico en Ecuador. Een deel van de activiteit overlapt met een bekende activiteitscluster genaamd spamouflage.
- Romantiek-baiting zwendel – Een netwerk van accounts dat betrokken was bij de vertaling en het genereren van reacties in Japans, Chinees en Engels voor het plaatsen op sociale mediaplatforms, waaronder Facebook, X en Instagram in verband met vermoedelijke romantiek van Cambodja-Origin en beleggingszwendel.
- Iraanse invloed nexus -Een netwerk van vijf accounts die betrokken waren bij het genereren van X-berichten en artikelen die pro-Palestijns, pro-Hamas en pro-Iran waren, en anti-Israël en anti-VS, en gedeeld op websites geassocieerd met een Iraanse invloed Operaties gevolgd als de International Union of Virtual Media (IUVM) en Storm-2035. Een van de verboden accounts werd gebruikt om inhoud voor beide bewerkingen te maken, indicatief voor een “eerder niet -gerapporteerde relatie”.
- Kimsuky en Bluenoroff -Een netwerk van accounts die worden beheerd door Noord-Koreaanse dreigingsactoren die betrokken was bij het verzamelen van informatie met betrekking tot cyberintrusiehulpmiddelen en cryptocurrency-gerelateerde onderwerpen, en foutopsporingscode voor Remote Desktop Protocol (RDP) Brute-Force-aanvallen
- Jeugdinitiatief Covert Influence Operatie – Een netwerk van accounts dat betrokken was bij het creëren van Engelstalige artikelen voor een website met de naam “Empowering Ghana” en opmerkingen op sociale media gericht op de presidentsverkiezingen van Ghana
- Taakzwendel – Een netwerk van accounts die waarschijnlijk afkomstig zijn van Cambodja dat betrokken was bij de vertaling van reacties tussen Urdu en Engels als onderdeel van een zwendel die niet verwerkende mensen in banen lokt met het uitvoeren van eenvoudige taken (bijvoorbeeld het leuk vinden van video’s of het schrijven van beoordelingen) in ruil voor het verdienen van een niet -bestaande commissie, toegang tot die slachtoffers vereist om afstand te doen van hun eigen geld.
De ontwikkeling komt omdat AI-tools in toenemende mate worden gebruikt door slechte actoren om cyber-compatibele desinformatiecampagnes en andere kwaadaardige operaties te vergemakkelijken.
Vorige maand onthulde Google Threat Intelligence Group (GTIG) dat meer dan 57 verschillende dreigingsactoren met banden met China, Iran, Noord -Korea en Rusland zijn Gemini AI -chatbot gebruikten om meerdere fasen van de aanvalscyclus te verbeteren en onderzoek te doen naar actuele gebeurtenissen, of Voer contentcreatie, vertaling en lokalisatie uit.
“De unieke inzichten die AI-bedrijven kunnen halen uit bedreigingsactoren zijn bijzonder waardevol als ze worden gedeeld met stroomopwaartse providers, zoals hosting- en softwareontwikkelaars, downstream-distributieplatforms, zoals sociale mediabedrijven en open-source onderzoekers,” zei Openai.
“Evenzo de inzichten die stroomopwaartse en stroomafwaartse aanbieders en onderzoekers hebben in dreigingsactoren openen nieuwe wegen van detectie en handhaving voor AI -bedrijven.”
