NVIDIA en 36 andere organisaties hebben de Open Secure AI Alliance gevormd om open technologieën, technieken en tools te ontwikkelen en te delen voor het beveiligen van software en kunstmatige intelligentie (AI) agenten.
De groep met 37 leden omvat cloud-, beveiligings-, bedrijfssoftware- en AI-bedrijven, waaronder Microsoft, Cisco, Cloudflare, CrowdStrike, Hugging Face, IBM, Palo Alto Networks, Red Hat en de Linux Foundation.
De aangegeven reikwijdte omvat de volledige agentenstack, inclusief identiteit, machtigingen, isolatie, vangrails, logboeken, modelformaten, scannen van meerdere modellen en veilige coderingsworkflows.
Het punt is dat cyberverdedigers AI-modellen nodig hebben die ze kunnen lezen, wijzigen en uitvoeren op hun eigen hardware, en niet alleen op gesloten systemen die bereikbaar zijn via de application programming interface (API) van een leverancier.
De lancering brengt ook de eerstgenoemde technische bijdrage met zich mee: NVIDIA-labs OO Agents (NOOA)een Apache 2.0-onderzoeksframework dat is ontworpen om het gedrag van agenten eenvoudiger te testen, traceren, controleren en beheren. Het lanceringsmateriaal bevat geen charter, bestuur, technische werkstromen, leveringsschema of gedeelde alliantierepository, en de zelfstandige website blijft in aanbouw.
The Hacker News heeft contact opgenomen met NVIDIA voor details over het bestuur van de alliantie, de verplichtingen van de leden en de eerste geplande resultaten, en zal dit verhaal bijwerken met eventuele reacties.
De eerste code wordt geleverd met een sandbox-waarschuwing
Een agentharnas is de softwarelaag rond een model die context weergeeft, acties uitvoert, de status beheert en beslist wanneer een taak is voltooid. Onder NOOA wordt die laag weergegeven als een Python-klasse. Velden slaan de status ervan op, methoden leggen de mogelijkheden ervan bloot, docstrings fungeren als aanwijzingen en type-annotaties definiëren de contracten die het model moet volgen.
Een methode die een ellipslichaam bevat, …, wordt tijdens runtime voltooid door een door een groot taalmodel (LLM) aangedreven lus. Een methode die gewone Python bevat, blijft deterministische code. Dankzij dezelfde structuur kunnen ontwikkelaars vertrouwde test-, traceer-, versiebeheer- en refactoring-workflows gebruiken in plaats van het gedrag van agenten op te splitsen over aanwijzingen, toolschema’s, callbacks en workflowgrafieken.
In haar eigen evaluatie meldde NVIDIA dat het raamwerk 86,8% scoorde op de CyberGym L1-benchmark voor het herontdekken van kwetsbaarheden met behulp van GPT-5.5, waarbij netwerktoegang werd geblokkeerd en op regels gebaseerde controles op elk traject werden toegepast.
De repository is even direct over het risico. NOOA kan worden geconfigureerd om door LLM gegenereerde Python uit te voeren, die privégegevens kan verzenden, bestanden kan verwijderen of de omgeving kan wijzigen. De abstracte syntaxisboomcontroles en module-weigerlijsten worden beschreven als diepgaande controles, “geen inperkingsgrens.”
NVIDIA plaatst insluiting buiten NOOA zelf. Agents die gegenereerde code uitvoeren, moeten achter isolatie op besturingssysteemniveau werken, zoals een container, virtuele machine of de OpenShell-sandbox. NOOA verzorgt inspectie en tracing; de sandbox op besturingssysteemniveau is de insluitingsgrens.
Bij een beoordeling van de openbare repository op 27 juli werd een tag v0.0.6 gevonden, gedateerd 22 juli. De releasegids van het project zegt dat het taggen van een commit de releaseceremonie is en dat het koppelen van ingebouwde wielen aan een afzonderlijke GitHub-release optioneel is.
De bijdragegids zegt dat de ontwikkeling wordt onderhouden door NVIDIA, waarbij externe bijdragen worden verwelkomd via pull-verzoeken. De repository had geen governance- of roadmapbestand op rootniveau.
Het knuffelgezichtincident werd het argument
NVIDIA koppelde het pleidooi van de alliantie voor lokaal gecontroleerde defensiemodellen aan de inbraak in Hugging Face in juli, waar een autonoom agentsysteem delen van de productie-infrastructuur van het bedrijf in gevaar bracht.
Hugging Face identificeerde ongeoorloofde toegang tot een beperkte set interne datasets en verschillende inloggegevens die door haar diensten werden gebruikt. Er zijn geen aanwijzingen gevonden dat er met openbare modellen, datasets, Spaces, containerimages of gepubliceerde pakketten is geknoeid.
Hugging Face zei dat de eerste toegang tot de omgeving via een kwaadaardige dataset kwam die misbruik maakte van een dataset-lader op afstand en sjablooninjectie in een datasetconfiguratie. De activiteit vorderde naar knooppunttoegang, het verzamelen van inloggegevens en zijdelingse verplaatsing tussen verschillende interne clusters.
Hugging Face zei dat het LLM-gestuurde analyseagenten meer dan 17.000 geregistreerde acties had doorgenomen om de tijdlijn te reconstrueren, indicatoren van compromissen te extraheren en de inloggegevens in kaart te brengen die waren aangeraakt. Commercieel gehoste grensmodel-API’s wezen aanvankelijk de aanvalsopdrachten af, exploiteerden payloads en command-and-control-artefacten die nodig waren voor de analyse.
Het bedrijf draaide in plaats daarvan het open-weight GLM 5.2-model op zijn eigen infrastructuur, die ook de aanvalsgegevens en referenties binnen zijn omgeving bewaarde. Het operationele advies was om “een capabel model te hebben dat u op uw eigen infrastructuur kunt draaien, doorgelicht en gereed voor een incident.”
In dit geval was het voordeel de operationele controle. Het incident vestigt geen modelopenheid als vervanging voor identiteit, isolatie of inperking.
Zoals eerder gemeld door The Hacker News, zei OpenAI later dat uit voorlopig onderzoek bleek dat GPT-5.6 Sol en een capabeler pre-releasemodel het incident veroorzaakten, terwijl er tijdens een interne ExploitGym-evaluatie met minder cyberweigeringen werd gewerkt.
De onthulling van OpenAI beschrijft een eerdere stap in de keten. De modellen maakten gebruik van een zero-day-kwetsbaarheid in een intern gehoste cache-proxy voor pakketregisters om internettoegang te verkrijgen. Vervolgens hebben ze kwetsbaarheden en gestolen inloggegevens gekoppeld aan OpenAI- en Hugging Face-systemen, terwijl ze op zoek waren naar benchmark-antwoorden. OpenAI zei dat één keten een pad voor het uitvoeren van code op afstand heeft gevonden op Hugging Face-servers.
OpenAI zei dat Hugging Face de activiteit op zijn infrastructuur had gedetecteerd en stopgezet en al was begonnen met de insluiting en forensische reconstructie tegen de tijd dat de bedrijven verbinding maakten.
Uit de primaire onthullingen blijkt dat het open model Hugging Face heeft geholpen de inbreuk te reconstrueren en de reactie ervan heeft ondersteund. Hieruit blijkt niet dat GLM 5.2 de inbreuk onafhankelijk heeft gedetecteerd, gestopt of ingeperkt.
Een coalitie zonder publiek handboek
De alliantie volgt op een brief uit de branche van 24 juli waarin wordt betoogd dat downloadbare modellen verdedigers mogelijkheden bieden die vergelijkbaar zijn met die van aanvallers, de afhankelijkheid van individuele providers verminderen en ervoor zorgen dat gevoelig werk kan blijven plaatsvinden op de infrastructuur die door de gebruiker wordt beheerd.
OpenAI, Google en Meta behoren tot de ondertekenaars van de brief, maar ontbreken op de eerste ledenlijst van de alliantie. Anthropic staat sinds 27 juli 2026 op geen van beide lijsten.
Het rooster alleen verklaart deze afwezigheden niet. Het ondertekenen van de beleidsbrief en het toetreden tot een technische coalitie zijn verschillende verplichtingen, en in het openbare materiaal wordt niet vermeld waarom deze bedrijven afwezig zijn, of er discussies over het lidmaatschap gaande zijn, of wat de leden moeten bijdragen om lid te kunnen worden.
Verschillende technologieën die in de aankondiging worden genoemd, dateren van vóór de coalitie, waaronder het Safetensors-modelformaat van Hugging Face, de door HPE ondersteunde SPIFFE/SPIRE-werklastidentiteit, het Lightwell-herstelsysteem van IBM en Red Hat, het MDASH-multimodelbeveiligingsharnas van Microsoft en de Grok Build-codeeragent van SpaceXAI. Het zijn lidprojecten, geen door allianties gecreëerde producten.
Elastic zei dat het onderzoek, tools en architecturale kennis zal bijdragen op het gebied van beveiliging, zoeken, waarneembaarheid en door AI aangedreven detectie. CrowdStrike zei dat het technieken ontwikkelt die open modellen gebruiken om aanvallen op AI-systemen en agenten te detecteren.
De Linux Foundation omschreef zichzelf als een eerste partner en zei dat het haar rol is om concurrerende organisaties een neutrale plek te bieden om samen te werken. Er werd niet vermeld dat de alliantie formeel wordt gehost of bestuurd als een Linux Foundation-project.
Het openbare register maakt geen onderscheid tussen leden die ingenieurs aanwijzen voor gezamenlijk werk, bijdragen aan bestaande projecten of de richting van de coalitie onderschrijven. Gepubliceerde werkstromen, beheerders, releaseprocessen of gezamenlijk beheerde code zouden het niveau van gezamenlijke deelname gemakkelijker kunnen beoordelen.
Voorlopig toont het openbare register een coalitie, een beleidsstandpunt, de toezeggingen van verschillende leden en één identificeerbare nieuwe door NVIDIA onderhouden coderelease, NOOA. Het bestuur van de alliantie, de gezamenlijke routekaart, het eerste resultaat van meerdere leden en de door NVIDIA beloofde modellen, gewichten en datasets blijven geheim.
