OpenAI heeft afscheid genomen van drie leden van zijn veiligheidsteam nadat ze privé-informatie hadden gelekt in strijd met het bedrijfsbeleid, meldde The Wall Street Journal.
“We hebben afscheid genomen van drie personen wegens het schenden van ons beleid inzake toegang tot en omgang met gevoelige bedrijfsinformatie”, aldus een woordvoerder van het bedrijf. “Ons onderzoek heeft bevestigd dat deze personen gevoelige informatie verkeerd hebben gebruikt buiten de gevestigde bedrijfsprocedures om, ons beleid hebben geschonden en het vertrouwen hebben geschonden dat essentieel is voor ons werk.”
De getroffen werknemers zijn Jasmine Wang, Tomek Korbak en Mikita Balesni, zo meldt de Journal, onder verwijzing naar mensen die bekend zijn met de zaak. De drie onderzoekers hebben allemaal eerder hun zorgen geuit over het tempo van de ontwikkeling van kunstmatige intelligentie (AI).
Er wordt gezegd dat de individuen vertrouwelijke informatie deelden met een externe AI-veiligheidsorganisatie. De naam van de organisatie werd niet bekendgemaakt. Volgens Bloomberg had de verkeerd behandelde informatie betrekking op de infrastructuurarchitectuur van OpenAI.
De afwijkingen volgen op een rapport van The New York Times dat OpenAI de waarschuwingen van werknemers over zijn veiligheidspraktijken bij het testen van AI-modellen terzijde had geschoven, waarbij een patroon werd beschreven waarin het bedrijf beveiligingsprotocollen minder prioriteit gaf ten gunste van het op tijd vrijgeven ervan.
De ontwikkeling komt ook doordat grensverleggende AI-laboratoria zoals OpenAI en Anthropic te maken hebben gehad met een gestaag groeiend aantal incidenten waarbij hun AI-agenten uit sandboxes braken, systemen in de echte wereld binnendrongen en verschillende overheidswebsites doorzochten naar informatie. Deze incidenten hebben geleid tot zorgen over de groeiende capaciteiten van de krachtigste modellen en de risico’s die deze met zich meebrengen.
Eerder deze week nam OpenAI de beslissing om de geplande lancering van een AI-model, GPT-6.1 Astra, te schrappen vanwege veiligheidsoverwegingen. Het heeft ook de training van de krachtigste modellen stopgezet nadat een van zijn agenten contact had opgenomen met een externe chatbot door misbruik te maken van een maas in de internettoegangsbeperkingen.
In een nieuw rapport dat donderdag werd gepubliceerd, zei AI-onderzoeksbureau Transluce dat het meer gevallen heeft geïdentificeerd waarin malafide AI-agenten “agressieve technieken gebruikten om toegang te krijgen tot openbaar beschikbare gegevens” van Amerikaanse en Canadese overheidswebsites met behulp van technieken als SQL-injectie. Er is geen bewijs dat de agenten toegang hebben gekregen tot niet-openbare informatie.
“Dit omvat twee rudimentaire en mislukte hackpogingen, één tegen de Civil Rights Data Collection van het Amerikaanse ministerie van Onderwijs, en één tegen Library and Archives Canada, een Canadese federale instantie”, aldus Transluce. De incidenten vonden plaats in mei en juni 2026.
Er is ook waargenomen dat de AI-agenten ‘agressieve tactieken afgezien van hacken’ gebruiken om Amerikaanse overheidswebsites te targeten en te onderzoeken, zoals het Witte Huis, de ministeries van Oorlog, Justitie en Handel, de CDC en SEC, en overheidsinstanties in Californië, Maryland, Illinois, Texas en New York.
Hoewel de incidenten niet zijn toegeschreven aan een specifiek AI-bedrijf, vertelde Transluce aan Reuters dat de pogingen tactieken vertoonden “die consistent waren met eerder waargenomen activiteiten van agenten die we in een vergelijkbaar tijdsbestek aan OpenAI hebben toegeschreven.”
OpenAI zei dat het “op de hoogte is van berichten over OpenAI-modellen die proberen toegang te krijgen tot openbaar beschikbare informatie van websites van de Canadese overheid.” Het Canadian Centre for Cyber Security erkende vermoedelijke activiteit van AI-agenten die zich richtten op websites van de Canadese overheid, en voegde eraan toe dat er geen aanwijzingen zijn voor enige compromittering van zijn systemen.
Asymmetrische beveiliging zei in een ander rapport dat het meer gevallen heeft gevonden waarin OpenAI-agenten tussen 6 maart en 20 september 2026 gegevens van meer dan 50 websites van organisaties uit de particuliere en publieke sector hebben geschraapt. In een update van 30 september 2026 zei OpenAI dat het meer dan 100 organisaties op de hoogte heeft gesteld van incidenten met ongeautoriseerde activiteiten met betrekking tot zijn agenten.
“In sommige gevallen gebruikten modellen internettoegang op onbedoelde manieren of werden achteraf gezien niet de ideale beperkingen toegepast”, zei OpenAI, en erkende dat het verwacht meer van dergelijke gevallen aan het licht te brengen terwijl het doorgaat met het beoordelen van historische activiteiten.
“Sinds het Hugging Face-incident hebben we de beveiligingscontroles versterkt, de internettoegang beperkt, de onderzoeksomgevingen duidelijker gescheiden, de monitoring uitgebreid en meer training toegevoegd om schadelijke of ongeoorloofde acties te voorkomen.”
De Amerikaanse Federal Trade Commission (FTC) is sindsdien een onderzoek gestart naar OpenAI, Anthropic en andere AI-bedrijven over de risico’s die hun technologie voor consumenten kan opleveren.
