OpenAI is begonnen met het uitrollen van een nieuwe Lockdown-modus naar ChatGPT voor in aanmerking komende persoonlijke accounts om het risico op gegevensexfiltratie als gevolg van snelle injectie-aanvallen te verminderen.
De functie is in de eerste plaats bedoeld voor mensen en organisaties die gevoelige gegevens verwerken en strengere beschermingsgaranties vereisen. De Lockdown-modus is beschikbaar voor ingelogde gebruikers in de Free-, Go-, Plus- en Pro- en zelfbedienings-ChatGPT Business-abonnementen.
“De Lockdown-modus is een optionele geavanceerde beveiligingsinstelling die veel tools en mogelijkheden beperkt in OpenAI-producten die verbinding kunnen maken met internet of externe services”, aldus OpenAI.
“Het is ontworpen om het risico op data-exfiltratie door snelle injectie-aanvallen te verminderen door uitgaande netwerkverzoeken te beperken, ten koste van het uitschakelen of beperken van enkele nuttige functies.”
De waarborgen zijn gericht op het verharden van het aanvalsoppervlak tegen snelle injecties, wat nog steeds een ‘grensprobleem’ is dat van invloed is op alle grote taalmodellen (LLM’s).
Ze bouwen met name voort op sandboxing en bestaande controles om URL-gebaseerde data-exfiltratie-mechanismen te bestrijden om uitgaande netwerkverzoeken te beperken die mogelijk gevoelige gegevens naar de door de aanvaller gecontroleerde infrastructuur kunnen verzenden.
Het idee is niet om snelle injecties te voorkomen. Het verandert ook niets aan de manier waarop geheugen- of bestandsuploads werken, of aan de mogelijkheid om een gesprek te delen. Het doel is veeleer om potentiële routes te elimineren waarlangs de gegevens kunnen worden geëxfiltreerd. Daartoe schakelt de Lockdown-modus de volgende functies uit:
- Live surfen op het web, dat beperkt is tot toegang tot alleen in de cache opgeslagen inhoud
- Beeldondersteuning, voor het weergeven van afbeeldingen in reguliere reacties of het ophalen van afbeeldingen van internet
- Diep onderzoek
- Agent-modus
- Canvas-netwerken, waarmee wordt voorkomen dat gebruikers door Canvas gegenereerde code kunnen goedkeuren voor toegang tot het netwerk
- Bestandsdownloads, die het downloaden van bestanden voor gegevensanalyse blokkeren
OpenAI wees erop dat de functie niet “voor iedereen bedoeld is” en merkte ook op dat zowel de Lockdown-modus als de Ontwikkelaarsmodus niet tegelijkertijd kunnen worden gebruikt, eraan toevoegend dat het inschakelen van de ene de andere uitschakelt.
“De Lockdown-modus is ontworpen om het risico van snelle, op injectie gebaseerde data-exfiltratie in ChatGPT en ondersteunde OpenAI-producten substantieel te verminderen, maar het garandeert niet dat data-exfiltratie niet kan plaatsvinden”, aldus het bedrijf. “Het risico kan blijven bestaan door ingeschakelde apps, onvoorziene combinaties van mogelijkheden of nieuw ontdekte technieken.”
“De Lockdown-modus voorkomt ook niet alle andere effecten van snelle injectie-aanvallen. Een kwaadaardige instructie die verborgen is in een geüpload bestand kan bijvoorbeeld nog steeds het gedrag van ChatGPT beïnvloeden en een onjuist antwoord veroorzaken.”
De ontwikkeling komt doordat OpenAI ook een nieuwe functie voor accountbeheer heeft gelanceerd waarmee gebruikers actieve ChatGPT-sessies kunnen bekijken en uitloggen bij individuele of alle sessies als er tekenen van ongeautoriseerde accountactiviteit worden gedetecteerd. De vermelde sessies bevatten informatie over het apparaat, de gebruikte app, de geschatte locatie, de aanmeldingsdatum en -tijd, of het apparaat wordt vertrouwd en of het de huidige sessie is.
