Google heeft een rapport gedeeld waaruit blijkt dat sommige aanvallers probeerden het Gemini-model voor kunstmatige intelligentie (AI) te klonen door het te overspoelen met aanwijzingen. Naar verluidt stuurden ze in één campagne meer dan 100.000 vragen. De technologiegigant zegt dat de aanval is ontworpen om interne redeneerpatronen te extraheren en de mogelijkheden van de chatbot te repliceren.
Google zegt dat aanvallers probeerden de Gemini AI te klonen
In het nieuwste Threat Intelligence Group-rapport rapporteert Google een merkbare toename van zogenaamde distillatieaanvallen op geavanceerde taalsystemen. De destillatieaanval betekent een gerichte operatie waarbij aanvallers herhaaldelijk een model bevragen en de antwoorden analyseren om een concurrerend product te trainen. In plaats van de infrastructuur rechtstreeks te hacken, vertrouwen de aanvallers op API-toegang en -volume. Ze proberen in feite in kaart te brengen hoe de reacties variëren per onderwerp, stijl en taal.
Google zegt dat dergelijk gedrag in strijd is met de servicevoorwaarden en neerkomt op diefstal van intellectueel eigendom. Het bedrijf wijst op een recent incident waarbij Gemini betrokken was, waarbij aanvallers meer dan 100.000 prompts stuurden in een poging het model over te halen meer van zijn interne gedachtegang bloot te leggen. De aanvallers probeerden vraagtypen en talen aan te passen om patronen te zoeken die hen konden helpen kernmogelijkheden over verschillende taken heen te klonen.
Google zegt dat het alle bijbehorende accounts heeft geblokkeerd en dat er geen datalek heeft plaatsgevonden
Google zegt verder dat zijn monitoringsystemen het ongebruikelijke volume in realtime hebben gedetecteerd. Het blokkeerde bijbehorende accounts en verscherpte de veiligheidsmaatregelen om verdere extractie van gevoelige redeneringsgegevens onmiddellijk daarna te beperken. Het bedrijf weigerde de aanvallers te identificeren. Het merkte echter op dat veel extractiepogingen verband lijken te houden met particuliere bedrijven en onafhankelijke onderzoekers die op zoek zijn naar een concurrentievoordeel.
Het rapport beschrijft ook ander misbruik van Gemini, waaronder experimenten met AI-gestuurde phishing en malware die de Google API gebruikte om code op aanvraag te genereren. Het specifieke geval laat de concurrentie zien die een merk of een entiteit ertoe kan aanzetten een voorsprong te verwerven, zelfs als dit via oneerlijke middelen gebeurt.
