Een fout is gedetecteerd in Google Gemini, een fout waarmee aanvallers e -mailsamenvattingen voor phishing -doeleinden kunnen kapen. Deze fout is opgemerkt in Google Gemini voor werkruimte.
Gemini Flaw stelt aanvallers in staat om gebruikers van phish te phish via Google’s AI
Dus, wat is hier precies aan de hand? Google Gemini kan worden benut om e -mailsamenvattingen te genereren die legitiem lijken, maar dat zijn ze niet. Ze omvatten kwaadaardige instructies of waarschuwingen die gebruikers naar phishing -sites leiden.
Sommigen van jullie herinneren zich misschien dat soortgelijke aanvallen vorig jaar werden gemeld. Veiligheid is door Google ingevoerd, maar het lijkt erop dat dezelfde techniek nog steeds werkt.
Dit werd bekendgemaakt door Odin, Mozilla’s bugpe bounty -programma voor generatieve AI -tools. Een onderzoeker met de naam Marco Figueroa heeft het bekendgemaakt, die Genai Bug Bounty Programs Manager is bij Mozilla.
Hoe werkt het? Welnu, de aanvaller maakt een e -mail met een onzichtbare richtlijn voor Gemini. De aanvaller kan de kwaadaardige instructie in de lichaamstekst verbergen aan het einde van het bericht. Hij kan dat doen door HTML en CSS te gebruiken die de lettergrootte instellen op nul, en ook de kleur op wit.
Die instructie zal vanwege dat feit niet in Gmail worden weergegeven. Gezien het feit dat er geen bijlagen of links aanwezig zijn, zijn de wijzigingen vrij hoog dat de boodschap de inbox van het potentiële doelwit bereikt en niet eindigt in spam of ronduit geblokkeerd worden.
Als de persoon die de e -mail heeft ontvangen Gemini vraagt om een samenvatting van de e -mail te genereren, zullen de AI -tools van Google de onzichtbare richtlijn ontleden en gehoorzamen.
Google zegt dat het geen bewijs heeft gezien dat Gemini op zo’n manier wordt gemanipuleerd
BleepingComputer reikte naar Google voor een commentaar, en een woordvoerder wees op een Google -blogpost over beveiligingsmaatregelen tegen snelle injectieaanvallen. Hij zei ook het volgende: “We verharden constant onze reeds robuuste verdedigingen door rode teteamingoefeningen die onze modellen trainen om zich te verdedigen tegen dit soort tegenstanders.”
Hij zei ook dat Google geen bewijs heeft gezien van incidenten die Gemini manipuleren op de manier waarop Figueroa demonstreerde.
