Sommige gebruikers hebben vreemd gedrag ontdekt in de nieuwe geavanceerde modus van Google Translate. In plaats van de beoogde taak uit te voeren, namelijk het vertalen van teksten, wordt het ertoe aangezet te reageren als een chatbot wanneer instructies verborgen zijn in de invoer. De bug komt waarschijnlijk door de Gemini-integratie, die de verborgen invoer uit de tekst leest en zich als een chatbot gaat gedragen.
Gebruikers veranderen Google Translate in een AI-aangedreven chatbot
In november vorig jaar introduceerde Google een nieuwe ‘Geavanceerde modus’ in zijn Translate-app. Het bedrijf integreert een AI-model in de app als onderdeel van zijn bredere Gemini-uitrolplan. De specifieke modus is afhankelijk van een groot taalmodel. Het is ontworpen om jargon, idiomen en conversatiecontext in geselecteerde talen te begrijpen. Sommige gebruikers hebben onlangs echter ontdekt dat het systeem soms opdrachten volgt in plaats van vertaalt. Dit is een klassiek voorbeeld van snelle injectie.
Een test geplaatst op MinderVerkeerd suggereerde dat de app onder de oppervlakte een instructievolgsysteem draait. Bij directe ondervraging identificeert de nieuwe modus van Google Translate zichzelf als een groot taalmodel dat door Google is getraind en zich begint te gedragen als een chatbot. Schermafbeeldingen die op Reddit en Tumblr worden gedeeld, laten zien dat gebruikers het in verschillende soorten gesprekken pushen. Hoewel het incident niet schokkend is, laat het wel zien hoe de nieuwste AI-tools op een eenvoudige manier kunnen worden aangepast.
De klassieke modus blijft onaangeroerd
Google heeft nog niet gereageerd op de kwestie. Het probleem met de snelle injectie valt naar verluidt buiten het bereik van de AI-bugbounty. De geavanceerde functie ondersteunt momenteel Engels en ongeveer twintig andere talen, waaronder Japans en Chinees, op mobiele en webplatforms. Hoe dan ook, gebruikers die de vertaler bewust of onbewust in een chatbot hebben veranderd, kunnen overschakelen naar de klassieke modus en de geavanceerde modus weer inschakelen om de oorspronkelijke functionaliteit te herstellen. Het probleem wordt mogelijk in de komende weken door Google opgelost.
