Wat maakt Apple en Google anders? Een van hen probeert in ieder geval uw gegevens privé te houden… en de ander is Google. In een andere controversiële zet lijkt het erop dat Gemini automatisch documenten scant zonder toestemming. De zaak in dit rapport is geïsoleerd, maar het wijst op een mogelijk probleem waar mensen zich zorgen over moeten maken.
Dit is een behoorlijk slecht verhaal om te lezen nadat Apple Apple Intelligence onthulde. Met behulp van Apple’s AI gebeuren alle kernfuncties van AI op het apparaat, maar wanneer het nodig is, zal uw telefoon contact opnemen met GPT-4o. Nou, het systeem zal om uw toestemming vragen om contact op te nemen. Dus uw verzoek raakt een datacenter niet aan totdat u de telefoon toestemming geeft.
Dus, wat is er nieuw? Apple is “het privacybedrijf” en het loopt wat dat betreft alle andere bedrijven voorbij.
Google Gemini zou documenten kunnen scannen zonder toestemming
Dit is een beetje een verwarrend verhaal als je alleen naar de details kijkt. We kregen het eerste rapport hierover van Kevin Bankston, een privacyactivist en huidige Facebook Privacy Policy Director. Hij plaatste een bericht op X waarin hij verwees naar Gemini die automatisch een van zijn PDF-documenten scant.
“Ik heb net mijn belastingaangifte opgevraagd in @Google Docs, en ongevraagd vatte Gemini het samen. Dus… Gemini neemt automatisch zelfs de privédocumenten op die ik open in Google Docs? WTF, jongens. Ik heb hier niet om gevraagd. Nu moet ik nieuwe instellingen vinden waar ik nooit over heb gehoord om deze troep uit te zetten.”
Dus, Gemini scant niet alleen documenten, maar is ook niet verlegen om gevoelige documenten zoals belastingaangiften te scannen. Dat is een beetje eng. Kort daarna gaf een woordvoerder van Google het volgende antwoord:
“Onze generatieve AI-functies zijn ontworpen om gebruikers keuze te geven en hen de controle over hun gegevens te laten behouden. Om Gemini in Google Workspace te gebruiken, moet een gebruiker het proactief inschakelen. Wanneer ze dat doen, wordt hun content op een privacybeschermende manier gebruikt om nuttige reacties op hun prompts te genereren, maar wordt deze niet anderszins zonder toestemming opgeslagen.“
Verwarrend verhaal
Volgens Google moet u dus de instellingen inschakelen. Wanneer u zich aanmeldt voor het Gemini for Workspace Labs-programma, moet u akkoord gaan met bepaalde servicevoorwaarden, maar het scannen van documenten is het soort toestemming dat u apart moet inschakelen.
Bankston gebruikte Gemini om de instellingen te achterhalen om deze functie uit te schakelen, en daar wordt het verwarrend. Blijkbaar stelde Gemini verschillende pagina’s voor, maar geen van hen liet hem de juiste instelling zien. Hij was op zoek naar deze privacy-instellingen terwijl hij dat niet had moeten doen. Privacy-instellingen voor AI-tools zouden centraal moeten staan. Waarom werden hem verschillende pagina’s voorgesteld voor één instelling?
Nou, uiteindelijk vond hij de instellingen die de scanfunctie uitschakelden, en hier wordt het verhaal nog ingewikkelder. De schakelaar waarmee het documenten in Drive kon scannen, was uitgeschakeld. Het lijkt er dus op dat het uitschakelen van de functie je niet beschermt tegen het scannen van documenten.
Bankston ontdekte dat als je Gemini opent in één type document, Gemini automatisch andere bestanden van hetzelfde type scant. Dus als je Gemini opent in een PDF, scant het mogelijk automatisch alle PDF-bestanden die je opent. Dat is een vreemd mechanisme, en iets waar Google ons over zou moeten vertellen.
Hij vraagt zich ook af of dit komt doordat hij zich vorig jaar heeft aangemeld voor het Google Workspace Lab. Er is geen idee of dit enig effect heeft op de permissies die Gemini heeft.
Dit benadrukt een behoorlijk groot probleem
Oké, we hebben geen bedrijven nodig die dit nu doen. We hebben geen bedrijven nodig die sluw zijn met toestemmingen en mensen op wilde ganzenjacht sturen om simpele schakelaars te vinden. Op dit punt zou het navigeren door de services van Google behoorlijk intuïtief moeten zijn. Het zou makkelijk moeten zijn om simpele instellingen te vinden die functies in- en uitschakelen.
Dus, vraag: waarom moet iemand Gemini vragen om instellingen voor hen te vinden? Volgende vraag: waarom gaf Gemini hem meerdere antwoorden om één instelling te vinden? Laatste vraag: waarom waren GEEN van die pagina’s correct? Iemand zou dit niet moeten hoeven doorlopen om alleen maar een instelling te vinden en uit te schakelen waarmee Google documenten kan scannen zonder hen dat te vertellen. Nogmaals, als Apple Intelligence een datacenter wil aanboren, zal de software u van tijd tot tijd op de hoogte stellen. U weet wanneer uw gegevens naar OpenAI gaan.
Ondertussen scant Google documenten zonder het iemand te vertellen en verbergt het instellingen. Google is het belangrijkste bedrijf dat praat over het ‘verantwoord’ ontwikkelen van AI. Nou, Google, als je wilt dat mensen dat geloven, heb je mensen nodig die je vertrouwen, en je hebt slecht werk geleverd in het verdienen van ons vertrouwen.
De schakelaar?
Een ander probleem is het feit dat de toggles voor Bankston waren uitgeschakeld en Gemini nog steeds de documenten aan het scannen was. Hoe kun je zeggen hoe verneukt dat is? Bankston theoretiseerde dat het misschien kwam doordat hij zich had aangemeld voor het Lab, maar dat zou geen probleem moeten zijn.
Dit maakt Google alleen maar slechter in het scenario. Het betekent dat het helemaal niet duidelijk is om ervoor te zorgen dat Gemini je documenten niet scant. Er is verwarring over het probleem, en dat zou niet zo moeten zijn. Je zou je niet af hoeven te vragen waarom de schakelaars van Google niet werken.
Reactie van Google
Ten slotte was de reactie van Google een beetje vreemd. Opnieuw is het niet duidelijk. De woordvoerder zei dat de content van gebruikers “op een privacybeschermende manier wordt gebruikt.” Wat betekent dat? De opmerking gaat niet in op details over hoe het de privacy beschermt. Het vermeldt niet welke beveiligingsmaatregelen Google heeft geïmplementeerd, dus voor zover wij weten, kan er van alles mee zijn gebeurd.
Het grootste probleem
Dit benadrukt een van de grootste problemen met AI-bedrijven: transparantie. Overheidsinstanties vechten met hand en tand om bedrijven zover te krijgen dat ze ons gewoon vertellen wat er aan de hand is. Bedrijven doen hun uiterste best om alles voor het publiek verborgen te houden, en dit is het ergste wat er met AI-technologie zou moeten gebeuren.
Mensen zijn al sceptisch over AI-technologie. We hebben geen verhalen nodig over Gemini die documenten scant en het de gebruikers niet vertelt. Ook hebben we geen halfslachtige reacties nodig die gebruikers vertellen dat het hun privacy beschermt zonder uit te leggen hoe. We hebben het bedrijf nodig om het beter te doen door ons gewoon te laten weten wat er aan de hand is.
