Windows Recall is een van de meest controversiële kenmerken van het AI-tijdperk. Opvallend is dat Microsoft, dat miljarden heeft geïnvesteerd in ChatGPT-maker OpenAI, vanaf het begin zo onzorgvuldig is geweest. De tool was een nachtmerrie op het gebied van privacy, waardoor de uitrol ervan vertraging opliep. Nu hervat Microsoft de implementatie ervan na een paar aanpassingen, maar AI-aangedreven Recall legt nog steeds gevoelige gegevens vast terwijl dat niet zou moeten.
Recall was bij de lancering een privacy-nachtmerrie
De lancering van Recall verliep enigszins hobbelig vanwege verschillende factoren die de privacy en veiligheid van gebruikers bedreigden. Als u het niet weet, maakt de functie, zodra deze is ingeschakeld, voortdurend schermafbeeldingen terwijl u uw pc gebruikt. Hierdoor kun je hem vragen stellen over dingen die je tijdens je sessie hebt gezien. Je kunt Recall bijvoorbeeld vragen waar je een paar blauwe schoenen hebt gezien, en Recall doorzoekt de screenshots om de website te vinden waar je het item hebt gezien.
Het gebrek aan codering in de schermafbeeldingen van Recall vormde echter een bedreiging voor de privacy. Er waren ook geen tools om te voorkomen dat derden met toegang tot uw laptop of pc de screenshots zouden verkrijgen. Als gevolg van de controverse heeft Microsoft de functie uitgesteld en gewerkt aan belangrijke aanpassingen met betrekking tot de beveiliging van uw gegevens. Het bedrijf heeft bijvoorbeeld codering op schermafbeeldingen ingeschakeld en tools geïntegreerd waarmee de pc u kan identificeren voordat Recall wordt geactiveerd, waardoor wordt voorkomen dat derden toegang krijgen tot de vastgelegde gegevens.
Een ander probleem met Microsoft’s Recall was dat het gevoelige gegevens vastlegde, waaronder creditcards en burgerservicenummers, zonder deze te vervagen of te verbergen. Om dit aan te pakken, heeft het bedrijf een standaardoptie voor de service ingeschakeld om geen vertrouwelijke informatie vast te leggen. Het lijkt er echter op dat het probleem nog steeds bestaat in de meest recente versie van de functie.
De Recall AI van Microsoft kan niet bepalen of gegevens gevoelig zijn buiten betalingsplatforms
Avram Piltch van Tom’s Hardware heeft enkele experimenten gedaan om te testen hoe veilig de functie nu is. Hij concentreerde zich vooral op het vermogen van Recall om gevoelige gegevens te identificeren en te verbergen. De resultaten waren niet bijzonder bemoedigend, omdat Recall dit soort gegevens alleen correct identificeert op daadwerkelijke betalingsplatforms. Het experiment bewees dat de AI-aangedreven service geen gevoelige gegevens vastlegt bij het betreden van betaalplatforms in de winkel.
In de huidige staat lijkt de technologie van Recall echter niet in staat gevoelige informatie te identificeren op basis van context. Met andere woorden: Recall legt creditcardnummers vast die bijvoorbeeld in een Kladblok-venster of een PDF-bestand zijn ingevoerd. Piltch probeerde zelfs de zaken “gemakkelijker te maken” voor Recall door expliciete verwijzingen op te nemen naar de gegevens die privé van aard zijn. Hij typte bijvoorbeeld ‘Capital One Visa’ vóór de creditcardnummers in een Kladblok-venster. De AI-functie heeft dergelijke gegevens echter nog steeds zonder aarzeling vastgelegd.
Piltch probeerde in een andere test nog explicieter te zijn. Hij creëerde een HTML-pagina met een formulier waarop expliciet stond: “Vul hieronder uw creditcardnummer in.” Recall ging in die gevallen echter door met het verzamelen van gevoelige gegevens. Het lijkt erop dat de functie de aard van de gegevens niet per context detecteert, maar in plaats daarvan controleert of u een betaalplatform betreedt. Alleen in die gevallen blokkeert Recall de schermafbeeldingen.
Het bedrijf zal de detectie van gevoelige informatie in de loop van de tijd verbeteren
Het lijkt er echter op dat Microsoft van plan is de gegevensfiltering in de loop van de tijd te verbeteren. “We zullen deze functionaliteit blijven verbeteren, en als u gevoelige informatie aantreft die moet worden uitgefilterd vanwege uw context, taal of geografie, laat het ons dan weten via Feedback Hub”, luidt een gedeelte van de blog van Microsoft. “We hebben ook een optie in Instellingen geboden die we u aanraden in te schakelen, waarmee u anoniem de apps en sites kunt delen die u liever wilt uitsluiten van Recall, om ons te helpen het product te verbeteren. voegt het bedrijf toe.
Microsoft heeft een aantal dingen goed gedaan, maar er is ruimte voor verbetering
Gelukkig heeft Microsoft het voor derden veel moeilijker gemaakt om toegang te krijgen tot Recall-gegevens. Als u er gebruik van wilt maken, is het verplicht om Windows Hello in te stellen voor biometrische verificatie. Dit betekent dat uw pc controleert of u het echt bent voordat u schermafbeeldingen kunt oproepen.
Dat gezegd hebbende, herinnert Piltch zich dat Windows Hello ook toegang met een pincode mogelijk maakt. Een derde partij kan dus nog steeds toegang krijgen tot uw gegevens als zij op de een of andere manier uw privé-pincode verkrijgen. Dit kan u ook in andere contexten overkomen, bijvoorbeeld als iemand uw telefoon steelt. Het is dus uw verantwoordelijkheid om uw inloggegevens of wachtwoorden te beschermen.
Bovendien is iets goeds dat sinds het begin niet is veranderd, dat de verwerking van schermafbeeldingen puur op het apparaat plaatsvindt. De screenshot-encryptie is een extra schild voor het geval iemand de eerdere beveiligingsmaatregelen weet te omzeilen.
Toch zouden velen zich zeker veiliger voelen als Recall daadwerkelijk in staat zou zijn om het vastleggen van gevoelige gegevens overal vandaan te blokkeren, niet alleen op betalingsplatforms. Dat is natuurlijk geen gemakkelijke taak, maar het was Microsoft die besloot een functie te ontwikkelen die je voortdurend ‘in de gaten houdt’ terwijl je deze gebruikt. Het moet dus ook bereid zijn om de beveiligings- en privacyeisen van gebruikers te accepteren.
