De slimme bril van Ray-Ban Meta is gebruikt om vreemden te doxen. Deze slimme bril werd gecombineerd met kunstmatige intelligentie (AI) en een groot taalmodel (LLM) om de privacy van vreemden te schenden, blijkt uit een nieuw rapport.
Meta Ray-Ban slimme bril gebruikt om vreemden te doxen
Meta werkte samen met Ray-Ban om een stijlvolle bril met geïntegreerde camera’s te introduceren. Deze slimme bril heeft misschien geen krachtige SoC (System on a Chip) of een mobiele computer, maar hun mogelijkheden groeien snel.
Twee Harvard-studenten hebben deze bril nu gecombineerd met AI en LLM om individuen te doxen. Volgens 404 Mediaslaagden deze getalenteerde individuen erin de slimme Meta-bril en AI te gebruiken om de informatie van een vreemde te verkrijgen. Concreet gesproken hebben ze met succes de naam, het beroep en verschillende andere identificeerbare details van een onderwerp verzameld met behulp van gezichten die door de slimme bril zijn vastgelegd.
Zijn we klaar voor een wereld waarin onze data in één oogopslag zichtbaar zijn? @CaineArdayfio en ik bied hier een antwoord om jezelf te beschermen:https://t.co/LhxModhDpk pic.twitter.com/Oo35TxBNtD
— AnhPhu Nguyen (@AnhPhuNguyen1) 30 september 2024
De techniek, genaamd I-XRAY, gebruikte deze voorlopige informatie om andere, meer gevoelige informatie over de persoon te verzamelen. Zoals gerapporteerd door EngadgetAnhPhu Nguyen en Caine Ardayfio konden het adres, telefoonnummer, gegevens van familieleden en gedeeltelijke burgerservicenummers van een persoon achterhalen.
Hoe werkt het I-XRAY-systeem om willekeurige individuen te identificeren?
Moderne technologie, vooral audio-videoapparatuur, is behoorlijk krachtig. Camera’s met een hoge resolutie kunnen het gezicht van een persoon zien. Zodra deze gegevens zijn vastgelegd, kunnen LLM’s en AI aan de slag gaan met grote datasets om de identiteit van de persoon te raden.
Nguyen en Ardayfio kozen voor de slimme bril van Meta Ray-Ban omdat deze relatief onopvallend is. Hoewel deze slimme brillen op een gewone bril lijken, hebben ze miniatuur maar krachtige camera’s.
Het Harvard-duo publiceerde een video waarin ze uitlegden hoe de slimme bril en AI-technologie samenwerken om de identiteit van een vreemde te onthullen. De opzet omvatte een slimme Meta-bril, sociale media, AI, LLM en een app.
De studenten hebben de videostream van de slimme bril van Meta Ray-Ban op Instagram aangesloten. Een computer monitort deze stroom. Op de achtergrond draait een AI-programma om iemands gezicht te detecteren.
Het I-XRAY-systeem haalt meer foto’s van die persoon van internet, samen met openbare informatie over hem/haar. Deze informatie stroomt naar een mobiele app die Nguyen en Ardayfio hebben gebouwd. De app probeert de verzamelde gegevens te matchen met informatie die van internet en sociale mediaplatforms is geplukt.
Het is belangrijk op te merken dat Meta en Google jarenlang gezichtsherkenning in een camerafeed kunnen verwerken. Geen van de bedrijven heeft dit echter openbaar gemaakt. Wat zorgwekkend is, is dat kant-en-klare slimme brillen gezichten kunnen vastleggen die in AI kunnen worden ingevoerd en kunnen worden gekoppeld aan direct beschikbare informatie in het publieke domein om vreemden te identificeren.
