Popular Messaging App WhatsApp heeft dinsdag een nieuwe technologie onthuld genaamd private verwerking om kunstmatige intelligentie (AI) mogelijkheden op een privacy-behouds manier mogelijk te maken.
“Particuliere verwerking kunnen gebruikers in staat stellen om krachtige optionele AI-functies te benutten-zoals het samenvatten van ongelezen berichten of bewerkingshulp-terwijl de kernprivacybelofte van WhatsApp het behouden,” zei de meta-eigendomsdienst in een verklaring gedeeld met het Hacker News.
Met de introductie van de nieuwste functie is het idee om het gebruik van AI -functies te vergemakkelijken en tegelijkertijd de berichten van gebruikers privé te houden. Verwacht wordt dat de komende weken beschikbaar zal worden gesteld.
De mogelijkheid, in een notendop, stelt gebruikers in staat om een verzoek te starten om berichten te verwerken met AI in een beveiligde omgeving genaamd de vertrouwelijke virtuele machine (CVM) zodat geen enkele andere partij, inclusief meta en whatsapp, er toegang toe heeft.
Vertrouwelijke verwerking is een van de drie principes die de functie ondersteunen, de andere zijn –
- Handhaafbare garanties, waardoor het systeem faalt of publiekelijk wordt ontdekt wanneer pogingen om vertrouwelijke verwerkingsgaranties te wijzigen, worden gedetecteerd
- Verifieerbare transparantie, waarmee gebruikers en onafhankelijke onderzoekers het gedrag van het systeem kunnen controleren
- Niet-doelbaarheid, die voorkomt dat een bepaalde gebruiker het doelwit is zonder de hele beveiligingsarchitectuur te overtreden
- Stateless verwerking en doorstuurbeveiliging, die ervoor zorgt dat berichten niet worden bewaard zodra de berichten zijn verwerkt, zodat een aanvaller geen historische verzoeken of antwoorden kan herstellen
Het systeem is als volgt ontworpen: Private Processing verkrijgt anonieme referenties om te verifiëren dat toekomstige verzoeken afkomstig zijn van een legitieme WhatsApp-client en gaat vervolgens over tot het tot stand brengen van een zich een onbewuste HTTP (OHTTP) -verbinding tussen het apparaat van de gebruiker en een meta-gateway via een derdenrelais die ook het bron-IP-adres verbergt van Meta en WhatsApp.
Een veilige applicatiesessie wordt vervolgens vastgesteld tussen het apparaat van de gebruiker en de Trusted Execution -omgeving (TEE), waarna een gecodeerd verzoek wordt gedaan op het particuliere verwerkingssysteem met behulp van een kortstondige sleutel.
Dit betekent ook dat het verzoek niet kan worden gedecodeerd door iemand anders dan het TEE of het apparaat van de gebruiker van waaruit het verzoek (bijv. Samenvatting van berichten) wordt verzonden.
De gegevens worden verwerkt in CVM en de resultaten worden teruggestuurd naar het apparaat van de gebruiker in een gecodeerd formaat met behulp van een sleutel die alleen toegankelijk is op het apparaat en de private verwerkingsserver.
Meta heeft ook de zwakke banden in het systeem erkend die het kunnen blootstellen aan potentiële aanvallen via gecompromitteerde insiders, supply chain-risico’s en kwaadaardige eindgebruikers, maar benadrukte dat het een verdediging-in-diepgaande aanpak heeft gevolgd om het aanvalsoppervlak te minimaliseren.
Bovendien heeft het bedrijf toegezegd een logboek van derden te publiceren van CVM binaire digests en CVM binaire afbeeldingen om externe onderzoekers te helpen “te analyseren, repliceren en rapporteren van instanties waarvan zij geloven dat logboeken gebruikersgegevens kunnen lekken.”
De ontwikkeling komt wanneer Meta een speciale meta AI -app uitbracht gebouwd met Lama 4 die wordt geleverd met een “sociale” Discover Feed om prompts te delen en te verkennen en zelfs te remixen.
Particuliere verwerking weerspiegelt in sommige opzichten de benadering van Apple voor vertrouwelijke AI -verwerking genaamd Private Cloud Compute (PCC), die ook PCC -aanvraagt via een OHTTP -relais en deze verwerkt in een sandbox -omgeving.
Eind vorig jaar heeft de iPhone Maker publiekelijk zijn PCC Virtual Research Environment (VRE) beschikbaar gesteld om de onderzoeksgemeenschap in staat te stellen de privacy- en beveiligingsgaranties van het systeem te inspecteren en te verifiëren.
