Apple gaat AI-data beschermen in 'cloud black box'

Apple heeft plannen aangekondigd om AI-gegevens te verwerken in een ‘cloud black box’. Dit nieuwe systeem heeft tot doel de privacy van gebruikers aanzienlijk te verbeteren door de gegevens zelfs voor Apple-medewerkers ontoegankelijk te maken.

Apple's 'cloud black box' om de privacy te verbeteren

Traditioneel omvat de ontwikkeling van AI het trainen van modellen op grote datasets die in de cloud zijn opgeslagen. Hoewel deze datasets vaak geanonimiseerd zijn, kunnen ze restinformatie bevatten die, in combinatie met andere datapunten, gebruikersidentiteiten zou kunnen onthullen. Zo kunnen bijvoorbeeld de locatiegegevens en muziekvoorkeuren van een gebruiker hierop worden herleid.

De door Apple voorgestelde ‘black box’-oplossing omvat het creëren van een veilige enclave binnen de cloud, specifiek voor het verwerken van AI-gegevens. De Secure Enclave, een hardware- en softwarecomponent die al aanwezig is in Apple-apparaten zoals iPhones en iPads, fungeert als een veilige zone binnen de processor van het apparaat, ontworpen om gevoelige gegevens zoals vingerafdrukken, gezichtsherkenningsgegevens en coderingssleutels te isoleren.

Deze enclave voor cloudverwerking zou waarschijnlijk een speciale hardwarecomponent binnen het datacenter zijn. Fysiek gescheiden van de rest van de cloudinfrastructuur. De gegevens voor het trainen van AI-modellen zouden zich uitsluitend in deze beveiligde enclave bevinden, waardoor hackers, of wie dan ook, geen toegang hebben tot de onbewerkte gebruikersinformatie.

Privacy-experts zijn verdeeld over de AI-black box van Apple

Hoewel het cloud black box-voorstel van Apple een gamechanger zou kunnen zijn voor privacybehoudende AI, zijn er ook enkele uitdagingen waarmee rekening moet worden gehouden. Eén punt van zorg is de potentiële impact op de efficiëntie van AI-verwerking. Versleutelings- en decoderingsprocessen kunnen extra overhead veroorzaken, waardoor de training en uitvoering van AI-modellen mogelijk worden vertraagd.

Een andere uitdaging is het garanderen van de veiligheid van de encryptiesleutels. Als deze sleutels in gevaar komen, kan het hele systeem ineffectief worden. Bovendien beweren sommigen dat een volledig gecodeerd systeem het identificeren en oplossen van beveiligingskwetsbaarheden binnen de AI-modellen belemmert. Apple moet al deze zorgen aanpakken om een ​​echt veilig AI-datasysteem te garanderen.

Thijs Van der Does