Het lijkt erop dat Microsoft niet wil dat rechtshandhavingsinstanties Azure OpenAI gebruiken voor realtime gezichtsherkenning van individuen. Het bedrijf uit Redmond heeft onlangs zijn gedragscode aangepast met betrekking tot het gebruik van zijn AI-diensten door de politie.
Ook wetshandhavingsinstanties passen zich al geruime tijd aan op AI-gebaseerde technologieën. Daarnaast leveranciers van militaire en politietechnologie, zoals Axon. Laatstgenoemde heeft bijvoorbeeld onlangs aangekondigd dat het gebruik zal maken van de mogelijkheden van het GPT-4-model om transcripties van audio vastgelegd door mobiele camera's mogelijk te maken. Dit kan erg handig zijn om de zaken in politierapporten te versnellen.
De laatste wijzigingen in de Azure AI-gedragscode zijn echter direct gericht op mobiele camera’s. Zoals opgemerkt door The Register, heeft Microsoft het gebruik van Azure AI voor realtime gezichtsherkenning met behulp van apparaten zoals on-body politiecams en dashcams strikt verboden. Microsoft breidde de beperkingen uit naar politiediensten over de hele wereld. Voorheen gold het verbod alleen voor de Amerikaanse staats- en lokale politie.
Microsoft wil niet dat de politie Azure AI gebruikt voor realtime gezichtsherkenning
Wat het verbod betreft, vermeldt de nieuwe gedragscode specifiek enkele kernzinnen. Bijvoorbeeld ‘real-time gezichtsherkenningstechnologie op mobiele camera’s’ en ‘in de wilde omgevingen’. Dit suggereert dat politiediensten nog steeds Azure AI kunnen gebruiken voor gezichtsherkenning van inhoud die is vastgelegd door beveiligingscamera’s. Ook op opnames na situaties. Maar daar is nog geen bevestiging van.
De exacte reden achter het besluit van Microsoft is niet bekend. Het bedrijf reageerde niet op vragen van The Register daarover. Het zou echter in overeenstemming kunnen zijn met een van de kernbeleidslijnen van het bedrijf met betrekking tot het gebruik en de implementatie van op AI gebaseerde technologieën. Meer specifiek zegt het onder zijn beleid dat het niet kan worden “gebruikt om gevoelige kenmerken van mensen, zoals geslacht, ras of specifieke leeftijd, af te leiden uit afbeeldingen of video’s van hen.”
Bovendien heeft het gebruik van AI soms problemen opgeleverd als het gaat om identificatie op basis van attributen. Er zijn gevallen geweest waarin er onder bepaalde omstandigheden sprake was van vooroordelen. Daarom is het gebruik ervan op dit gebied niet geheel waterdicht, althans vandaag de dag niet.
