Google heeft een nieuw AI-inhoudsbeleid aangekondigd om Android-apps met ingebouwde generatieve AI beter te reguleren. De onlangs aangekondigde nieuwe beleidsupdate zal AI-apps dwingen te voldoen aan strikte richtlijnen die gericht zijn op het beschermen van gebruikers tegen aanstootgevende, door AI gegenereerde inhoud. Google treedt ook hard op tegen spammeldingen van apps.
Aanstootgevende AI-inhoud markeren
Vanaf 2024 zullen ontwikkelaars functies moeten toevoegen voor het melden van aanstootgevende inhoud van hun generatieve AI-app. “In lijn met de toewijding van Google aan verantwoorde AI-praktijken, willen we ervoor zorgen dat door AI gegenereerde inhoud veilig is voor mensen en dat hun feedback wordt verwerkt”, legt Google uit in een blogpost. Ontwikkelaars zullen de feedback vervolgens gebruiken om hun inhoudsfilters te verbeteren.
Het nieuwe AI-inhoudsbeleid werkt op een soortgelijk principe als de rapportagesysteemrichtlijnen van Google voor door gebruikers gegenereerde inhoud. Gebruikers moeten inhoud kunnen rapporteren of markeren zonder de app te verlaten.
Het is van toepassing op drie soorten gen-AI-apps. Ten eerste AI-chatbots die voornamelijk tekstinhoud produceren. Ten tweede apps die AI-afbeeldingen genereren op basis van tekst-, stem- of andere beeldprompts. Ten derde, apps die stemmen of video’s van echte mensen nabootsen met behulp van AI. Het omvat elke mogelijke combinatie van tekst, stem en beeld.
Google schetste ook apps die zijn vrijgesteld van deze regelgeving. Apps die alleen door AI gegenereerde inhoud bevatten of presenteren, maar geen ingebouwde generatieve functies hebben, zijn er bijvoorbeeld niet aan onderworpen. Het beleid is ook niet van toepassing op apps die menselijke inhoud samenvatten. Bovendien hebben productiviteitsapps die AI gebruiken om de gebruikerservaring te verbeteren geen speciale rapportage of filtering nodig.
De komende update moet ontwikkelaars helpen beperkt materiaal te bestrijden, waardoor ze meer controle krijgen over deze evoluerende ruimte. Google heeft enkele voorbeelden gepubliceerd van door AI gegenereerde inhoud die hun richtlijnen schendt. Het gaat onder meer om seksuele deepfake-generaties, valse stemmen om oplichtingspraktijken uit te voeren, misleidende verkiezingsgerelateerde inhoud, inhoud die pesten of seksuele bevrediging promoot, en malwarecode.
Minder spammeldingen van apps
Dezelfde beleidsupdate bevat een sectie over intentiemeldingen op volledig scherm. Deze meldingen zouden waarschuwingen met hoge prioriteit moeten zijn die uw dringende aandacht nodig hebben. Denk aan meldingen die het scherm activeren voor telefoontjes of alarmen.
Maar veel apps gebruiken deze meldingen op volledig scherm voor promoties en vriendelijke herinneringen. Daarom introduceert Google nu een speciale toestemming voor meldingen met hoge prioriteit. Standaard zullen alleen essentiële apps waarvoor deze functie nodig is, deze ingeschakeld hebben. Anderen zullen de gebruiker moeten verzoeken.
De beleidsupdate moet generatieve AI op Android veiliger maken en spammeldingen beperken die uw digitale welzijn en gebruikerservaring schaden.
