Apple krijgt kritiek nadat een nieuwe iPhone-functie misleidende krantenkoppen vertoonde. Volgens BBC News stond in een melding van de nieuwe AI-aangedreven functie van Apple dat Luigi Mangione zichzelf had neergeschoten. Dit gebeurde eerder deze week op iPhones. De melding was onderdeel van Apple Intelligence, een nieuwe functie die gebruik maakt van kunstmatige intelligentie om nieuws voor je samen te vatten.
De AI-aangedreven functie van Apple verzendt gegroepeerde meldingen
De nieuwe Apple Intelligence-functie van de iPhone had een probleem met een BBC News AI-samenvatting. Uit de AI-aangedreven samenvatting blijkt dat BBC News een artikel had gepubliceerd waarin werd beweerd dat Luigi Mangione, de man die werd gearresteerd na de moord op Brian Thompson, CEO van de gezondheidszorgverzekering, zichzelf had neergeschoten. Dat had hij niet. Er was geen melding dat hij dit deed. De BBC nam contact op met Apple om het probleem aan de orde te stellen en vroeg hen het probleem op te lossen.
Apple Intelligence is bedoeld om meldingen samen te vatten en te groeperen. Apple zegt dat het het aantal onderbrekingen door lopende meldingen vermindert, zodat u zich kunt concentreren op de belangrijke updates. Maar deze nieuwe functie is niet zonder problemen en gebruikers melden al onjuiste meldingen.
De BBC reageerde snel. “BBC News is het meest vertrouwde nieuwsmedium ter wereld”, aldus een woordvoerder. “Het is voor ons essentieel dat ons publiek alle informatie of journalistiek kan vertrouwen die in onze naam wordt gepubliceerd, inclusief meldingen.” Apple heeft geen commentaar gegeven op het specifieke probleem of waarom de melding verkeerd was.
Waarom heeft de AI van Apple het bij het verkeerde eind gehad?
Het nieuwe notificatiesysteem van Apple gebruikt AI om meerdere nieuwsverhalen in één melding te combineren. Dit is bedoeld om u op de hoogte te houden zonder dat u wordt onderbroken door te veel updates. Maar AI begrijpt de verhalen soms verkeerd. In dit geval werd het nieuws door elkaar gehaald en werd gezegd dat Luigi Mangione zichzelf had neergeschoten.
Dit is niet de eerste keer dat het AI-aangedreven meldingssysteem van Apple een fout maakt. Op 21 november verscheen ook ten onrechte het nieuws van The New York Times waarin werd beweerd dat de Israëlische premier Benjamin Netanyahu was gearresteerd, volgens een bericht op Bluesky door Ken Schwencke. Net als de BBC-kwestie was dit niet waar en veroorzaakte het verwarring.
Deskundigen waarschuwen voor de risico’s van AI-nieuwssamenvattingen
Experts maken zich zorgen over de opkomst van AI voor nieuwssamenvattingen. Prof. Petros Iosifidis, hoogleraar mediabeleid aan de City University in Londen, zei dat het beschamend was voor Apple. Hij waarschuwde ook dat er een reëel gevaar bestaat van de verspreiding van desinformatie. Deze problemen laten zien dat we het nieuws moeten verifiëren voordat we het kunnen vertrouwen, vooral als het om AI gaat.
