Bijgewerkt op 12 januari, 14:57 uur: een Google-vertegenwoordiger heeft contact met ons opgenomen om enig licht op de situatie te werpen. Ze beweren dat ze slechts één specifiek zoekresultaat hebben verwijderd, waarbij ze beweren dat AI Overviews ook nauwkeurige informatie over gezondheidsonderwerpen biedt. Het probleem met het verwijderde resultaat lijkt voort te komen uit het feit dat het oorspronkelijk werd ondersteund door websites van hoge kwaliteit.
Hier is de officiële verklaring:
“We investeren aanzienlijk in de kwaliteit van AI-overzichten, vooral voor onderwerpen als gezondheid, en de overgrote meerderheid biedt nauwkeurige informatie. Ons interne team van artsen heeft beoordeeld wat er met ons is gedeeld en heeft vastgesteld dat de informatie in veel gevallen niet onnauwkeurig was en ook werd ondersteund door websites van hoge kwaliteit. In gevallen waarin AI-overzichten enige context missen, werken we aan brede verbeteringen en ondernemen we waar nodig ook actie op grond van ons beleid.”
Het originele verhaal (12 januari, 10:59 uur) volgt hieronder.
De meeste mensen willen snelle, duidelijke antwoorden als ze online naar medisch advies zoeken. Maar een recent onderzoek heeft aangetoond dat het gevaarlijk kan zijn om voor die antwoorden te vertrouwen op kunstmatige intelligentie. In een recente ontwikkeling heeft Google zijn ‘AI-overzichten’ verwijderd uit sommige gezondheidsgerelateerde zoekopdrachten omdat de tool valse of onvolledige medische informatie verstrekte.
Is uw medische zoektocht veilig? Waarom Google AI-gezondheidsadvies terugschroeft
De verandering komt na onderzoek van The Guardian. Uit het onderzoek kwamen enkele grote problemen naar voren met de manier waarop de AI van Google omging met ingewikkelde gezondheidsgegevens. De AI zei bijvoorbeeld wat een “normaal bereik” was voor leverbloedonderzoeken, maar hield geen rekening met zaken als de leeftijd, het geslacht of het ras van de persoon. In een ander geval zei het systeem ten onrechte dat een uitstrijkje kon controleren op vaginale kanker, terwijl het eigenlijk alleen maar op baarmoederhalskanker controleerde.
Gezondheidsexperts maken zich grote zorgen over deze samenvattingen. Mensen uit groepen als Pancreatic Cancer UK en de British Liver Trust zeiden dat medisch advies vaak meer context nodig heeft dan een kort AI-resultaat kan geven. Patiënten met ernstige ziekten mogen niet zomaar eenvoudige of verkeerde adviezen opvolgen; het zou hen ervan kunnen weerhouden de juiste behandeling te krijgen.
Reactie en aanpassingen van Google
Naar aanleiding van de bevindingen heeft Google actie ondernomen op specifieke zoektermen. Vragen over leverbloedtestbereiken, die voorheen een AI-samenvatting activeerden, leveren nu vaak traditionele zoekresultaten op. De uitrol van deze verwijderingen lijkt echter selectief. Sommige gebruikers ontdekten dat bij één specifieke vraag mogelijk geen AI-overzicht meer te zien is. Een enigszins geherformuleerde versie van dezelfde zoekopdracht kan er echter nog steeds een activeren.
Google heeft de algemene kwaliteit van zijn tool verdedigd. Het bedrijf stelt dat een intern team van artsen de gemarkeerde voorbeelden heeft beoordeeld. Volgens het bedrijf werden veel van de door AI gegenereerde reacties ondersteund door hoogwaardige, gerenommeerde websites. Google beweerde dat ze geen commentaar geven op individuele verwijderingen, maar benadrukte dat ze voortdurend werken aan brede verbeteringen in de manier waarop het systeem omgaat met gevoelige context.
Een evenwichtsoefening voor zoeken
De situatie laat zien hoe de spanningen in de technologiewereld toenemen. Bedrijven willen AI inzetten om informatie makkelijker vindbaar en toegankelijker te maken. Maar in de gezondheidszorg is er niet veel ruimte voor fouten. Ja, een samenvatting van een filmplot of een recept is niet erg belangrijk. Aan de andere kant hebben medische gegevens een nauwkeurigheidsniveau nodig dat sommige huidige AI-modellen moeilijk kunnen bijhouden.
Voorlopig lijkt het erop dat Google een voorzichtiger aanpak hanteert. “Rustig” de functie terugbellen voor bepaalde risicovolle onderwerpen voor slimme onmiddellijke beweging. Voor gebruikers herinnert het eraan dat AI geen vervanging is voor professioneel klinisch advies.
