Google stopt AI-gezondheidsoverzichten na gevaarlijke medische fouten

Google verwijdert AI-gezondheidsoverzichten na onderzoek naar gevaarlijke desinformatie

Google heeft zijn AI Overviews-functie stilletjes verwijderd van bepaalde medische zoekopdrachten na een onderzoek van The Guardian dat aantoonde dat het systeem gevaarlijk onjuiste gezondheidsinformatie verstrekte die patiënten in ernstig gevaar kon brengen. De AI-gegenereerde samenvattingen, die bovenaan Google-zoekresultaten verschijnen, gaven misleidend medisch advies, waaronder potentieel fatale dieetaanbevelingen voor kankerpatiënten.

Gevaarlijke medische fouten ontdekt

Het onderzoek vond meerdere gevallen waarin Google's AI Overviews schadelijke medische informatie verstrekte. Een bijzonder alarmerend voorbeeld betrof alvleesklierkankerpatiënten die het advies kregen om vetrijk voedsel te vermijden. 'Dit is precies het tegenovergestelde van wat medische professionals aanbevelen,' zei dr. Sarah Chen, een oncoloog gespecialiseerd in maag-darmkankers. 'Alvleesklierkankerpatiënten hebben vaak vetrijke diëten nodig om gewicht en kracht te behouden tijdens de behandeling. Dit soort desinformatie kan letterlijk levens kosten.'

Een andere kritieke fout betrof leverfunctietesten. De AI presenteerde nette numerieke bereiken voor leverbloedtesten zonder uit te leggen dat normale resultaten afhangen van factoren zoals leeftijd, geslacht, etniciteit en medicatie. 'Dit creëert gevaarlijke valse geruststelling,' legde dr. Michael Rodriguez, een hepatoloog, uit. 'Patiënten met ernstige leveraandoeningen kunnen deze cijfers zien en denken dat ze in orde zijn, waardoor cruciale medische zorg wordt uitgesteld.'

Gedeeltelijke verwijdering en aanhoudende zorgen

Google heeft AI Overviews verwijderd van specifieke zoektermen zoals 'wat is het normale bereik voor leverbloedtesten', maar het onderzoek toonde aan dat kleine variaties van deze zoekopdrachten nog steeds onnauwkeurige AI-samenvattingen produceren. Het bedrijf heeft geen uitgebreide uitleg gegeven waarom deze wijzigingen zijn doorgevoerd, hoewel bronnen suggereren dat het onderzoek van The Guardian een belangrijke rol speelde.

Een woordvoerder van Google verklaarde: 'We investeren zwaar in de kwaliteit van AI Overviews, vooral voor gevoelige onderwerpen zoals gezondheid. Hoewel de overgrote meerderheid nauwkeurige informatie biedt, werken we continu aan het verbeteren van onze systemen.' Critici stellen echter dat deze reactie onvoldoende is gezien de ernst van de fouten.

Bredere implicaties voor AI in de gezondheidszorg

Dit incident roept belangrijke vragen op over de betrouwbaarheid van AI-gegenereerde gezondheidsinformatie. Experts waarschuwen dat het fundamentele probleem ligt in hoe AI Overviews inhoud samenvatten uit Google's pagina-ranking systeem, dat SEO-geoptimaliseerde inhoud en spam kan bevatten. De AI presenteert vervolgens gebrekkige conclusies met een autoritaire toon die fouten betrouwbaar doet lijken.

'Het probleem gaat niet alleen over het verwijderen van specifieke zoekopdrachten,' zei AI-ethicus dr. Elena Martinez. 'Het gaat over de hele aanpak van AI-gegenereerde medische informatie. Deze systemen hebben juiste context, genuanceerd begrip en deskundig toezicht nodig - geen van deze zijn momenteel aanwezig in AI Overviews.'

De controverse komt terwijl AI-bedrijven zoals OpenAI en Anthropic zich inzetten voor gezondheidszorgtoepassingen van hun producten, wat de ernstige gevolgen benadrukt van zelfs kleine fouten in medische AI-toepassingen.

Wat volgt voor Google's AI-functies?

Google introduceerde AI Overviews als onderdeel van zijn Search Generative Experience in 2023, waarbij de functie wereldwijd beschikbaar werd in meer dan 200 landen in mei 2025. Het systeem gebruikt geavanceerde machine learning-algoritmen om samenvattingen te genereren op basis van diverse webinhoud. Hoewel veel gebruikers het gemak waardeerden, heeft de functie aanhoudende kritiek gekregen vanwege onnauwkeurigheden en oversimplificatie van complexe onderwerpen.

Medische professionals pleiten voor meer substantiële veranderingen. 'Google moet goede veiligheidsmaatregelen implementeren voordat AI wordt ingezet voor gezondheidsinformatie,' zei dr. Chen. 'Dit gaat niet over zoekoptimalisatie - het gaat over patiëntveiligheid. Mensen vertrouwen Google met hun gezondheidsvragen, en dat vertrouwen moet worden verdiend door nauwkeurigheid en verantwoordelijkheid.'

Op dit moment toont Google weer traditionele zoekresultaten voor de getroffen medische zoekopdrachten, maar zorgen blijven bestaan over de bredere betrouwbaarheid van AI Overviews bij andere gevoelige onderwerpen.