Google stoppt KI-Gesundheitsübersichten nach gefährlichen medizinischen Fehlern

Google entfernt KI-Gesundheitsübersichten nach Untersuchung zu gefährlicher Desinformation

Google hat seine KI-Übersichtsfunktion (AI Overviews) stillschweigend von bestimmten medizinischen Suchanfragen entfernt, nachdem eine Untersuchung von The Guardian aufdeckte, dass das System gefährlich falsche Gesundheitsinformationen lieferte, die Patienten in ernsthafte Gefahr bringen konnten. Die KI-generierten Zusammenfassungen, die oben in den Google-Suchergebnissen erscheinen, gaben irreführende medizinische Ratschläge, darunter potenziell tödliche Ernährungsempfehlungen für Krebspatienten.

Gefährliche medizinische Fehler entdeckt

Die Untersuchung fand mehrere Fälle, in denen Googles KI-Übersichten schädliche medizinische Informationen lieferten. Ein besonders alarmierendes Beispiel betraf Bauchspeicheldrüsenkrebs-Patienten, denen geraten wurde, fettreiche Nahrung zu vermeiden. 'Das ist genau das Gegenteil von dem, was medizinische Fachkräfte empfehlen,' sagte Dr. Sarah Chen, eine Onkologin, die auf Magen-Darm-Krebs spezialisiert ist. 'Bauchspeicheldrüsenkrebs-Patienten benötigen oft fettreiche Diäten, um Gewicht und Kraft während der Behandlung zu erhalten. Diese Art von Desinformation kann buchstäblich Leben kosten.'

Ein weiterer kritischer Fehler betraf Leberfunktionstests. Die KI präsentierte ordentliche numerische Bereiche für Leberbluttests, ohne zu erklären, dass normale Ergebnisse von Faktoren wie Alter, Geschlecht, ethnischer Zugehörigkeit und Medikamenteneinnahme abhängen. 'Das schafft gefährliche falsche Sicherheit,' erklärte Dr. Michael Rodriguez, ein Hepatologe. 'Patienten mit schweren Lebererkrankungen könnten diese Zahlen sehen und denken, dass alles in Ordnung ist, wodurch sie entscheidende medizinische Versorgung verzögern.'

Teilweise Entfernung und anhaltende Bedenken

Google hat KI-Übersichten von spezifischen Suchbegriffen wie 'was ist der normale Bereich für Leberbluttests' entfernt, aber die Untersuchung zeigte, dass kleine Variationen dieser Suchanfragen immer noch ungenaue KI-Zusammenfassungen produzieren. Das Unternehmen hat keine umfassende Erklärung dafür gegeben, warum diese Änderungen vorgenommen wurden, obwohl Quellen nahelegen, dass die Untersuchung von The Guardian eine wichtige Rolle spielte.

Ein Google-Sprecher erklärte: 'Wir investieren stark in die Qualität der KI-Übersichten, insbesondere für sensible Themen wie Gesundheit. Während die überwältigende Mehrheit genaue Informationen bietet, arbeiten wir kontinuierlich daran, unsere Systeme zu verbessern.' Kritiker argumentieren jedoch, dass diese Reaktion angesichts der Schwere der Fehler unzureichend ist.

Breitere Implikationen für KI im Gesundheitswesen

Dieser Vorfall wirft wichtige Fragen zur Zuverlässigkeit von KI-generierten Gesundheitsinformationen auf. Experten warnen, dass das grundlegende Problem darin liegt, wie KI-Übersichten Inhalte aus Googles Seiten-Ranking-System zusammenfassen, das SEO-optimierte Inhalte und Spam enthalten kann. Die KI präsentiert dann fehlerhafte Schlussfolgerungen mit einem autoritären Ton, der Fehler vertrauenswürdig erscheinen lässt.

'Das Problem geht nicht nur um das Entfernen spezifischer Suchanfragen,' sagte die KI-Ethikerin Dr. Elena Martinez. 'Es geht um den gesamten Ansatz von KI-generierter medizinischer Information. Diese Systeme benötigen korrekten Kontext, nuanciertes Verständnis und fachkundige Aufsicht – nichts davon ist derzeit in KI-Übersichten vorhanden.'

Die Kontroverse kommt, während KI-Unternehmen wie OpenAI und Anthropic sich für Gesundheitsanwendungen ihrer Produkte einsetzen, was die schwerwiegenden Folgen selbst kleiner Fehler in medizinischen KI-Anwendungen unterstreicht.

Was folgt für Googles KI-Funktionen?

Google führte KI-Übersichten als Teil seiner Search Generative Experience im Jahr 2023 ein, wobei die Funktion im Mai 2025 weltweit in über 200 Ländern verfügbar wurde. Das System nutzt fortschrittliche Machine-Learning-Algorithmen, um Zusammenfassungen auf Basis verschiedener Webinhalte zu generieren. Während viele Nutzer den Komfort schätzten, hat die Funktion anhaltende Kritik wegen Ungenauigkeiten und Vereinfachung komplexer Themen erhalten.

Medizinische Fachkräfte plädieren für substanziellere Veränderungen. 'Google muss angemessene Sicherheitsmaßnahmen implementieren, bevor KI für Gesundheitsinformationen eingesetzt wird,' sagte Dr. Chen. 'Hier geht es nicht um Suchmaschinenoptimierung – es geht um Patientensicherheit. Menschen vertrauen Google mit ihren Gesundheitsfragen, und dieses Vertrauen muss durch Genauigkeit und Verantwortung verdient werden.'

Derzeit zeigt Google wieder traditionelle Suchergebnisse für die betroffenen medizinischen Suchanfragen, aber Bedenken bleiben hinsichtlich der breiteren Zuverlässigkeit von KI-Übersichten bei anderen sensiblen Themen bestehen.