Ein Forschungsteam der Universität Oxford veröffentlichte im Februar 2026 eine Studie zur Verlässlichkeit von Künstlicher Intelligen (KI) in der medizinischen Beratung. Mit insgesamt 1.298 Teilnehmenden untersuchten die Wissenschaftler, ob Sprachmodelle wie GPT-4o, Llama 3 oder Command R+ medizinische Laien bei gesundheitlichen Einschätzungen sicher unterstützen können.
Das Ergebnis im Fachjournal Nature Medicine ist eindeutig: Während die KI-Modelle ohne menschliche Interaktion medizinische Bedingungen in 94,9 % der Fälle korrekt identifizierten, sank dieser Wert im Dialog mit echten Nutzern auf unter 34,5 %. Die Untersuchung belegt, dass exzellentes Fachwissen in der Software allein keine sichere Beratung garantiert, da die Kommunikation zwischen Mensch und Maschine oft an unvollständigen Informationen oder Fehlinterpretationen scheitert.
Die Analyse: Wo liegen die Schwachstellen digitaler Beratung?
Kurzgesagt: Die KI ließ sich zu leicht von den Probanden auf die falsche Fährte führen. In unserer redaktionellen Analyse der Studie identifizierten wir drei relevante Punkte, die sich auf die Arbeit am Point-of-Sale bei einem Leistungserbringer übertragen lassen:
- Das Informations-Leck: Viele Probanden verschwiegen der KI wichtige Details, obwohl ihnen alle Fakten schriftlich vorlagen. Im Gegensatz zur passiven KI können Fachkräfte vor Ort aktiv nachhaken und diese Lücken durch gezielte Fragen schließen.
- Wissen ersetzt keine Entscheidung: In über 65 % der Fälle nannte die KI zwar eine richtige Lösung, doch die Nutzer konnten diese Information aus der Fülle der Vorschläge nicht herausfiltern. Experten im Fachhandel bieten hier die nötige Orientierungshilfe.
- Gefährliche Inkonsistenz: Die Studie deckte auf, dass KIs bei fast identischen Schilderungen extrem unterschiedliche Ratschläge gaben – von der Notaufnahme bis hin zur bloßen Ruhepause. Natürlich stellen Mitarbeiterinnen im Sanitätshaus keine Diagnosen, sie bieten jedoch eine Verlässlichkeit in der Beratung, die der KI im Dialog fehlt.
