B2B-Podcast „Ne Dosis Wissen“: KI in der Medizin – Hilfe oder Jobkiller?

Nach ChatGPT kommen immer mehr medizinisch spezialisierte Sprachmodelle auf den Markt. Erleichtern sie den Ärzt:innen die Arbeit – oder nehmen sie ihnen die Jobs weg? Dieser Frage geht Dr. Dennis Ballwieser, Apotheken Umschau-Chefredakteur und Arzt, in der neuen Folge des Podcasts „'Ne Dosis Wissen“ von gesundheit-hören auf den Grund. Zusammen mit Prof. Dr. Carsten Eickhoff, Informatiker und Leiter des Health NLP Lab an der Universität Tübingen, nimmt der Host Stärken und Schwächen der Modelle unter die Lupe und beantwortet die Frage, ob „Dr. Google“ echte Ärzt:innen eines Tages ersetzen könnte. 

ChatGPT meets „Dr. Google“: Nach allgemeinen Sprachmodellen arbeiten IT-Unternehmen jetzt an speziell auf die Medizin ausgerichteten Sprachmodellen. Was können diese Systeme, wie gut sind sie – und inwieweit können sie Ärzte und Ärztinnen unterstützen? 

Eine aktuelle Studie hat dazu das Google-Sprachmodell PaLM auf die Probe gestellt und gezeigt: Das medizinische Modell schlägt sich mindestens so gut wie andere vergleichbare Sprachmodelle und ist ihnen in manchen Bereichen sogar überlegen. Med-PaLM schnitt in einer Beurteilung durch Kliniker:innen in vielen Aspekten ähnlich gut ab wie andere medizinische Fachleute. Die Modelle werden zwar immer besser, haben aber auch Schwächen: Fast ein Fünftel der Antworten des Sprachmodells beinhaltete falsche oder unpassende Inhalte – bei den menschlichen Expert:innen war das nur etwas mehr als ein Prozent. 

KI: Wie gut ist Dr. Google?

Für den Experten Prof. Dr. Carsten Eickhoff ist klar: „Medizinische Sprachmodelle wie die von Google stellen eine wichtige Entwicklung dar.“ Dabei gebe es aber noch zwei Probleme: „Viele Sprachmodelle sind nur auf Texte trainiert. Bislang können sie bei der Diagnosestellung nur über einen Patienten lesen. In der klinischen Praxis hat man als Mediziner oft auch noch Bildgebung und Laborwerte, die man einschließen möchte.“ Auch Dialekte und eine undeutliche Sprache könnten im Gespräch zwischen Patient:innen und der KI zur Herausforderung werden. 

Das andere Problem ist, dass MedPalM & Co., wie Eickhoff es nennt, „mit sehr hoher Selbstsicherheit auftreten, selbst wenn sie sich unsicher sind oder Unwahrheiten von sich geben.“ In der Grundlagenforschung sei man jetzt dabei, die Modelle zu zwingen, sich an die Fakten zu halten und Quellen zu benennen.

In näherer Zukunft, meint Prof. Eickhoff, könnten die Modelle dazu genutzt werden, Wissen zu sammeln, Forschungsstände zusammenzufassen, gegebenenfalls Empfehlungen für Diagnosen oder Therapien zu geben. Die Entscheidungen, so der Experte, träfen aber immer noch: die Mediziner:innen. 

Zur aktuellen Podcast-Folge „KI: Wie gut ist Dr. Google?“ vom 09.08.2023: https://www.apotheken-umschau.de/podcast/serie/ne-dosis-wissen-der-medizin-podcast-fuer-menschen-im-gesundheitswesen-800579.html