[ziesell]

KI in der Medizin: Lauterbach sieht Gefahr von Fehldiagnosen

Der Bundesgesundheitsminister sieht zugleich viele positive Möglichkeiten für die Medizin, wenn künstliche Intelligenz wie ChatGPT eingesetzt wird.



Bundesgesundheitsminister Karl Lauterbach sieht beim Einsatz von KI-Chatbots wie ChatGPT im Gesundheitssystem Chancen – und warnt vor Gefahren wie etwa Fehldiagnosen. Der Einsatz künstlicher Intelligenz könne aber auch eine Hilfe sein, erklärte der Minister.

"Es wird bald Programme geben, bei denen ein Patient Symptome, Befunde und bisherige Behandlungen mündlich erklärt und dann von der KI eine Einschätzung seiner Krankheit und sogar mögliche Therapievorschläge bekommt", sagte der SPD-Politiker den Zeitungen der Funke Mediengruppe.

ChatGPT gibt solche Auskünfte im schriftlichen Dialog bereits heute. Hohe Aufmerksamkeit erregte im März 2023 der Bericht eines Hundehalters auf Twitter: Demnach soll der Nachfolger des Programms, GPT-4, die Krankheit seines Vierbeiners unter anderem auf Basis von Laborwerten korrekt diagnostiziert haben, die ein Tierarzt zuvor nicht erkannt hatte.

KI-Chatbots können falsche Informationen verbreiten

Allerdings können Chatbots auch erfundene Informationen verbreiten, ohne dass dies auf den ersten Blick erkennbar ist. Es ist dann viel Hintergrundwissen zu dem jeweiligen Thema erforderlich, um solche Fehlinformationen zu erkennen.

Lauterbach forderte, die Anwendung von KI-Systemen wie ChatGPT im Gesundheitsbereich zu regulieren. "Sie müssen geprüft werden und zuverlässig sein", sagte der Minister den Zeitungen. Zudem müsse sichergestellt sein, dass die Daten nicht missbraucht werden könnten.

Lauterbach sieht Potenzial bei künstlicher Intelligenz

Grundsätzlich sehe er den Einsatz von künstlicher Intelligenz im Gesundheitssystem aber positiv. Chatbots könnten künftig Therapien theoretisch durchspielen und Fragen nach der Wirksamkeit von Medikamenten für einen konkreten Patienten beantworten.

KI könne bereits jetzt manchmal besser sein als ein geübter Facharzt, meinte Lauterbach. "Die besten Ergebnisse erzielt aber die Kombination aus künstlicher Intelligenz und einem Arzt."

[ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]

[MunichEast]

Kein Mensch, auch kein Arzt, kann alle Krankheiten im Kopf haben. Es sind über 30.000 an der Zahl und hier ist eine K.I. dem Mensch überlegen. Die Frage aber ist, was wenn die K.I. eine Fehldiagnose mit dramatischen Folgen trifft ?

[elise]

... dann hat die zumindest kein schlechtes gewissen, mit dem sie sich rumplagen muss...

was fehlen wird, ist ein verantwortlicher - oder jemand, den man verantwortlich machen kann... ob das in dem bereich gut oder schlecht ist, wage ich grad nicht zu beurteilen.

[muavenet]

Zitat von elise

was fehlen wird, ist ein verantwortlicher - oder jemand, den man verantwortlich machen kann...

Der Einsatz einer Diagnose-KI schließt das Kittelfleisch am Ende der Entscheidungsschleife (mit dazugehöriger Arzthaftung und Berufshaftpflichtversicherungen) ja nicht aus.

[elise]

Zitat von muavenet

Der Einsatz einer Diagnose-KI schließt das Kittelfleisch am Ende der Entscheidungsschleife (mit dazugehöriger Arzthaftung und Berufshaftpflichtversicherungen) ja nicht aus.

tut es sicher nicht... aber man kann hoffen, dass die wei?en Kittel die Verantwortung nicht auf die KI abschieben (k?nnen) oder dass das Nachdenken dann zu kurz kommt...

Sieht man ja im praktischen Alltag auch... man denke an Navi oder Handy - wer denkt denn noch selber, wenn er ein Ger?t dazu hat?!

[SubFooWer]

Die Frage ist doch: Wer programmiert diese KI, die dann Medikamente empfiehlt?

Ich tippe mal drauf, dass Pfizer und Ratiopharm gerne schon mit schwarzen Koffern Schlange stehen.

Einen Mediziner mit einen "Lehrgang" auf Mallorca von den Vorteilen eines bestimmten Medikamentes zu überzeugen geht zwar auch, aber bei KI würde das eine ganz andere Dimension annehmen können.

[Caplan]

Nun, mal unabhaengig davon wird man sich am Ende auch bequemen, der KI, nach einiger Zeit der Pruefung , einen gewissen Vorrang zu geben.
Nehmt nur mal den Effekt der google translate-geschichte.
Man mus heute kein chinesich sprechen oder explizit schreiben koennen, um irgendwas an den Mann zu bringen.
Nur, ob es denn richtig ist, wird von demjenigen nicht pruefbar sein, der es nicht spricht.
Ihr wisst schon was ich meine..hab ich jetzt Danke oder A-loch geschrieben..google sagt..Danke

Die, die das noch -konvetionell- ,in ein paar Jahren wird man oldschool sagen, gelernt haben koennen NOCH korregierend eingreifen, da der Wissensstand noch analog ist.

Gibt es irgendwann die Mediziner die das analoge vernachlaessigen, dann wird die Pruefbarkeit immer duennfluessiger oder der Mediziner zur ausfuehrenden linken Hand der KI
Darin saehe ich eher ein Problem - in Zukunft-

Das die KI sicherlich Szenarien deutlich schneller durchspielen kann, steht sicherlich nicht ernsthaft zur Debatte, nur formt KI daraus eine Handlungsempfehlung oder auch einen absoluten Handlungsstrang.
Was es sicherlich bewirken kann , ist den Medzinern schneller auf die moegliche Spur zu helfen durch irgendwelche Indizienszenarien und auch bestellte Varianzen zu simulieren, aber eben anhand wieder von Falldaten und Einschaetzungen dieser.

Die derzeitge KI sehe ich eher als Rate-programm, ohne Input keine Vergleiche und Varianzvergleiche
Sie sicht letztendlich NOCH nach den besten Zusammenhaengen..
Das diese aktuell auch mal -amuesante- Ausreisser zulaesst, kann man ja auch nachlesen.