Experten warnen davor, medizinische Ratschläge von KI anzunehmen

Untersuchungen zufolge kommen immer mehr Patienten mit vorgefertigten Entscheidungen in die Kliniken, die oft auf Diagnosen oder Behandlungsplänen basieren, die von KI-Tools vorgeschlagen werden.

Einem VNA-Reporter in Ottawa zufolge zeigt eine neue Studie, dass künstliche Intelligenz (KI) überzeugende medizinische Ratschläge geben kann. Medizinische Experten befürchten jedoch, dass Patienten durch ihr übermäßiges Vertrauen in die KI wichtige Gelegenheiten verpassen, ihren Gesundheitszustand mit Ärzten zu besprechen – ganz zu schweigen von den Folgen, die sich aus einer möglichen Fehldiagnose durch die KI ergeben.

Die von Wissenschaftlern der University of British Columbia (UBC) durchgeführte Untersuchung ergab das überraschende Ergebnis, dass große Sprachmodelle (LLMs) wie ChatGPT nicht nur Informationen liefern, sondern auch überzeugender und angenehmer kommunizieren als echte Menschen.

Dr. Vered Shwartz, außerordentlicher Professor für Informatik an der UBC, sagte, dass Gespräche mit KI manchmal überzeugender und einfühlsamer wirken als persönliche Gespräche mit echten Ärzten. KI-Chatbots sprechen mittlerweile menschenähnlicher und selbstbewusster, was die Wahrscheinlichkeit erhöht, dass Menschen überzeugt werden.

Der Studie zufolge kommen immer mehr Patienten mit vorgefertigten Entscheidungen in die Kliniken, die oft auf Diagnosen oder Behandlungsplänen basieren, die von KI-Tools vorgeschlagen werden.

Dr. Cassandra Stiller-Moldovan, eine Hausärztin aus Colwood im kanadischen British Columbia, sagte, dass die Ratschläge von KI-Chatbots zwar oft richtig seien, das Problem jedoch nicht vollständig widerspiegle, sodass Ärzte viel Zeit damit verbringen müssten, den Patienten Erklärungen zu geben und sie zu überzeugen.

Das Problem wird durch eine weitere Studie der University of Waterloo (ebenfalls in Kanada) noch verschärft. Darin wurde festgestellt, dass KI-Chatbots wie ChatGPT Version 4 bei der Diagnose von Gesundheitsproblemen mehr falsche als richtige Informationen lieferten.

Insbesondere als die Forscher eine Reihe offener Fragen stellten, wurden nur 31 % der Antworten von ChatGPT als völlig richtig beurteilt.

Die Canadian Medical Association (CMA) sagt, dass die zunehmende Abhängigkeit von KI verständlich sei, da viele Kanadier keinen Zugang zu Hausärzten hätten und lange auf Termine warten müssten.

Während sie ungeduldig warten, haben sich viele Menschen KI-Tools zugewandt, um Antworten als alternative Lösung zu finden./.

(TTXVN/Vietnam+)

Quelle: https://www.vietnamplus.vn/chuyen-gia-khuyen-cao-can-trong-voi-loi-khuyen-y-te-cua-ai-post1069996.vnp