Die zunehmende Komplexität der Patientenversorgung und der steigende Dokumentationsaufwand belasten Ärztinnen und Ärzte im Alltag. KI-Lösungen können helfen, Routinetätigkeiten zu automatisieren, Diagnosen zu unterstützen und die Kommunikation zu erleichtern. Dies führt zu einer besseren Nutzung der verfügbaren Zeit, die Ärztinnen und Ärzte für die Versorgung ihrer Patientinnen und Patienten einsetzen können. Der Einsatz künstlicher Intelligenz (KI) im medizinischen Alltag nimmt stetig zu, wobei insbesondere Large Language Models (LLMs) wie ChatGPT-4 das Potenzial haben, die medizinische Praxis grundlegend zu verändern. Eine im Dezember 2024 durchgeführte Umfrage der Online-Akademie arztCME.de ergab, dass bereits 40,1 % der ­befragten Ärztinnen und Ärzte KI-Anwendungen in ihrem ­Berufsalltag nutzen.

‍

Einsatzgebiete von LLMs in der Medizin

LLMs finden in der Medizin vielfältige Einsatzmöglichkeiten. Sie können große Mengen medizinischer Daten analysieren und dabei helfen, klinisch relevante Merkmale aus Patientenakten zu identifizieren. So konnte beispielsweise gezeigt werden, dass das Sprachmodell „Llama 2“ erfolgreich wichtige klinische Merkmale aus Patientenakten extrahieren kann. Weiterhin können LLMs die Erstellung von Arzt­briefen unterstützen, indem sie strukturierte und maschinenlesbare Daten generieren, die die Dokumentation erleichtern und die Effizienz steigern. ­Zudem sind LLMs in der Lage, medizinische Informationen in verständliche Alltagssprache zu übersetzen, was die Kommunikation mit Patientinnen und Patienten verbessert und zur Erhöhung der ­Gesundheitskompetenz beitragen kann.

‍

Vorteile des Einsatzes von LLMs

Durch die Automatisierung von Routineaufgaben können Ärztinnen und Ärzte entlastet und administrative Prozesse beschleunigt werden. Darüber ­hi­naus können LLMs dazu beitragen, Diagnosen zu präzisieren und Therapieentscheidungen durch ­evidenzbasierte Empfehlungen zu unterstützen. Ein weiterer Vorteil ist die Möglichkeit der persona­lisierten Medizin.

LLMs können Therapieempfehlungen generieren, die auf den Bedürfnissen des individuellen Patienten basieren.

LLMs können Patientendaten analysieren und individuelle Therapieempfehlungen generieren, die auf den spezifischen Bedürfnissen und Eigenschaften des Patienten basieren. Dies kann zu einer höheren Wirksamkeit von Behandlungen und einer besseren Patientenversorgung führen. Darüber hinaus können LLMs in der medizinischen Forschung eingesetzt werden, um große Mengen wissenschaftlicher ­Literatur zu durchsuchen und relevante Informationen zu extrahieren. Dies kann den Forschenden ­helfen, auf dem neuesten Stand der Wissenschaft zu bleiben und innovative Ansätze zu entwickeln.

Herausforderungen und ethische Fragen

Trotz der genannten Vorteile gibt es Herausforderungen und ethische Aspekte, die beim Einsatz von LLMs in der Medizin berücksichtigt werden müssen. Der Umgang mit sensiblen Patientendaten erfordert strenge Datenschutzmaßnahmen, um die Vertraulichkeit zu gewährleisten. Zudem hängt die Akzeptanz KI-gestützter Systeme wesentlich vom Vertrauen der ­Nutzer ab. Transparenz und Nachvollziehbarkeit der Entscheidungen von LLMs sind daher unabdingbar. Ein weiteres ethisches Dilemma betrifft die Haftung. Bei Fehlentscheidungen oder unerwarteten Ergebnissen stellt sich die Frage, wer die Verantwortung trägt – der Entwickler des Modells, der Anwender oder das Gesundheitssystem? Diese Unklarheiten können zu rechtlichen und ethischen Konflikten führen. Zudem besteht die Gefahr eines algorithmischen Bias. Wenn die Daten, mit denen LLMs trainiert werden, Verzerrungen enthalten, können die Modelle diese übernehmen und verstärken, was zu ungerechten oder diskriminierenden Ergebnissen führen kann. Daher ist es ­wichtig, die Trainingsdaten sorgfältig auszuwählen und kontinuierlich zu überwachen.

Wer selbst eine wissenschaftliche Arbeit mit ChatGPT erstellen wollte, kennt die Problematik der halluzinierten Referenzen, die es nicht nur im medizinischen Bereich gibt. Schlögl und Süleymen (2024) ­unter­suchten diese Problematik in wissenschaftlichen Artikeln der Betriebswirtschaftslehre, die mittels ChatGPT generiert wurden. Ein überraschendes Ergebnis war, dass fast 40 % der 174 referenzierten Quellen unvollständige oder fehlerhafte Informationen enthielten, die häufig nicht nachprüfbar waren. Darüber hinaus waren zwischen 18 und 100 % der Quellen in Google Scholar nicht auffindbar. Die Autoren kommen zu dem Schluss, dass ChatGPT nicht für die Erstellung wissenschaftlicher Arbeiten geeignet ist, sondern lediglich als unterstützendes Werkzeug, z. B. zur Rechtschreibprüfung, eingesetzt werden sollte.

‍

Zukunftsperspektiven

Die Integration von LLMs in den medizinischen ­Alltag steht noch am Anfang, bietet aber vielversprechende Perspektiven. Durch kontinuierliche Weiterentwicklung und Anpassung an die spezifischen Bedürfnisse des Gesundheitswesens können LLMs dazu beitragen, die Patientenversorgung zu verbessern und das medizinische Personal zu entlasten. Die ­Implementierung dieser Technologien muss jedoch unter Berücksichtigung ethischer, rechtlicher und sozialer Aspekte erfolgen, um einen verantwortungsvollen und ­patientenzentrierten Einsatz zu gewährleisten. Dazu sollten frühzeitig Aus- und Weiter­bildungsprogramme entwickelt werden, um das medizinische Personal im Umgang mit LLMs zu schulen und deren Potenzial voll auszuschöpfen. Dies kann dazu beitragen, die Akzeptanz und das Vertrauen in diese Technologien zu erhöhen und ihren effektiven Einsatz im klinischen Alltag zu fördern.

‍

LLMs haben das Potenzial, die medizinische Praxis zu revolutionieren, indem sie die Effizienz steigern, die Diagnostik verbessern und eine personalisierte Medizin ermöglichen. Gleichzeitig müssen jedoch ethische, rechtliche und soziale Herausforderungen angegangen werden, um einen verantwortungsvollen Einsatz zu gewährleisten. Bei sorgfältiger Implementierung und kontinuierlicher Weiterbildung des medizinischen Personals kann der Einsatz von LLMs zu einer verbesserten Patientenversorgung und einer Entlastung der Ärztinnen und Ärzte führen.