Technische Erfindungen mit Relevanz für im Grunde fast alle Bereiche der Gesellschaft, die alles durchdringen, was wir nutzen, ob im Arbeitsleben oder im privaten Bereich, haben Gesellschaften insgesamt verändert. Der Buchdruck, die Dampfmaschine, Elektrizität, der Computer. Gehört die Künstliche Intelligenz, auch KI oder AI, als Querschnittstechnologie dazu? Welche Relevanz hat KI, vor allem die generative KI, für das Gesundheitswesen, speziell für die Krankenhäuser?
echnische Erfindungen mit Relevanz für im Grunde fast alle Bereiche der Gesellschaft, die alles durchdringen, was wir nutzen, ob im Arbeitsleben oder im privaten Bereich, haben Gesellschaften insgesamt verändert. Der Buchdruck, die Dampfmaschine, Elektrizität, der Computer. Gehört die Künstliche Intelligenz, auch KI oder AI, als Querschnittstechnologie dazu? Welche Relevanz hat KI, vor allem die generative KI, für das Gesundheitswesen, speziell für die Krankenhäuser?
Künstliche Intelligenz ist schon seit längerer Zeit kein Thema nur für Spezialisten. Jede Menge Bücher beschäftigen sich damit, wie der technologische Fortschritt die Gesellschaft verändert. Leben wir schon im Zweiten Maschinenzeitalter? Was kann KI, in welchen Berufen wird sie die Menschen ersetzen, ist gar die Demokratie in Gefahr? Welche Auswirkungen wird KI auf unsere Wertvorstellungen haben? Positive Erwartungen werden ebenso mitgeteilt wie Schreckensszenarien ausgebreitet. Sicher aber kann man davon ausgehen, dass wir uns in einer technologisch-wissenschaftlichen Zeitenwende befinden.
WER TRÄGT DIE VERANTWORTUNG FÜR KI-GESTEUERTE ENTSCHEIDUNGEN? DAS BETRIFFT DAS GESUNDHEITSWESEN IN BESONDEREM MASSE.
Bundesweit haben sich in den vergangenen Jahren Forschungsinstitute etabliert, die sich mit vielen Facetten des Themas Künstliche Intelligenz und speziell auch mit KI im Gesundheitswesen beschäftigen.
Dazu gehören u. a. das Institut für Künstliche Intelligenz in der Medizin (IKI) – eine Gemeinschaftsinstitution der Philipps-Universität und des Universitätsklinikums in Marburg. Als Ziel wird genannt, die Integration von KI in den medizinischen Alltag zu erforschen und aktiv mitzugestalten. Hierbei soll insbesondere das Potenzial von KI in der Diagnosefindung und Therapiesteuerung genutzt, verbessert und in die tägliche Routine integriert werden – in enger Kooperation mit den verschiedenen Abteilungen und Forschungseinrichtungen der Universitätsklinik und der Universität, aber auch in Zusammenarbeit mit Arztpraxen und Patienten.
Das Institut für Künstliche Intelligenz in der Medizin (IKIM) arbeitet als Teil der Medizinischen Fakultät der Universität Duisburg Essen und der Universitätsmedizin Essen eng zusammen mit den etablierten klassischen medizinischen Disziplinen. Ziel des IKIM sei es, die Möglichkeiten der Künstlichen Intelligenz in der Medizin wissenschaftlich zu analysieren und weiterzuentwickeln, diese für die Versorgung von Patientinnen und Patienten nutzbar zu machen und in der Ausbildung von Medizinerinnen und Medizinern zu etablieren.
In der Fraunhofer-Gesellschaft arbeitet eine ganze Reihe von Instituten an KI-Anwendungen für die Gesundheitsversorgung. Acht Fraunhofer Institute, die kürzlich digitale Lösungen für die Gesundheitsversorgung auf der DMEA 2025 in Berlin präsentierten, stellten fest, das Potenzial digitaler Lösungen für das Gesundheitswesen nutzbar zu machen, müsse praxistauglich sein und sich nahtlos in bestehende Abläufe integrieren. Nur so werde das medizinische Personal entlastet. Gleichzeitig brauche es vertrauenswürdige KI-Systeme, die den sicheren Austausch sensibler Gesundheitsdaten gewährleisten. Dies über Sektorengrenzen hinweg.
Als Beispiele wurden u. a. KI-Modelle vorgestellt, die für mehr Transparenz bei medizinischen Entscheidungen sorgen. So stellte das Fraunhofer-Institut für Kognitive Systeme IKS KI-Modelle vor, die aus EKG-Daten oder medizinischen Bildern fundierte Erkenntnisse ableiten. Sie sorgen für mehr Transparenz, liefern aber auch interpretierbare Vorhersagen.
Das Fraunhofer-Institut für Digitale Medizin MEVIS demonstrierte seine Lösungen zur Risikobewertung und Entscheidungsunterstützung.
Die medizinische Dokumentation kann effizienter werden mit einem auf generativen Sprachmodellen basierenden Arztbriefgenerator des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme IAIS.
Aber auch die folgenden Beiträge hier in den Praxisberichten zeigen Ideen, Projekte und Lösungen aus Krankenhäusern und Universitätskliniken.
Es ist also viel im Gange bei diesem spannenden Thema. Auch wenn das, wie verschiedene Umfragen zeigen, von vielen Menschen in Deutschland noch nicht wirklich ernst genommen wird. Die KI wird Vieles in der Medizin und der Pflege deutlich verändern. Das wird also keineswegs nur die Verwaltungen betreffen.
Eine kürzliche Umfrage des Ifo-Instituts zeigte Auswirkungen auf den Arbeitsmarkt. Danach gaben 93 Prozent der befragten Unternehmen in Deutschland an, dass die KI-Revolution bisher keine Auswirkungen auf ihren Personalbestand hätte. Das aber werde sich, so das Institut, in absehbarer Zeit ändern. So würden in den nächsten fünf Jahren 22 Prozent der Dienstleistungsfirmen, 30 Prozent der Handelsunternehmen und sogar 37 Prozent der Industriefirmen einen KI-bedingten Arbeitsplatzabbau erwarten. Im Schnitt werde eine Reduktion von acht Prozent der Stellen veranschlagt.
Angesichts des Personalmangels in quasi allen Bereichen werde das in den Krankenhäusern kaum der Fall sein, wird mancher nun denken. Doch allein schon die Exponate aus den Fraunhofer Instituten lassen da ahnen, dass sich Veränderungen für alle Berufsgruppen in den Kliniken, vor allem aber sicher in den medizinischen und pflegerischen Berufsgruppen, ergeben werden.
Und Ärzte sind hier offenbar ziemlich vorn bei der Beschäftigung mit KI dabei. Offenheit für KI ist bei ihnen jedenfalls vorhanden. Das zeigte eine Umfrage des Online-Buchungssystems Doctolib und des Vereins Gesundheitsstadt Ende vorigen Jahres. Danach waren fast zwei Drittel der Teilnehmer der Ansicht, dass KI künftig unverzichtbar ist. Rund 80 Prozent wünschten sich allerdings mehr Fortbildung und Aufklärung zu dem Thema.
Das ist sicher auch notwendig, denn Experten weisen darauf hin, dass Ärzte ihre Expertise nutzen müssten, um KI zu kontrollieren. So könnte die KI, wenn sie Zugriff auf zum Beispiel sämtliche Studien zu einem Thema habe, auch schlecht gemachte für Empfehlungen nutzen. Es könne zu Fehldiagnosen kommen. Anwendungen müssten gut kontrolliert werden.
Wer trägt die Verantwortung?
Es stellen sich aber auch weitere Fragen – KI nutzt Daten der Vergangenheit. Das hat eine ethische Dimension, die zu beachten ist.
Wer trägt die Verantwortung für KI-gesteuerte Entscheidungen? Das betrifft das Gesundheitswesen in besonderem Maße. Was, wenn die KI-gestützte Diagnose eine schwere, gar lebensbedrohende Krankheit nicht erkennt? Ein Algorithmus, so hilfreich und wichtig bei Entscheidungen er sein kann, ist ein Werkzeug. Er kann die Verantwortung nicht übernehmen.
Ruth Chang, Philosophin an der Universität Oxfort, hat sich mit diesem Thema der Entscheidung und Verantwortlichkeit beschäftigt und sagt im Interview mit der Neuen Züricher Zeitung (Internationale Ausgabe vom 13. März 2024, S. 22), es gebe nicht immer eine richtige Antwort etwa auf die Frage, welcher Patient die wertvolle Niere bekommen soll. In den interessantesten Fällen des menschlichen Lebens seien die Optionen „en Par“, also die Entscheidungsmöglichkeiten seien nicht besser oder schlechter, sondern anders. Daher solle die Maschine in schwierigen Fällen auch sagen können, dass es in diesem Fall keine objektiv bessere Variante gebe, aber Menschenleben stünden auf dem Spiel. „Du musst über die Entscheidung nachdenken und die Verantwortung übernehmen.“ Das zu entwickeln werde schwierig, sei aber notwendig. Aus ihrer Sicht ist das der einzige Weg, KI mit unseren ethischen Werten in Einklang zu bringen. „Bislang haben wir diese Nuss nicht geknackt.“
KI WIRD DIE ARBEITSWELT GRUNDLEGEND UMGESTALTEN. BILDUNGS- UND AUSBILDUNGSSYSTEME MÜSSEN ENTSPRECHEND VERÄNDERT WERDEN, DAMIT MENSCHEN DEN NEUEN ANFORDERUNGEN TATSÄCHLICH GEWACHSEN SINd.
Bildung und Ausbildung müssen sich verändern
KI wird die Arbeitswelt grundlegend umgestalten. Bildungs- und Ausbildungssysteme müssen entsprechend verändert werden, damit Menschen den neuen Anforderungen tatsächlich gewachsen sind. Inzwischen lassen sich Schüler bei ihren Lernarbeiten von KI helfen und 90 Prozent der Studenten nutzen sie für ihr Studium. Das ergab eine deutschlandweite Umfrage der Hochschule Darmstadt vom März dieses Jahres.
Das aber scheint nicht nur positiv zu sein. So zeigte eine Studie des Media Labors des Massachusetts Institute of Technology (MIT), welche Folgen die Nutzung der KI auf das Gehirn haben kann. Sie überprüften, wie WELT am 27. Juni 2025 in einem Beitrag berichtete, in einer umfangreichen Studie über vier Monate die Hirnaktivitäten von 54 Teilnehmern beim Lesen und Schreiben wissenschaftlicher Texte.
Eine Gruppe konnte dafür große KI-Sprachmodelle (Large Language Models, LLM) nutzen. Die andere Gruppe durfte nur Google oder Computer-Unterstützung verwenden. Gemessen wurde dann der Vernetzungsgrad verschiedener Hirnregionen der Teilnehmer und es wurde verglichen, wie viel Aufwand die Gehirne der Nutzer für die Erstellung von Texten investieren mussten. Die Gehirnveränderungen wurden analysiert. Die Ergebnisse der Auswertung charakterisierten die Wissenschaftler mit dem Begriff „Kognitive Schulden“ durch die Nutzung der KI. Die Gehirne der KI-Nutzer waren am Schluss deutlich weniger intensiv vernetzt. Sie waren in Tests weniger leistungsfähig und hatten auch weniger gelernt. Sie konnten ihre Texte z. B. nicht so gut zusammenfassen, übernahmen gängige Formulierungen der KI, ihr eigener Sprachgebrauch war weniger kreativ und sie hatten sich weniger Wissen angeeignet.
Das überrasche nicht, so Peter Gerjets, Professor für empirische Lehr-Lernforschung am Leipnitz-Institut für Wissensmedien im Tübingen in dem Beitrag. „Was man nicht nutzt, verliert man“, kommentierte er. Wer sein Gehirn nicht fordere, baue intellektuell ab. Wenn das intellektuelle Potenzial brach liege, zeige sich das auch deutlich bei kreativen Prozessen.
Die zweite Kontrollgruppe, die ohne KI arbeiten musste, zeigte später bei Testaufgaben, für die sie dann auch ein großes Sprachmodell nutzen konnten, deutlich mehr Kompetenz, Erinnerungsvermögen, konnte eigene Argumente integrieren, Empfehlungen der KI besser beurteilen und umsetzen. Und das sind ja Fähigkeiten, die künftig gebraucht werden. Wie soll die KI sonst innovativ genutzt und weiterentwickelt werden.
Bewältigung bürokratischer Lasten?
Die überbordende Bürokratie ist für viele Unternehmen das Top-Ärgernis derzeit, das vor allem Zeit, Geld und Ressourcen verschlingt. Schon vor Jahren hatte das Statistische Bundesamt berechnet, dass durch rund 9000 Informationspflichten des Bundesgesetzgebers die Kosten für die deutsche Wirtschaft bei rund 47,6 Milliarden Euro liegen.
Auch in den Krankenhäusern stöhnt man über die stetig anwachsende Bürokratie. Laut einer Umfrage des Deutschen Krankenhausinstituts aus dem Jahr 2024 sind Krankenhausärzte zu rund einem Drittel ihrer Arbeitszeit mit bürokratischen Aufgaben befasst. Die Bürokratie in Kliniken sei, so das Fazit, mittlerweile so zeitaufwändig, dass sie „massiv zu Lasten der für die unmittelbare Patientenversorgung verfügbaren Zeiten geht“.
Eine Hoffnung vieler ist daher, KI könne die Bewältigung vieler bürokratischer und administrativer Aufgaben deutlich verbessern. Solche Systeme gibt es ja auch bereits, die in der Praxis verwendet werden. Sie sind durchaus in der Lage, Ärzten und Pflegenden mehr Zeit für die Versorgung der Patienten zu ermöglichen.
EINE HOFFNUNG VIELER IST DAHER, KI KÖNNE DIE BEWÄLTIGUNG VIELER BÜROKRATISCHER UND ADMINISTRATIVER AUFGABEN DEUTLICH VERBESSERN.
Das führt aber möglicherweise auch dazu, dass die Datenbegehrlichkeiten in Politik und bei den Krankenkassen immer weiter ansteigen, immer kleinteiliger zu kontrollieren, immer neue Forderungen zu stellen, die für die Patientenversorgung ohne jede Relevanz sind. Der Einsatz der KI in diesen Bereichen kann deutlich entlastend für die Krankenhäuser sein. Es ist aber, sagen Warner, erst der zweite Schritt. Zunächst einmal müssen bestehende bürokratische Pflichten durchforstet und reduziert werden, Prüfanfragen minimiert werden. Zugleich müssen diejenigen in der Politik und auch in der Selbstverwaltung bei der Kreation immer neuer Bürokratie, immer neuer, oft überflüssiger Dokumentationspflichten, immer neuer Kontrollregelungen sich selbst die Zügel anlegen, ihre Regulierungslust zügeln. Das allein wäre schon ein großer Schritt. Erst dann macht die Nutzung der KI hier wirklich Sinn und schafft nicht womöglich noch weitere Bürokratie.
Für die Akzeptanz von KI ist Vertrauen in deren Einsatz notwendig
KI hat das Potenzial, viele Prozesse deutlich effizienter zu gestalten. Gefährlich wird es aber, wenn den Systemen zu viel Verantwortung gegeben wird und die damit Arbeitenden die von ihr übernommenen Prozesse nicht mehr selbst durchdenken oder sie gar nicht mehr verstehen. Dann können sie die Ergebnisse auch nicht mehr reflektieren, sind aber dennoch verantwortlich dafür.
Für den Hartmannbund hat Dr. Theodor Uden, Vorstandsmitglied des Hartmannbundes und Facharzt für Kinder- und Jugendmedizin in Zusammenarbeit mit Prof. Dr. Martin Hirsch, Leiter des Instituts für Künstliche Intelligenz in der Medizin an der Universität Marburg, ein Thesenpapier zur KI im Gesundheitswesen verfasst, das beim Bundesärztetag 2025 vorgestellt und diskutiert wurde. Grundsätzlich ging es dabei um die Frage, wie wir im Gesundheitswesen zu einer menschlichen, digital unterstützten Versorgung kommen, wie sich die Rollen und die Arbeit in diesem System verändern werden. Die Autoren betonten darin, Voraussetzung dafür, dass die Chancen, die Künstlichen Intelligenz für das Gesundheitswesen sinnstiftend einzubringen, Rahmenbedingungen benötigten, die Gründe für einen Technikoptimismus liefern. Für die Akzeptanz von KI bei Personal und Patienten sei Vertrauen in den Einsatz der neuen Technologien notwendig. Patienten und Gesundheitsfachkräfte müssten aktiv in Entscheidungen über den Einsatz und Umgang mit KI eingebunden werden, so eine Forderung.
Kai-Fu Lee, Ex-Google-China-CEO und weltweit renommierter KI-Experte, nennt Künstliche Intelligenz den größten technologischen Wandel aller Zeiten. KI werde bald wie Strom sein – allgegenwärtig und unentbehrlich. Daraus erwachse aber auch eine große Verantwortung dafür zu sorgen, dass sie ihrem Potenzial als positive Kraft auch gerecht werden könne.
pb-redaktion
Unsere Praxisberichte sind Mitgliedern vorbehalten.
Laden Sie das Antragsformular herunter, reichen Sie es ausgefüllt per E-Mail oder Fax ein und werden Sie Teil des Verbands des Klinikmanagements Deutschlands e. V. Bei Fragen steht Ihnen die Geschäftsstelle jederzeit persönlich zur Verfügung. Wir freuen uns auf Ihre Mitgliedschaft!
Sind sind bereits Mitglied? Hier anmelden
