Die Onlineplattform „KI.Welten“ der Kompetenzplattform KI.NRW hat sogenannte Use Cases in einer Übersicht zusammengestellt, die Interessierte in einer virtuellen Umgebung entdecken können. Die „KI.Welt Krankenhaus“ ist kostenfrei auf der Website welten.ki.nrw/krankenhaus zu finden.
Die größte Hürde ist nicht die Technik
Anlässlich der DMEA 2026 hat das Fraunhofer IAIS im April ein neues Whitepaper „Strategischer Einsatz von Künstlicher Intelligenz als Schlüssel für die Zukunftsfähigkeit von Kliniken“ veröffentlicht. Es liefert Antworten auf die Fragen, wie Krankenhäuser KI so einsetzen können, dass sie medizinisches Personal nachhaltig entlastet, die Versorgungsqualität verbessert, aber gleichzeitig auch regulatorischen Anforderungen gerecht wird.
Künstliche Intelligenz werde im Krankenhaus häufig in einzelnen Pilotprojekten erprobt – etwa in der Dokumentation, der medizinischen Bildanalyse oder der Entscheidungsunterstützung. Der nachhaltige Nutzen bleibe jedoch oft begrenzt, heißt es in einer Information dazu. Das Whitepaper zeige, dass die größten Hürden weniger in der Technologie als vielmehr in fehlenden Datenstrategien, unklaren Zuständigkeiten, regulatorischer Unsicherheit und mangelnder Akzeptanz bei Mitarbeitenden liegen.
Finanzierung und Rechtssicherheit
In einem Papier zur Künstlichen Intelligenz verweist die Deutsche Krankenhausgesellschaft u.a. darauf, dass im KHZG das Thema Infrastruktur nicht berücksichtigt sei. Die sei aber unabdingbare Voraussetzung für die Nutzung der KI im Krankenhausbereich. Die Kliniken müssten dazu befähigt werden, die für eine KI-Nutzung notwendigen Infrastrukturen einzuführen und zu betreiben. Diese Infrastrukturen und KI-Anwendungen seien daher aus dem Sondervermögen, etwa im Rahmen eines KHZG 2.0, zu finanzieren. Der Fokus müsse dabei auf offenen und gemeinsamen Infrastrukturen im Sinne von Plattformen liegen. Finanziert werden müssten auch die Betriebskosten.
Um Rechtssicherheit für Einsatz und Betrieb von KI herzustellen, seien die rechtlichen Rahmenbedingungen dafür zu klären. Während sich die Pflichten der Krankenhäuser aus der KI-Verordnung ergeben, gebe es offene Fragen, die vor allem die Haftung bei nicht erklärbaren (non-explainable) Algorithmen – etwa, wo die Verantwortung des Herstellers ende, die des Krankenhauses beginne – beträfen.
Große Chancen, aber auch Gefahren durch KI
Natürlich muss man sich auch der Gefahren bewusst sein, die durch KI-Nutzung im Krankenhaus entstehen können. Dazu gehören u.a. Verstöße gegen den Datenschutz, etwa wenn von Mitarbeitern frei verfügbare KI-Tools genutzt und Patientendaten eingegeben werden. Eine Gefahr ist auch, wenn Trainingsdaten für die KI nicht repräsentativ waren, so dass es zu Fehldiagnosen kommt.
Sicher hat jeder schon mitbekommen, dass die großen Sprachmodelle in manchen Fällen auch falsche medizinische Informationen herausgeben – sogenannte Halluzinationen. Das kann z.B. passieren, wenn die KI auf Studien oder Leitlinien zugreift, die veraltet oder widerlegt wurden. Daher ist immer wieder zu betonen, dass die Verantwortung beim Arzt liegt.
Selbst Entwickler wissen oft nicht mehr genau, auf welchen Wegen die KI Entscheidungen trifft und vermittelt. Beim Thema Mensch und Maschine sind noch viele Fragen offen. In jedem Fall sollten KI-Anwendungen regelmäßig evaluiert werden. Daher benötigen Ärzte Expertise, um die KI zu kontrollieren. Wichtig ist es daher, dass sowohl die fachlichen als auch ethische und rechtliche Fragen in die Ausbildung von Pflegenden und Ärzten für die jeweilige Berufsgruppe angepasst aufgenommen werden.