KI im Gesundheitswesen

Robotik und künstliche Intelligenz (KI) verändern nicht nur die Arbeit von Versicherungsmaklern wie uns, sondern auch die unserer Kunden, beispielsweise im Gesundheitswesen, rasant. In vielen Kliniken, Krankenhäusern und Arztpraxen sind KI-gestützte Auswertungen, Roboterassistenten im OP und viele weitere Technologien auf dem Vormarsch.Doch welche Risken gehen damit einher und wie können sich die Anwender davor schützen und Risiken absichern? Antworten auf diese Fragen geben Michaela Krause und Katja Kreylos, die beide im Produktmanagement und zugleich auch Mitglieder des Arbeitskreises KI der Ecclesia Gruppe sind.

Können KI-Tools oder Robotik im Gesundheitsbereich wirklich rechtssicher eingesetzt werden?

Michaela Krause: Zurzeit ja. Denn laut aktueller Rechtsprechung und Gesetzeslage ist KI kein eigenes Rechtssubjekt. Hinter der KI stehen immer Unternehmen oder juristische Personen, die in der Haftung stehen. Und wenn an der KI nichts verändert wird, ist das völlig unproblematisch. Anders verhält es sich, wenn unsere Kunden die Software verändern. Dann könnten sie in der Haftung sein. Dafür haben wir extra einen digitalen Baustein entwickelt, der sich im Rahmen der normalen Betriebshaftpflicht-Versicherung konkret auf Digitalisierung und Datenrisiken bezieht.

Wie weit ist denn der Einsatz von KI im Gesundheitsbereich?

Michaela Krause: Der Einsatz von KI steht zwar noch am Anfang, aber es zeichnet sich schon eine rasante Entwicklung ab, weil die Technik enorm voranschreitet. Wir haben uns im Arbeitskreis KI bereits damit auseinandergesetzt: Beispielsweise gibt es in der Radiologie schon eine KI-Anwendung, die die Bilder vorselektiert. Auch bei Mammographie-Screenings ist bei den meisten Geräten bereits eine KI im Einsatz. Aber der Großteil der Geräte arbeitet noch nicht autark, sondern erfordert immer noch einen Arzt zur Beurteilung oder bei der Operation.

Katja Kreylos: Der Kernbereich der medizinischen Leistungserbringer verändert sich durch Digitalisierungen oder den Einsatz von KI im Gesundheitswesen enorm. Auch wenn unsere Kunden mittlerweile Texte über KI erstellen lassen, ist der Einsatz von Robotern in OPs eher noch eine Ausnahme – aber es wird zunehmend mehr. Diese Roboter werden zurzeit noch von einem Menschen bzw. Arzt bedient und sind nicht mit ihrer eigenen technischen Intelligenz unterwegs. Da sich die Technik allerdings rasant entwickelt, können sie bestimmt künftig in gewissen Teilbereichen eigenständige Tätigkeiten innerhalb des Operationssystems übernehmen.

Und wer wäre dann verantwortlich, wenn ein Fehler bei der OP passiert?

Michaela Krause: Zurzeit haftet der Arzt, da immer noch das Deliktsrecht nach Paragraf 823 des Bürgerlichen Gesetzbuches greift. Bei einem reinen Softwarefehler haftet der Hersteller. In diesem Fall kann es zu Diskussionen kommen, da der Arzt in der Beweislast steht. Deshalb muss man sich das System ganz genau anschauen und prüfen, ob der Arzt tatsächlich alles richtig gemacht hat. Das ist definitiv ein heikler Grad für unsere Kunden.

Katja Kreylos: Wenn etwas schief geht, gehen die Patienten in der Regel immer zuerst auf das Krankenhaus als Vertragspartner und im zweiten Schritt auch auf den Arzt zu, da der Fehler in diesem Verantwortungsbereich entstanden ist. In diesem Fall muss das Krankenhaus sämtliche Operations- und Aufklärungsberichte genau sichten und prüfen, welche Tätigkeiten von wem vorgenommen wurden. Denn wir sprechen hier über die gesamtschuldnerische Haftung, sodass nicht nur das Krankenhaus, sondern auch der Arzt persönlich, in der Haftung stehen und schadenersatzpflichtig gemacht werden können.

Michaela Krause: Das sind zurzeit die bestehenden Risiken, die wir mit unseren Bausteinen der Betriebshaftpflichtversicherung der Versicherungsnehmer, vorrangig der Krankenhäuser, sehr gut absichern können. Deshalb müssen sich unsere Kunden zum aktuellen Zeitpunkt keine Sorgen machen. Aber wir müssen dieses Thema aufmerksam kontinuierlich verfolgen und schauen, welche Instrumente und Software unsere Kunden nutzen und gegebenenfalls auch selbst entwickeln.

Was denken Sie, wo KI künftig im Gesundheitsbereich eingesetzt wird?

Michaela Krause: Zurzeit wird beispielsweise bei Spezialprothesen mit 3-D-Druckern gearbeitet, die selbst mittels der Technik entwickelt wurden und individuell auf den einzelnen Patienten zugeschnitten sind. In diesem Bereich sind große Krankenhäuser und Universitätskliniken Vorreiter.

Katja Kreylos: Das gilt auch für Marknägel, die beispielsweise bei einem Oberschenkelbruch eingesetzt werden. Es gibt nämlich Spezialfälle, in denen keine Standards verwendet werden können. In diesem Bereich wird die 3D-Technologie künftig ganz neue Möglichkeiten eröffnen. Darüber hinaus sind Diagnose-Apps mit Bilderkennungssoftware und Patienten-Apps denkbar, bei denen eine KI den Diagnoseprozess widerspiegelt und dem Patienten zur Verfügung stellt. Das würde die Ärzte und ihre Mitarbeitenden praktisch massiv entlasten.

Gibt es in der Gesundheitswirtschaft hoch kritische Bereiche, die besonders abgesichert werden müssen?

Katja Kreylos: Ein besonders kritischer Bereich sind beispielsweise bionische Prothesen, die fest mit dem Körper verbunden sind. Sie können relativ schnell zu einem Personenschaden führen. Deshalb wird in diesem Bereich bei der Betriebshaftpflichtversicherung der Extra-Baustein für die erweiterte Produkthaftpflichtversicherung benötigt.

Michaela Krause: Das liegt daran, dass immer eine neue Operation erforderlich ist, um ein mangelhaftes Teil wieder aus- und ein mangelfreies Teil wieder einzubauen. Da dies nicht mit der Einwilligung des Patienten abgedeckt ist, kann er Schmerzensgeld fordern.

Wie können diese Haftungsrisiken minimiert werden?

Michaela Krause: Durch ein professionelles Risikomanagement. Vor allem Kliniken und Krankenhäuser haben auf diesem Gebiet schon ein Problembewusstsein entwickelt, wodurch die Fehlerquote sinkt – auch weil man auf spezielle Gefahrenquellen ein besonderes Augenmerk legt.

Bietet Ecclesia für den Einsatz von KI bereits spezielle Versicherungslösungen an?

Michaela Krause: Wir haben einen Digitalisierungs- und Datenrisiken-Baustein und neben der reinen Produkthaftpflichtversicherung auch eine erweiterte Produkthaftpflicht entwickelt, die in der Regel Bestandteile unserer Betriebshaftpflichtbedingungswerke sind. Wenn neue technische Risiken entstehen, müssen diese berücksichtigt, entsprechend eingearbeitet und mit den Versicherern neu verhandelt werden.

Zu welchem Fazit sind Sie in Ihrem Arbeitskreis gekommen?

Michaela Krause: Im Haftpflichtbereich sind wir beim Thema KI zurzeit sehr gut aufgestellt und haben genug Möglichkeiten, unseren Kunden die erforderliche Sicherheit zu bieten. Die Technologien und ihre Einsatzgebiete entwickeln sich rasant. Das behalten wir im Blick.