Ärzteschaft
Künstliche Intelligenz ist Mehrarbeit
Von: Britta Rybicki
Die Bundesärztekammer bewertet den Einsatz von Künstlicher Intelligenz in einer Stellungnahme, Ärzte wünschen sich nutzerfreundlichere Systeme.
KI-Software im Einsatz
Für Radiologen gibt es bis zu 300 KI-Anwendungen, die versprechen, sie im Arbeitsalltag zu unterstützen.
Bild: Siemens Healthineers
Düsseldorf Das Ergebnis ist erschreckend: Eine Künstliche Intelligenz (KI) bestimmt die Ethnie von Patienten aus Röntgenaufnahmen, obwohl keine weiteren Daten mitgeliefert wurden. Die Wissenschaftler aus Australien, Kanada und den USA, die hinter der Untersuchung stehen, warnen vor Diskriminierung: Es müsse immer mitgedacht werden, dass eine KI Menschen mit einer unterschiedlichen Hautfarbe unterschiedlich behandle. Auch, wenn ihre Erschaffung gar nicht darauf ausgelegt sei.
Noch konnten die Forscher nicht feststellen, warum die KI die Zuordnung vorgenommen hat. Offene Fragen in Verbindung mit einer medizinischen KI greift jetzt auch die Zentrale Ethikkommission der Bundesärztekammer (ZEKO) auf. In der Stellungnahme „Entscheidungsunterstützung ärztlicher Tätigkeit durch Künstliche Intelligenz“ fasst die ZEKO zusammen, welche Erwartungen Ärzte heute an die Arbeit mit einer KI haben können.
Der Arzt haftet
Damit die Technologie angemessen eingesetzt werden kann, fordert die ZEKO Ärzte auf, sich digitale Kompetenzen anzueignen. Denn wenn die KI falsch entscheidet, haftet der Arzt. Einerseits soll das Personal den Umgang mit der Technologie also beherrschen, andererseits Grenzen einschätzen können. „Wir brauchen ein Verständnis, das so tief geht, dass wir Fehler erkennen können“, sagt Sergio Gatidis von der Deutschen Röntgengesellschaft. Ärzte müssten dafür künftig in der Ausbildung auf die Arbeit mit Algorithmen vorbereitet werden.
Kommt eine KI zu neuen Erkenntnissen, müssten diese laut Ethikkommission validiert werden, um im Praxisalltag gültig zu sein. Ärzte stünden trotzdem in der Pflicht, den Therapievorschlag der KI zu hinterfragen. Gatidis macht darauf aufmerksam, dass aktuelle Technologien deswegen häufig noch zu Mehrarbeit führten. „Der Erfolg der Produkte wird erst zum Tragen kommen, wenn der Zeitaufwand für die Nutzung vertretbar ist und die Produkte bezahlbar sind“, sagt er.
Uta Meyding-Lamadé ist Chefärztin der Neurologie Klinik Nordost. Sie schließt sich ihrem Kollegen Gatidis an: „Die umfangreiche Kontrolle der Ergebnisse einer KI raubt uns Zeit für unsere Patienten.“ Auch die Neurologin wünscht sich anwenderfreundlichere Technologien.
Krankenhausträger müssen finanzielle Mittel schaffen
Ärzte sollten von der Einrichtung, in der sie arbeiten, unterstützt werden, heißt es in der Stellungnahme der Ethikkommission. Eine Organisation sollte mitentscheiden, wo und unter welchen Bedingungen eine KI zum Einsatz kommt. Krankenhäuser werden auch dazu aufgefordert, dem Personal Fortbildungen anzubieten.
Gerade sei eine gute Zeit, um KI in Kliniken einzuführen, findet die Neurologin Meyding-Lamadé: „Das Krankenhauszukunftsgesetz ist eine wahnsinnige Chance, die unbedingt von den Einrichtungen genutzt werden muss“, sagt sie.
Mit dem Krankenhauszukunftsgesetz (KHZG) soll die Digitalisierung in den Krankenhäusern vorangetrieben werden. Durch den Krankenhauszukunftsfonds (KHZF) fördert das Bundesamt für Soziale Sicherung Projekte mit bis zu 4,3 Milliarden Euro. Vor Kurzem sind erste Gelder ausgezahlt worden, wie Handelsblatt Inside berichtete. „Es ist an der Zeit, hier zu investieren – Deutschland ist im internationalen Vergleich nicht auf Augenhöhe mit anderen Kliniken“, ergänzt Meyding-Lamadé.
Versicherung für Ärzte und Krankenhäuser
Der Gesetzgeber sei in der Verantwortung, die rechtliche Einordnung der sogenannten intelligenten Medizinprodukte im Blick zu behalten und kontinuierlich anzupassen. „Die Gesetzgebung muss sich darauf einstellen, dass eine dynamische KI immer komplexer wird“, sagt Gatidis. Auch medizinische Fachgesellschaften sollten die Versorgung mit Algorithmen in Leitlinien stärker einbeziehen, heißt es in der Stellungnahme der Ethikkommission.
Die Stellungnahme der Ethikkommission ist zwar noch sehr allgemein formuliert ist, kommt aber zum richtigen Zeitpunkt, um absehbare Probleme wie eine rassistische KI rechtzeitig aufzuhalten.
Direkt vom Startbildschirm zu Handelsblatt.com
Auf tippen, dann auf „Zum Home-Bildschirm“ hinzufügen.
Auf tippen, dann „Zum Startbildschirm“ hinzufügen.
×