Die Medizin ist eine wissenschaftlich ausgewiesene Humanverantwortungstechnik höchster fachlicher und emotionaler Güte. Kaum ein anderer Bereich menschlicher Betätigung kann ohne zu Erröten beanspruchen, von infungibler existentieller Eminenz zu sein. Das bisher Medizin nicht bloß für Menschen sondern von Menschen erdacht, entwickelt und gemacht wurde, erschien uns als wohlsituierte Gewissheit. Freilich hat die Medizin dabei nicht zu letztlich durch ihre auch handwerklich-technische Orientierung immer wieder neu und neugierig Entwicklungen aufgenommen, auch dann und dort, wo es ein wenig gebraucht hat, bin jene im Fachkreise und am Ende von Patientinnen und Patienten und Angehörigen akzeptiert wurden. Das Stethoskop war kein Selbstläufer, die Sorgen von einer Deprofessionalisierung und Dehumanisierung waren einschlägig. Dabei konnten gleichzeitig diagnostische Erfolge erzielt und auch eine ökonomische Optimierung erreicht werden. Niemand hätte seinerzeit wohl den „Brustüberwacher“ als Teil eines Arzt-Patient-Brustüberwacher-Verhältnisses gedeutet. Das ist heute anders. Völlig anders. Ein Stethoskop betreibt keine Medizin, eine KI schon, wenn wir sie lassen.

Zum ersten mal in ihrer Geschichte verändern sich nicht nur Instrumente, Vorgehensweise, Kompetenzformen, Berufsbilder usw. in der Medizin, sondern wird die Medizin selber transformiert. Diese Fundamentaldifferenz kann nicht überbetont werden. Nie in der Geschichte der Medizin war ein Instrument mächtiger und nie war es weniger Instrument. Und noch dazu ist KI ihrem inneren Wesen nach – zumindest auf absehbare Zeit – einer Mathematik und detailtechnologischen Struktur unterworfen – die menschliches Denken bloß mimikriert, Fühlen bloß nachbildet und Entscheidungshandeln faked. Was ohne erkennbare Innenseite wohl unbestreitbar sein dürfte. Bestreitbar allerdings dürfte ebenso sein, a priori und grundsätzlich auszuschließen, dass andere Entitäten als wir Menschen in einem Vollsinne letztlich moralische Verantwortung tragen können. Wenn wir eine KI bekommen – vermutlich nichtmehr selber schaffen, sondern bloß Voraussetzung für die KI-Selbstevolution schaffen -, die moralischer Akteur wäre, nicht mehr technischer Aktant, wäre eine letzte Grenzen unwiderruflich überschritten. Diese KI würde uns wohl rügen, das wir sie erschaffen haben.
Moralische Verantwortung tragen Menschen, Ärztinnen und Ärzte, Pflegefachpersonen, Managerinnen und Manager, Forscherinnen und Forscher – und die vielen weiteren Professionals im Bereich Healthcare ohnehin. Aber auch Patientinnen und Patienten und deren Angehörige. Mit KI wird aus der ohnehin immer schon der guten Profession eingeschrieben Verantwortung, nicht zu Schaden, da zu sein, sich höchstpersönlich um Prävention, Diagnose, Therapie und Nachsorgen zu bemühen, gerecht zu walten und die Autonomie aller Akteure zu achten. Und mit Spannungen zwischen diesen und weiteren Werten rational und verantwortlich umzugehen.

Der immer weitergehende Einsatz von KI macht nun zum einen die Notwendigkeit deutlich, als professionelle Gruppe die Besonderheiten und Risken, aber auch die Chancen dieser letzten menschengemachten Medizininnovation in das eigene verantwortliche Tun einzubetten. Und zwar ethisch informiert und souverän. Was eine intensive Befassung auf Makro-, Meso- und Mikroebene voraussetzt. Einfach nur KI-„Tools“ nutzen, die ChatGPT-Einschätzung, die der Patient mitbringt einfach von dem eigenen (am besten noch privaten ) ChatGPT prüfen zu lassen – so gelingt die neue, gute KI-Medizin nicht. KI ist auf ihren Platz zu verweisen, was eine enorme moralische Anstrengung voraussetzt. Der Arzt soll nicht ersetzt werden. Ende der Durchsage. Das dies möglich erscheint, wird deutlicher, ist aber moralisch letztinstanzlich abzuweisen.

Gleichzeitig bedeutet dies für die Profis im System, dass sie hart am Wind Segeln und sich nicht auf das „T“ in den „TOM“ („Technisch-Organisatorische-Maßnahmen“) verlassen dürfen, wenn ihre Verantwortungsfähigkeit mit Recht das Humanpriprium ist und bleiben soll, ist jenes auch einzusetzen. Also sich in auch hier höchstpersönlich – aber freilich deutlich stärker durch entsprechende Aus-, Fort- und Weiterbildung auf der institutionellen Ebene unterstützt und vielleicht ja sogar durch kluge Gesetze und Gesundheitspolitik -  einzusetzten dafür, die Chancen durch KI auf eine neue, bessere Medizin nicht aus Sorgen vor Veränderung ungenutzt zu lassen oder zu verlangsamen ebenso, wie selber durch eigenen Kompetenzaufbau die Grenze zwischen KI und Menschen immer wieder neu im operativen verantwortlich zu vermessen.
KI-Einsatz ist der Medizin ist verantwortlich geboten. Es gibt eben auch eine Pflicht zur Techniknutzung, nicht begründbar aus der Technik selbst, aber im Sinne der Medizin.
Die bleibende Relevanz von menschlicher Verantwortung für die neue KI-Medizin ist zu entwickeln und zu betonen, transparente, nachvollziehbare, sichere Heilungsoptionen, die auch in wirtschaftlich prekären Zeiten standhalten und die Vision der besten Medizin für alle vielleicht wahr werden lassen ins Zentrum zu stellen. Ohne KI erscheint keine Zukunft der Medizin gelingend, mit KI wird daraus aber nur dann eine Zukunftsmedizin, wenn alle an einem Strang ziehen und KI wenigstens in der Medizin zu dem machen, was sie nicht ist, ein Instrument.