„Wir könnten eine Renaissance des Menschseins erleben“

Künstliche Intelligenz (KI) ist eines der Zukunftsthemen der Gegenwart. Für einen neuen Höhepunkt in der öffentlichen Wahrnehmung sorgte der Chatbot ChatGPT des Entwicklers OpenAI, der vorübergehend die schnellst wachsende Internet-Anwendung weltweit war, nachdem es im November 2022 kostenfrei zugänglich wurde und sich eine Million Nutzer innerhalb von fünf Tagen anmeldeten. Im Januar 2023 erreichte das Programm sogar über 100 Millionen Nutzer. Doch der Durchbruch des Sprachprogramms ist nur die Spitze der Entwicklung der vergangenen Jahre. Auch in der Medizin wird Künstliche Intelligenz wohl für viele Umbrüche sorgen, einige Anwendungen gibt es bereits. Über die Chancen, Risiken und ob Künstliche Intelligenz in Zukunft sogar Ärztinnen und Ärzte ersetzen wird, haben wir mit Prof. Dr. Martin Hirsch gesprochen, der Leiter des Instituts für Künstliche Intelligenz in der Medizin an der Philipps-Universität Marburg ist.

Herr Prof. Dr. Hirsch, der Chatbot ChatGPT ist in aller Munde und hat innerhalb kürzester Zeit weltweit Millionen Nutzer erreicht. Gibt es schon ähnlich bedeutsame Errungenschaften der KI in der Medizin?

Prof. Dr. Martin Hirsch: KI macht vor keinem gesellschaftlichen Bereich, auch nicht vor der Medizin halt. Auch in der Forschung beschäftigt man sich mit der Frage, ob GPT in der Medizin Anwendung finden kann. Aber in der Geschwindigkeit, wie es in der Öffentlichkeit adaptiert wurde, hält es natürlich nicht Einzug in die Medizin. Auch hier muss man unterscheiden zwischen dem Laienbereich, sprich Patientinnen und Patienten, und dem Profibereich, den Ärztinnen und Ärzten. Im Profibereich muss es natürlich höheren Ansprüchen genügen, diesen wird beispielsweise ChatGPT in seiner jetzigen Form nicht gerecht. Gewisse KI-Formen existieren schon seit ein paar Jahren in der Medizin. Eine der ersten Großen war Ada.

Ada ist eine KI, die Sie speziell für die Medizin mitentwickelt haben. Erzählen Sie uns davon.

Hirsch: Ada ist ein probabilistisches Modell, dass heißt, es rechnet mit Wahrscheinlichkeiten und stellt so lange Rückfragen, bis die Wahrscheinlichkeit einer Erkrankung hoch genug ist. Daher kommt sie besser mit den Untiefen der Medizin zurecht als beispielsweise die Sprachmodelle von ChatGPT. Das betrifft das Verhältnis der Unmengen an Möglichkeiten an Erkrankungen sowie Kombinationsmöglichkeiten von Symptomen und den vergleichsweise wenigen Datenmengen, die wir teils vorliegen haben. Ich komme aus der Kognitionsforschung und habe deshalb ein Programm entwickelt, das eher so denkt wie wir Menschen. Denn auch wir denken in Wahrscheinlichkeiten. Das Programm basiert auf Hunderttausenden von Datensätzen aus der wissenschaftlichen Forschung. Beispiel: Beim Symptom Bauchschmerzen können viele Krankheiten dahinterstecken, aber viele können auch potenziell ausgeschlossen werden. Wenn ich zu einem Arzt gehe, wird er oder sie alleine mit dem Symptom Bauchschmerzen auch nicht viel anfangen können. Also muss von diesem Knotenpunkt von der KI aus weiter gefragt werden. Dann muss am Ende eine möglichst hohe Wahrscheinlichkeit für eine Erkrankung erreicht werden. Eine probabilistische KI schließt aber nie irgendwelche Krankheiten generell aus, weil sie an einem bestimmten Knotenpunkt abgebogen ist, das ist ein großer Vorteil.

... lernt Ada auch noch dazu?

Hirsch: Das System an sich nicht. Es lernt zwar, wie es einzelne Krankheiten voneinander unterscheiden kann, aber sichtet nicht neue Literatur. Das übernimmt ein anderes System, das Literatur sichtet und entscheidet, ob Krankheitsmodelle von Ada betroffen sind. Aber ob und wie das am Ende eingebaut wird, entscheiden jeweils Fachärzte.

Chat GPT selbst sagt zur KI in der Medizin, dass „insgesamt die Künstliche Intelligenz in der Medizin effizienter, genauere Diagnosen und personalisierte Behandlungsansätze ermöglichen wird. Allerdings sind auch ethische, rechtliche und Datenschutzfragen zu berücksichtigen, um sicherzustellen, dass die Vorteile von KI im Einklang mit medizinischen Standards und Patienteninteressen stehen.“ Würden Sie diese Einschätzung der KI teilen?

Hirsch: Ja, aber KI wird auch noch in anderen Bereichen der Medizin relevant. Meiner Einschätzung nach wird KI in der Medizin aber erst ihren Durchbruch erlangen, wenn wir Ethik by design in die Programme integrieren. Der KI müssen also erst ethische Leitplanken einprogrammiert werden.

... und diese erwähnten weiteren Bereiche sind?

Hirsch: Da ist zum Beispiel der Bereich der Verwaltung in der Medizin. Arztbriefe schreiben, Abrechnungen kontrollieren, Prozesse effizienter machen. So eine Klinik ist ein riesiger Verwaltungsaufwand und Ärzte verbringen dort über 40 Prozent ihrer Arbeitszeit mit Dokumentation. Bei der Pflege sieht es nicht besser aus. Durch KI erhoffe ich mir da eine signifikante Entlastung. Damit nimmt man auch den Ärzten keine Mittel weg, sondern man entlastet sie von Arbeit, zu der die meisten Medizinier sowieso keine Lust haben und keine Zeit verschwenden sollten.

Dann gibt es noch durch KI mögliche positive Kosteneffekte, weil nicht mehr so viele Patienten unnötigerweise in eine Notaufnahme kommen, aber auch Fehldiagnosen werden weniger. Darüber hinaus kann KI auch einen Bereich in der Medizin abdecken, den es heute noch gar nicht gibt: Die Meile vom Sofa zur Arztpraxis oder Klinik. Hier kann KI helfen, das Gesundheitssystem zu entlasten, indem sie beispielsweise empfiehlt, einen Termin zur Kontrolle ausfallen zu lassen, weil es dem Patienten gut geht.

Und dann natürlich noch die vielen Stellen in der Pflege, wo eine KI ebenfalls enorm hilfreich sein kann.

Wie wichtig ist die Transparenz und Erklärbarkeit von KI-Algorithmen in der Medizin für Patientinnen und Patienten, aber auch für Ärzte? Kann man einer KI vertrauen?

Hirsch: Das kommt darauf an. Bei einem probabilistischen Modell kann man genau nachvollziehen, warum sich die KI beispielsweise für diese oder jene Aussage entschieden hat. Bei Sprachmodellen funktioniert das noch nicht. Das kommt auch darauf an, wie transparent die Entwickler sind. Nehmen wir mal an, eine KI wurde anhand von Daten von 15- bis 50-Jährigen trainiert. Dann ist diese KI beispielsweise für das Militär vertrauenswürdig, weil die meisten Patienten dort ziemlich sicher in dieser Spanne liegen. Wenn eine Geriatrie sich dieses System anschafft, dann kann das natürlich schlecht enden. Vertrauenswürdigkeit ist kein absoluter Wert, sondern immer relativ zum Anwendungszweck. Deswegen muss die Datengrundlage für das Training der KI transparent sein. Aber einen komplexen Algorithmus offenzulegen, wird den wenigsten Ärzten bei der Bewertung weiterhelfen.

Deutschland hängt in Sachen Digitalisierung in der Medizin im Vergleich mit dem europäischen Ausland teils weit hinterher. Besteht die Gefahr, dass wir bei KI noch mehr den Anschluss verlieren?

Hirsch: Deutschland hat extrem hohe Datenschutzbedenken und darüber will ich mich auch gar nicht beschweren. Das hindert natürlich durchaus die Entwicklung. Auch hätte man sich beispielsweise bei der elektronischen Patientenakte darauf konzentrieren müssen, dass diese strukturiert und semantisch eindeutig formuliert werden muss, dann hätte man diese wunderbar für KI-Programme nutzen können, denn das ist der Nektar, von dem eine KI lebt. Aber wir müssen uns bei der Entwicklung nicht zwangsläufig auf die Datenintegration konzentrieren, sondern viel mehr die Entwicklung von guten Algorithmen in den Fokus rücken. Denn gerade große Länder wie China oder Indien haben natürlich durch die Bevölkerungsgröße ein ganz anderes Datenpotenzial. Durch gute Algorithmen hat Deutschland auch eine Chance, ganz vorne bei KI mitzuspielen.

Sehen Sie gesellschaftliche Hürden bezüglich KI? Könnten Verschwörungen oder Fake News über KI und auch starke Regulierungen durch Regierungen die Entwicklung lähmen?

Hirsch: Das kann passieren. Das Bild von KI ist häufig noch von Schwarz-Weiß-­Bildern geprägt. Einerseits gibt es die Dystopien, gerade von Hollywoodfilmen geprägt, in denen KI die Menschheit vernichtet. Andererseits gibt es die Utopien, dass KI alle Probleme der Menschheit löst. Ich denke, beide Bilder werden der Realität nicht gerecht, die eine macht Angst und die andere weckt zu hohe Erwartungen. Insofern sollten wir als Gesellschaft nicht jeder Technologie blind folgen, aber auch nicht mit übereifriger Skepsis wichtige Entwicklungen lähmen.

Werden Maschinen und Computer in Zukunft Ärzte wie in Science-Fiction-Filmen ersetzen können?

Hirsch: Das sehe ich nicht. Aktuell sind unsere KI noch keine echte Intelligenz. Intelligenz ist die Fähigkeit, eine gute Lösung in Situationen zu finden, in der ich vorher noch nie war. Wir müssen die KI aktuell aber mit mindestens 300 bis 1000 verschiedenen Datensätzen füttern, damit sie richtige Analysen macht. Wer als Mensch so viele Beispiele braucht, um daraus zu lernen, den würden wir normal nicht als intelligent wahrnehmen. Bei KI tun wir aber gerade so, als wäre ein Wunder geschehen. Ein Mensch braucht oft nur ein gutes Beispiel, um daraus die richtigen Schlüsse zu zeihen. Natürlich wird KI noch riesige Entwicklungen machen und oft besser werden als Menschen. Aber das sehe ich gar nicht nur negativ. Man denke an die bereits erwähnte Entlastung bei der Bürokratie.

Aber das hängt schlussendlich auch an der Ärzteschaft selbst. Nehme ich meinen Patienten noch als Menschen wahr oder nur als Datensatz, den ich schnell abarbeite? Wenn ich das Zwischenmenschliche vernachlässige, dann werde ich auch schnell ersetzt werden können.

Worin ist KI denn aktuell schlechter als Menschen?

Hirsch: Beim Verstehen. Ich gebe Ihnen ein Beispiel: Vor ein paar Jahren gab es Schlagzeilen durch ein Programm, das in einer Studie fast jeden Dermatologen beim Erkennen von Melanomen geschlagen hat. Nur 7 von 156 Dermatologen haben Hautkrebs besser erkannt als die KI, die Meisten waren schlechter. Aber diese KI kann nur sagen, ob es Hautkrebs ist oder nicht. Sie kann nicht sagen, was für eine Hautveränderung das ist, wenn es nicht Hautkrebs ist. Sie hat ebenso kein Verständnis davon, was sie da überhaupt anschaut, was Haut ist, aus was Zellen aufgebaut sind. Nichts. Zu mir kommen seitdem immer wieder Studierende, die fragen: Lohnt es sich überhaupt noch Dermatologe zu werden? Oder Radiologe? Natürlich! KI wird bald sicherlich eine gute Unterstützung sein, aber nicht Ärzte komplett ersetzen können.

Sollte in der Ausbildung von Ärzten bald mehr Fokus auf dem Programmieren statt dem Operieren liegen?

Hirsch: Ich finde es verwunderlich, dass diese Frage in diesem Zusammenhang immer wieder auftaucht. Das ist eine legitime Diskussion, keine Frage, aber wir debattieren gar nicht darüber, ob die Informatiker, die so etwas entwickeln, nicht viel eher Medizin in ihr Studium integrieren müssten. Aber das kommt nicht von ungefähr: Wir leben in einer technologiegläubigen Welt. Auch bei Ada mussten sich unsere Entwickler in medizinische Themen tief einarbeiten, um ein gutes Programm überhaupt schreiben zu können. Wir brauchen deshalb eigentlich auch eine Art Hippokratischen Eid für Informatikerinnen und Informatiker, weil diese mit ihrer Technologie immer mehr in die Denkprozesse von Ärztinnen und Ärzten eingreifen werden.

Hat die angesprochene Technologiegläubigkeit nicht noch weitere Fallstricke, beispielsweise dass wir uns zu sehr auf Diagnosen einer KI verlassen?

Hirsch: Diese Bedenken habe ich auch immer wieder. Wenn ich ein junger Assistenzarzt in der Notaufnahme bin, wäre es für mich immer sicherer, wenn ich einfach unhinterfragt die gleiche Haltung wie die KI einnehme. Dann kann ich dem Chefarzt, wenn er mir am nächsten Morgen für einen Fehler am Ohr zieht, immer sagen: ja, aber die KI hat das auch gesagt. Wenn ich mich gegen die KI stelle und es geht etwas schief, dann zieht er mir natürlich zurecht am Ohr. Da kommt es auf die richtige Führung und gute Ausbildung an.

Laut dem Mooreschen-Gesetz verdoppelt sich die Rechenleistung ungefähr alle zwei Jahre. Kann es sein, dass wir durch dieses exponentielle Wachstum schon sehr bald vor den großen Umbrüchen in Medizin und Gesellschaft stehen, die wir heute noch als unwahrscheinlich wahrnehmen? Wie blicken Sie auf die nächsten zehn Jahre?

Hirsch: Wenn KI soweit ist, dass sie zu einem richtigen Verstehen kommt, dann werden wir gegen diese KI in nahezu allen Bereichen fürchterlich blass aussehen. Sie denkt schneller, kann viel mehr Varianten und Wissen einbeziehen und wird nie müde. Das wird sicherlich zu großen Umbrüchen kommen, und dieses Level an KI werden wir wahrscheinlich in den nächsten zehn Jahren erreichen. Dann kommt es natürlich auf das Selbstbild an. Wenn ich mein Wissen und Denken in den Mittelpunkt stelle, dann werde ich in Zukunft eine Sinnkrise erleiden. Wenn ich als Arzt aber das Zwischenmenschliche in den Mittelpunkt stelle, dann brauche ich die KI nicht zu fürchten. Dann kann ich in Ruhe mit dem Patienten die individuelle Therapieoptionen besprechen und den Rest übernimmt die Maschine. Da hoffe ich, dass es zu einer Renaissance des Menschseins kommen könnte, weil es eben etwas anderes ist, ob ich einem Menschen oder einer Maschine gegenüber sitze.

Das Gespräch führte Lukas Reus