Kausale KI für neue Forschungswege von Lieferketten bis zur Krebsforschung

Kausale Zusammenhänge verstehen, Risiken erkennen und Entscheidungen fundierter treffen
Ishansh Gupta – Dozent und Postdoktorand an der Constructor University in Bremen, Bild: Constructor University
Ishansh Gupta – Dozent und Postdoktorand an der Constructor University in Bremen, Bild: Constructor University

Ishansh Gupta und Prof. Dr.-Ing. Hendro Wicaksono von der Constructor University erforschen Kausale KI für transparentere Entscheidungen – von industriellen Lieferketten bis zur Krebsbehandlung. Ihre bei NeurIPS 2026 angenommene Studie zeigt, wie KI medizinische Entscheidungen unterstützen und Unsicherheiten berücksichtigen kann, ohne menschliche Expertise zu ersetzen.

Ishansh Gupta, Dozent und Postdoktorand an der Constructor University in Bremen, widmet sich nach eigenen Angaben u.a. der Frage: „Wie kann Forschung zu Automobil-Lieferketten eine neue Forschungsrichtung in der Krebsbehandlung informieren?“

Seine Antwort darauf lautet demnach: „Kausale KI“ – d.h. eine Form Künstlicher Intelligenz, welche über einfache Mustererkennung hinausgeht, um zu analysieren, warum bestimmte Muster existieren, und somit dabei hilft, Ergebnisse von Veränderungen vorherzusagen. Guptas Forschung zu KI-Anwendungen im Automobilsektor hat bereits mehrere Publikationen hervorgebracht – darunter seine neueste Studie zu Lieferantenrisiko und -bewertung, veröffentlicht in der Zeitschrift „Supply Chain Analytics“.

Nun erforscht Gupta, wie dieselbe Technologie potenziell Gesundheitsfachkräfte bei der Entscheidungsfindung während der Krebsbehandlung unterstützen könnte – mithin Forschung, welche für eine Präsentation nächsten Monat bei „NeurIPS“, einer der weltweit führenden KI-Forschungskonferenzen, angenommen wurde.

Forschung über das bisherige Gesichtsfeld hinaus

Die Verbindung zwischen diesen beiden Projekten sei 2025 entstanden, als Gupta an den „Lindauer Nobelpreisträgertagungen“ teilgenommen und ihn dort eben Nobelpreisträger herausgefordert hätten, über die traditionellen Grenzen seines Fachgebiets hinaus zu denken.

Als er gefragt wurde, welches Fachgebiet außerhalb der Wirtschaftswissenschaften sein Leben am meisten beeinflusst habe, sei seine Antwort klar und unmittelbar gewesen: Medizin – der Beruf beider Elternteile. Gupta habe sich herausgefordert gesehen zu überlegen, ob er seine Arbeit in industrieller KI und dem Automobilsektor auf andere Bereiche wie die menschliche Gesundheit anwenden könnte.

„Wenn wir Kausale KI nutzen können, um komplexe industrielle Systeme zu verstehen und bessere Entscheidungen zu treffen, warum könnten wir nicht ähnliche Ideen in der Medizin erforschen, wo die Konsequenzen dieser Entscheidungen weitaus bedeutender sind?“, so Guptas Überlegung.

Überlegungen zum Einsatz Kausaler KI bei der Krebsbehandlung

Zusammen mit Prof. Dr.-Ing. Hendro Wicaksono, Leiter der Forschungsgruppe „Data-Driven Collaborative Decision Making in Complex Industrial Systems“ der Constructor University, habe Gupta ein neues Forschungsprojekt begonnen, um zu untersuchen, wie Kausale KI und „Large Language Models“ (LLMs) genutzt werden könnten, um Entscheidungsfindung während der Krebsbehandlung zu unterstützen.

Die Studie habe dann eine der Hauptherausforderungen bei der Nutzung von KI zur Unterstützung individualisierter Behandlungsentscheidungen untersucht: Ein Modell könne Empfehlungen für jeden Patienten produzieren, selbst wenn die verfügbare Evidenz nicht stark genug sei, um dies zu unterstützen.

Gupta wollte nach eigenen Angaben mit seinen Kollegen untersuchen, wann ein KI-System eine Behandlungsrichtung vorgeben kann und sollte – versus wann es anerkennen sollte, dass die verfügbare Evidenz unsicher ist, und von einer Empfehlung absehen sollte.

Kausale KI als Basis für bessere, transparentere und vertrauenswürdigere Entscheidungen

„In der Wirtschaft kann eine schlechte Entscheidung Millionen kosten. In der Medizin können die Konsequenzen in Menschenleben gemessen werden“, unterstreicht Gupta. Er betont: „Die Zukunft der KI sollte nicht einfach darum gehen, genauere Vorhersagen zu produzieren. Sie sollte darum gehen, menschlichen Fachkräften zu helfen, bessere, transparentere und vertrauenswürdigere Entscheidungen zu treffen!“

Gupta und seine Kollegen hätten reale Eierstockkrebs-Daten genutzt und Behandlungszuweisungen und -ergebnisse simuliert, um einen Ansatz zu testen, welcher kausales Maschinelles Lernen mit Methoden kombiniert habe, die entwickelt worden seien, um Unsicherheit zu messen und dem System Zugang zu LLM-generierten Erklärungen zu geben. Dem System sei auch erlaubt worden, von der Angabe von Behandlungsrichtungen abzusehen, wenn die Schlussfolgerung gelautet habe, dass die verfügbare Evidenz unzureichend gewesen sei.

Die Ergebnisse zeigten, dass die Verbesserung der Vorhersagen eines Modells seine individuellen Empfehlungen nicht notwendigerweise zuverlässig gemacht habe. Unter den getesteten Bedingungen habe das System in 99,4 Prozent der Fälle beim gewählten Konfidenzziel von einer Behandlungsempfehlung abgesehen.

Begründung hinter jeder KI-Empfehlung untersuchen, hinterfragen und validieren

Diese Erkenntnisse würden eine wichtige Unterscheidung in KI-gestützter Entscheidungsfindung hervorheben: Eine Vorhersage zu treffen sei nicht dasselbe wie Evidenz zu produzieren, welche stark genug wäre, um eine Entscheidung zu leiten. Dies deute darauf hin, dass Kausale KI nicht nur nach ihrer Fähigkeit beurteilt werden sollte, Ergebnisse vorherzusagen und Handlungen zu empfehlen, sondern auch nach ihrer Fähigkeit, die Wahrscheinlichkeit der Ergebnisse zu bewerten, einschließlich zu wissen, wann man überhaupt keine Antwort geben sollte.

„Das ist genau das, was unsere Forschung so interessant macht“, kommentiert Gupta. Er erläutert: „Wir suchen nach Wegen, kausale Modelle, LLMs und menschliche Expertise zu kombinieren, um Systeme zu bauen, die Entscheidungsfindung zuverlässig optimieren können, einschließlich der Möglichkeit, die Begründung hinter jeder Empfehlung zu untersuchen, zu hinterfragen und zu validieren.“

Gupta und Wicaksono beabsichtigen, die Forschung „When Individualized Causal Predictions Are Not Actionable: Failure Analysis, Abstention and a Runtime-Checked Narrative Agent on Ovarian-Cancer Covariates“ auf der „NeurIPS-2026“-Konferenz am 10. Dezember 2026 im australischen Sydney zu präsentieren.

Auf etablierten Stärken in industrieller KI aufbauend in neue interdisziplinäre Bereiche vorzudringen

„,NeurIPS’ gehört zu den renommiertesten Konferenzen im Bereich Künstliche Intelligenz, daher ist die Annahme unserer Arbeit bei einem ihrer Workshops persönlich ein sehr bedeutsamer Meilenstein!“, sagt Gupta.

Er freue sich darauf, Ideen mit führenden KI-Forschern auszutauschen, ihre eigenen Annahmen zu hinterfragen und hoffentlich Kooperationen zu etablieren, welche helfen könnten, diese Arbeit weiterzubringen.

Für Constructor zeige es ihre Fähigkeit, auf etablierten Stärken in industrieller KI aufzubauen und in neue interdisziplinäre Bereiche wie medizinische KI vorzudringen. „Hoffentlich ist dies der Beginn einer viel größeren Forschungsrichtung und nicht nur eine einzelne Publikation!“, hofft Gupta.

Neugestaltung der Lieferketten-Entscheidungsfindung

Die industrielle Forschung, welche schließlich das Krebsbehandlungsprojekt inspirieren sollte, habe mit einer Frage darüber begonnen, wie KI Entscheidungen in komplexen Lieferketten unterstützen könnte. In „A causal analytics approach for interpretable supply chain risk and supplier performance evaluation“ hätten Gupta, Wicaksono et al. mit dem Industriepartner BMW Group zusammengearbeitet, um zu erforschen, wie Kausale KI helfen könnte, mögliche Ursache-Wirkungs-Beziehungen zwischen Problemen wie falschen Lieferungen, fehlenden Teilen, Rückständen und Lieferanten-Eskalationen zu analysieren.

Dieser Ansatz habe darauf abgezielt, nicht nur Risiken zu identifizieren, sondern zu zeigen, warum sich bestimmte Risiken entwickeln könnten und was potenziell geändert werden könnte.

Man stelle sich einen Streik oder eine Naturkatastrophe mit Störeinfluss auf einen Lieferanten vor – ein traditionelles Vorhersagemodell könnte diesen als „Hochrisiko“ kennzeichnen. „Unser Ansatz zielte darauf ab, weiter zu gehen“, so Gupta: Dieser habe externe Ereignisse mit internen operativen Indikatoren verbunden und es Managern ermöglicht, mögliche kausale Pfade zu untersuchen, so etwa wie eine Störung Lieferverzögerungen erhöhen, Rückstände schaffen und schließlich das Lieferantenrisiko eskalieren könnte.

Kausale KI soll Entscheidungsträgern helfen, mögliche Interventionen vorab zu erforschen

Die Forscher hätten mit 18 Fachexperten zusammengearbeitet, welche quasi über 300 Jahre kombinierte Berufserfahrung repräsentierten, sowie mit tatsächlichen internen Lieferanten-Leistungsdaten. LLMs hätten dabei geholfen, Informationen aus externen Ereignissen wie Streiks, Naturkatastrophen und Lieferantenstörungen in Entwürfe kausaler Modelle zu organisieren, welche von den Fachexperten überprüft und validiert worden seien, anstatt automatisch akzeptiert zu werden.

Die mit diesen Modellen durchgeführten Simulationen hätten darauf hingedeutet, dass die Reduzierung von Lieferanten-Rückständen um 50 bis 70 Prozent die vorhergesagten Eskalationsniveaus konsistent reduziert habe.

Obwohl dies nicht bestätige, dass dasselbe Ergebnis in einer Live-Lieferkette auftreten würde, veranschauliche die Studie, wie Kausale KI Entscheidungsträgern helfen könne, mögliche Interventionen zu erforschen – noch bevor Maßnahmen ergriffen werden. Die weitergehende Idee sei, von der Brandbekämpfung über Störungen bis zum Verständnis möglicher Konsequenzen und zur Bewertung präventiver Maßnahmen im Vorfeld überzugehen.

Von der Simulation zur Realität

Während beide Projekte simulationsbasiert gewesen seien, hätten sich Gupta und seine Kollegen in Wicaksonos Forschungsgruppe verpflichtet, Forschungsergebnisse mit realer Anwendung und Wirkung zu verfolgen. „Für mich ist dies einer der wichtigsten Aspekte unserer Arbeit!“, bekennt Gupta.

Er gibt zu bedenken: „Ein wissenschaftlich interessantes Modell ist nicht automatisch ein vertrauenswürdiges Entscheidungssystem. In unserer industriellen Forschung half uns Fachexpertise, kausale Beziehungen zu validieren und das zu hinterfragen, was die Algorithmen entdeckten. Wir wollen dieselbe Philosophie in die Medizin übertragen, aber mit noch größerer wissenschaftlicher und ethischer Strenge!“

Ihre Krebsforschung befinde sich derzeit noch in einem frühen Stadium. Die nächsten Schritte würden die enge Zusammenarbeit mit medizinischen Forschern und Klinikern beinhalten, die Validierung der Modelle anhand geeigneter klinischer Daten und schließlich die Untersuchung prospektiver klinischer Evaluierungen und Studien – wo gerechtfertigt und genehmigt. Das Ziel sei nicht, Ärzte durch KI zu ersetzen, sondern Werkzeuge zu entwickeln, die ihnen letztendlich helfen könnten, komplexe Behandlungsentscheidungen mit größerem Vertrauen zu verstehen.

Zentrale Erkenntnisse der DS-Redaktion

  • Von der Mustererkennung zur Voraussage: Sogenannte Kausale KI ist eine besondere, über einfache Mustererkennung hinausgehende Form Künstlicher Intelligenz, welche analysiert, warum bestimmte Muster existieren, und helfen soll, Ergebnisse von Veränderungen vorherzusagen.
  • Neues Forschungsprojekt an der Constructor University in Bremen: Bisherige Erfahrungen auf dem Gebiet der Industrie und im Automobilsektor sollen sinnvoll auf die Medizin übertragen werden, um die Entscheidungsfindung während der Krebsbehandlung zu unterstützen.
  • Motivation der Forscher: In der Wirtschaft können Fehlentscheidungen Millionenschäden verursachen – in der Medizin aber Menschenleben gefährden.
  • Die Entscheidungsfindung soll zuverlässig optimiert werden: Dazu gehört die Möglichkeit, die Begründung hinter jeder Empfehlung zu untersuchen, zu hinterfragen und zu validieren.
  • Kein Ersatz der Ärzte durch KI: Sondern Bereitstellung von Systemen, um diesen zu helfen, komplexe Behandlungsentscheidungen mit größerem Vertrauen zu verstehen.

Weitere Informationen

DATENSICHERHEIT.DE, 26.06.2026
Leopoldina-Publikation: Potenziale Agentischer KI in Klinikalltag und Forschung im Fokus

DATENSICHERHEIT.DE, 29.05.2026
Patientendaten als Beute: Der Angriff auf Unikliniken legt Systemversagen in der Lieferkette offen

DATENSICHERHEIT.DE, 26.01.2026
Digitalisierung der Medizin: Datenflut schwemmt auch bösartige Dateien in Systeme des Gesundheitswesens

Weitere Beiträge