Energiesysteme: Nachvollziehbare Entscheidungen mittels Erklärbarer KI

Insbesondere bei Kritischen Infrastrukturen (KRITIS) – wie z.B. bei der Stromversorgung – sollte KI keine Blackbox sein – Entscheidungen müssten jederzeit nachvollziehbar bleiben

[datensicherheit.de, 04.06.2026] Laut einer aktuellen Meldung vom Karlsruher Institut für Technologie (KIT) hilft Künstliche Intelligenz (KI) zunehmend dabei, Stromnetze stabiler zu betreiben, Strompreise besser vorherzusagen und Energie effizienter zu nutzen. Doch in Kritischen Infrastrukturen (KRITIS) – wie eben dem Energiesystem – sollte KI keine Blackbox sein – Entscheidungen müssten jederzeit nachvollziehbar bleiben. KIT-Forscher haben demnach eine neue Methode entwickelt, mit der sich KI-gestützte Vorhersagen für Energiesysteme deutlich transparenter analysieren lassen.

KI hilft, zahlreiche Faktoren gleichzeitig zu berücksichtigen

Das Management unserer Energieversorgung gestalte sich zunehmend komplexer: Wind- und Solarstrom schwankten wetterabhängig, zugleich veränderten Elektroautos, Batteriespeicher und Wärmepumpen die Verbrauchsmuster.

• „Netzbetreiber und Energieversorger setzen zunehmend Künstliche Intelligenz ein, um ihre Systeme effizient und stabil zu betreiben“, so „Tenure-Track“-Professor Dr. Benjamin Schäfer vom „Institut für Automation und Angewandte Informatik“ (IAI) des KIT.

Um Stromerzeugung und Energieverbrauch möglichst präzise aufeinander abzustimmen, gelte es, zahlreiche Faktoren gleichzeitig zu berücksichtigen – etwa Wetterprognosen, Lastvorhersagen, Netz- und Verteilerkapazitäten sowie das Verhalten der Verbraucher.

Menschen müssen nachvollziehen können, wie KI-Vorhersagen und -Entscheidungen zustande kommen

„KI hilft dabei, darf aber keine Blackbox bleiben. Menschen müssen nachvollziehen können, wie Vorhersagen und Entscheidungen zustande kommen. Gerade im sensiblen Energiebereich, in dem Fehler schwerwiegende Folgen haben können, sind Transparenz und menschliche Aufsicht entscheidend – und mit dem ,AI Act’ der Europäischen Union auch eine regulatorische Vorgabe“, betont Schäfer.

• Er leitet die „Helmholtz Young Investigator Group“ DRACOS (ein Akronym für „Data-Driven Analysis of Complex Systems“) am KIT und wurde für seine Arbeiten mit dem „Ökologiepreis der Viktor & Sigrid Dulger Stiftung 2026“ der Heidelberger Akademie der Wissenschaften ausgezeichnet.

In ihrer aktuellen Studie, von der Helmholtz-Gemeinschaft innerhalb von „Helmholtz AI“ gefördert, stellt Schäfers Arbeitsgruppe nun die neue Methode „SHAPformer“ vor. Die Wissenschaftler haben sie für Zeitreihenvorhersagen entwickelt – also für Prognosen auf Basis zeitlich aufeinanderfolgender Daten, beispielsweise von Energieverbrauch oder Strompreisen. Ziel sei es, KI-gestützte Vorhersagen möglichst präzise und nachvollziehbar zu machen.

„SHAPformer“ kombiniert Methode der Transformer-Modelle mit Verfahren Erklärbarer KI

Die Methode kombiniere Transformer-Modelle – bekannt aus modernen Sprachmodellen – mit Verfahren der Erklärbaren KI („Explainable AI“). Der Name „SHAPformer“ soll dabei auf die Verbindung von Transformer-Modellen mit SHAP-Methoden verweisen. Diese basierten auf Konzepten der Spieltheorie und machten sichtbar, welchen Einfluss einzelne Faktoren auf eine Vorhersage haben. Dazu zählten etwa Temperaturen, Feiertage, Windprognosen oder frühere Verbrauchsdaten.

• „Beim Training unseres Modells haben wir gezielt einzelne Informationen ausgeblendet“, erläutert Matthias Hertel, wissenschaftlicher Mitarbeiter am IAI des KIT und Erstautor der Studie. Er führt weiter aus: „So konnten wir nachvollziehen, welchen Einfluss bestimmte Eingaben auf die Vorhersagen des Modells haben.“

Das Team habe den Ansatz unter anderem mit realen Daten des Übertragungsnetzbetreibers TransnetBW trainiert. Ziel sei es, den Verbrauch elektrischer Energie und die Strompreise über Zeiträume von bis zu einer Woche vorherzusagen – und gleichzeitig sichtbar zu machen, welche Faktoren die Prognosen beeinflussen. So lasse sich der Beitrag einzelner Einflussgrößen zu einer Vorhersage analysieren.

Erklärbarkeit direkt in das Training integriert

Viele bisherige Verfahren böten erst nachträglich Erklärungen und benötigten dafür große zusätzliche Rechenleistung. „Eine Besonderheit unseres Ansatzes ist es, dass wir die Erklärbarkeit direkt in den Trainingsprozess integrieren“, so Hertel. Die Genauigkeit der Vorhersagen bleibe so erhalten, während die Effizienz der Analyse steige.

• „Mit unserer Arbeit schaffen wir methodische Grundlagen dafür, solche Ansätze künftig in die Praxis zu übertragen“, ergänzt Schäfer. Dabei spielten nicht nur technische Präzision und Vertrauenswürdigkeit eine Rolle, sondern auch die Akzeptanz bei Anwendern. Schäfer nennt als Beispiel Intelligente Systeme für das Laden und Entladen von Elektroautos oder Heimspeicher, die automatisch auf Strompreise reagieren:

„Nutzerinnen und Nutzer haben wahrscheinlich eine größere Akzeptanz gegenüber einem Intelligenten Ladesystem, wenn klar nachvollziehbar ist, warum sich ein Elektroauto nachts später geladen hat als gewöhnlich – zum Beispiel, weil die Strompreise zwischenzeitlich besonders hoch waren und so Kosten eingespart werden konnten.”

Weitere Informationen zum Thema:

KIT Karlsruher Institut für Technologie
Science for Impact

nature communications, 27.05.2026
Explainable time-series forecasting with sampling-free SHAP for Transformers / Matthias Hertel, Sebastian Pütz, Ralf Mikut, Veit Hagenmeyer & Benjamin Schäfer / DOI 10.1038/s41467-026-73243-5

KIT, Institut für Automation und angewandte Informatik (IAI)
Daten-getriebene Analyse komplexer Systeme (DRACOS)

KIT, Institut für Automation und angewandte Informatik (IAI)
TT-Prof. Dr. Benjamin Schäfer

KIT, Institut für Automation und angewandte Informatik (IAI)
Matthias Hertel

KIT, Institut für Automation und angewandte Informatik (IAI)
T.T.-Prof. Dr. Benjamin Schäfer // Daten-getriebene Analyse komplexer Systeme (DRACOS)

GitHub, KIT-IAI
SHAPformer: Explainable time-series forecasting with sampling-free SHAP for Transformers

datensicherheit.de, 04.05.2026
KIT-Frühwarnsystem für Biodiversität: Akustische Erfassung von Naturräumen mit Smartphone-App / Im Projekt „Bio-O-Ton-2“ entwickeln KIT-Forscher eine Methode, um den Zustand von Lebensräumen mit Unterstützung von Bürgern als „Citizen Scientists“ großflächig zu erfassen

datensicherheit.de, 26.03.2026
KIT-Forschung zu Quantentechnologien: Optische Kontrolle von Kernspins in Molekülen bietet neue Perspektiven / KIT-Forscher demonstrierten erstmals die optische Initialisierung und Detektion von Kernspins in einem Europium-basierten Molekülkristall – als potenziell besonders stabile Träger von Quanteninformation