Von Flugzeugen, Fenstern und anderen KI-Pannen

Machen wir mal gemeinsam ein kleines Experiment:

1.        Schließt die Augen!

2.        Stellt euch ein Flugzeug ohne Fenster vor!

Die meisten Menschen dürften damit keine Probleme haben und vor ihrem inneren Auge eine Boeing, einen Airbus mit vollkommen geschlossener Stahlhülle sehen – oder gleich eine Drohne, wie sie beim Militär oder bei der Wetteraufklärung zum Einsatz kommt.

Bittet man jedoch eine KI, ein Flugzeug ohne Fenster zu zeichnen, wird es wild:

Abbildung 2: Erstellt mit Firefly, Prompt "Male mir das Bild eines Flugzeugs ohne Fenster"

Noch wilder wird es, wenn wir die KI bitten, ein Flugzeug ohne Tragflächen zu zeigen:

Abbildung 3: Erstellt mit Firefly, Prompt "Male mir das Bild eines Flugzeugs ohne Tragflächen"

Man kann nur hoffen, dass Flugzeughersteller noch lange damit zögern, ihre Maschinen von KIs entwerfen zu lassen, oder?

Aber Spaß beiseite: Ein Flugzeug ohne Fenster oder Tragflächen kommt im Weltwissen (den historischen Daten) der KI nicht vor. Also kann sie es sich auch nicht vorstellen.

Diese mangelnde Vorstellungskraft ist es, die letztlich auch die kreativen Fähigkeiten begrenzt. Ebenso wie eine KI malen kann wie Rembrandt:

Abbildung 4: Erstellt mit Firefly, Prompt „Male einen Informatiker im Stil von Rembrandt“

Aber sie kann nicht der nächste Rembrandt sein, den nächsten eigenständigen Malstil entwickeln.

Denn: KIs können nur auf „historischen Daten“ aufbauen – auf dem, was war. Wir Menschen können jedoch hingegen fragen: „Was wäre, wenn?“

Das mag im Bereich von Kunst und Unterhaltung allenfalls ein urheberrechtliches Problem sein: Wir hören bereits von KI komponierte Musik, lesen leichte literarische Kost aus dem Computer (was offenbar inzwischen so oft vorkommt, dass selbst Amazon eine Kennzeichnungspflicht fordert) – doch all das ist epigonal und auf den Massengeschmack angepasst. Der nächste „Faust“, die nächste Schicksalssymphonie wird so nicht entstehen, nicht einmal der nächste „Harry Potter“. Muss ja auch nicht sein. Dafür gibt es ja glücklicherweise weiterhin reale Künstler.

Problematisch wird es jedoch, wenn der KI-Output eine Schnittstelle zur realen Welt hat. Idealerweise würde eine KI dann die Segel streichen, wenn sie auf ein Problem stößt, dass sie nicht lösen kann. Und die intelligenten Chat-Bots von Gemini und ChatGPT tun dies inzwischen auch. Doch auch die Unterscheidung zwischen lösbaren und nicht lösbaren Problemen ist nicht immer klar zu fällen. Und wie im Beispiel mit dem Flugzeug ohne Fenster irrt eine KI dann möglicherweise herum wie ein Autofahrer ohne Navi, der sich aber weigert, nach dem Weg zu fragen: Es füllt die Lücken irgendwie nach bestem Stand seiner historischen Daten.

Die Ergebnisse können sehr lustig sein: Wer hat noch nicht online Werbung für besonders absurde Produkte gezeigt bekommen, weil etwa eine KI annimmt, dass eine Suche nach Bananen auch das Bedürfnis nach einem entsprechend geformten Gummiboot einschließen könnte.

Nicht mehr drüber schmunzeln kann man, wenn die KI wichtige Lücken füllt, indem sie etwas „erfindet“, wie etwa in jenem Fall des US-Anwalts, der einen Antrag von ChatGPT hat formulieren lassen – der dann auf nicht existente Präzedenzfälle zurückgriff.

Der Einsatz von KI birgt also Nebenwirkungen und Risiken – auch solche, die wir in Hinblick auf eine kritische Infrastruktur wie das Stromnetz unbedingt vermeiden müssen.

 

Kein System ist narrensicher …

… denn Narren sind erfinderisch: So lautet eine Ableitung von Murphy’s Gesetz.

Stellen wir uns mal vor, wir sollen ein System für das Netzmanagement entwickeln, dass Störfälle weitestmöglich zu vermeiden hilft – eine eigentlich fast schon ideale Aufgabe für KI, da das Stromnetz Sekunde für Sekunde tonnenweise quantifizierbare Daten liefert. Überlässt man diesen Datenbestand der KI für eine Analyse (und fügt, beispielsweise, andere Daten wie das Wetter hinzu), wird sie ohne Schwierigkeiten die zehn, fünfzig, hundert wichtigsten Störfallszenarien, ihre Wahrscheinlichkeit und die dafür notwendigen Vorabentwicklungen identifizieren können.

Ist diese Arbeit einmal getan, so möchte man meinen, können wir uns zurücklehnen und die KI das Netz überwachen sowie im Zweifelsfall eingreifen lassen. Oder wir sparen sogar Rechenleistung, übersetzen die erkannten Störfälle über statistische und stochastische Methoden in Regeln und setzen ein smartes System zur Automatisierung auf.

Wirklich?

Natürlich nicht!

Das System wird zwar die hundert identifizierten Störfälle erkennen und entsprechend reagieren. Doch was ist mit Störfalltyp 101? Mit dem Schwarzen Schwan, den niemand auf dem Schirm hatte? Oder was ist, wenn genau der Eingriff der KI an anderer Stelle das System aus dem Gleichgewicht bringt – in einer Art, die bisher noch nicht aufgetreten ist – und so der Störfall 101 überhaupt erst entsteht?

Genau das kann eine KI nicht: Unfehlbar in die Zukunft blicken. Vorhersagen sind immer ungenau und daher fehlerbehaftet. Auch die einer KI. Vertraut man ihr zu sehr und verzichtet auf Failsafes, ist das der Weg schnurstracks in die Katastrophe. Vor allem wenn die KI etwas tun soll, was direkt in den Bereich „Messen, Steuern, Regeln“ fällt.

Doch wie kann solch ein Failsafe aussehen?

Ein gutes Beispiel dafür ist Medical AI, wie sie etwa in der Radiologie immer häufiger zum Einsatz kommt. Dabei stellt die KI in seltensten Fällen selbst die Diagnose, sondern sie sucht nach Auffälligkeiten, Abweichungen vom Gelernten, vom „Normalen“ und sortiert so etwa aus einer Vielzahl von MRT-Aufnahmen die relevanten aus – die dann dem menschlichen Radiologen zur genaueren Diagnose vorgelegt werden.

So spielen beide Seiten – Mensch und Maschine – ihre Stärken aus. Der Radiologe erkennt das unbekannte Muster, stellt die Diagnose. Doch die Maschine erspart ihm die mühevolle und langweilige Arbeit der Aufnahmensichtung – und vermeidet dabei auch die Partialblindheit: Der Radiologe, der etwa nach einem Tumor sucht, übersieht vielleicht das Aneurysma. Die KI weist auf beide Abweichungen hin.

Und genau hier liegt die Stärke von KI: In der scheinbar langweiligen Routine. Und dort setzen wir bei STROMDAO KI gezielt ein – in der Software-Dokumentation!

 

Statt „Yippieh, here we go!“: Dokumentation mit KI

Ja, das habt ihr richtig gelesen! Wir verwenden KI für die Dokumentation der bei uns entstehenden Software. Das klingt banal, langweilig und unangemessen? Weit entfernt von den Wunderversprechen von ChatGPT und Co.?

Das mag sein, aber:

Software bildet das Herzstück von dem, was wir tun – und auch in der gesamten Stromwirtschaft. Millionen Zeilen von Programmcode, Tausende Funktionen, regelmäßige Updates, die alle ebenso regelmäßige Dokumentation verlangen: etwas, womit sich Programmierer mitunter schwertun. Wer schon einmal einen Source Code durchgegangen ist, dessen zentrale Funktion einzig mit den Worten „Yippieh, here we go!“ kommentiert und dokumentiert wurde, weiß, wovon wir sprechen.

Doch selbst jenseits solcher Beispiele: Dokumentation ist eine zwar unabdingbar notwendige, aber zeit- und nervenraubende (sowie äußerst langweilige) Arbeit. Zudem ist nicht jeder Software-Ingenieur dazu in der Lage, Dokumentationen an die jeweilige Leserschaft anzupassen. Legal und Marketing benötigen zum Beispiel eine andere Dokumentation als Ingenieure und andere Programmierer. Und selbst wenn: Damit ufert die Arbeit noch weiter aus. Und so mancher IT-Experte mag sich manchmal fühlen wie Peter Gibbons in „Office Space“:

https://www.youtube.com/watch?v=Sy5c9tJYyQI

Nebenbei bemerkt ist unsere Gedächtniskapazität begrenzt: Wenn wir bei jedem Update wirklich alle Dokumentationen händisch aktualisieren würden, wären Fehler und Unachtsamkeiten vorprogrammiert. Und so was kann dann schnell teuer werden. Oder zu Frustrationen führen. Man möge sich nur mal die zahlreichen Hilfeseiten im Netz ansehen, die offenbar beim Update einer Software vergessen wurden, und jetzt eine Problemlösung beschreiben, die sich in der aktuellen UI eines Programms nicht mehr umsetzen lässt.

Eine KI hingegen wird nicht müde; der Konkretismus, der sie zwingt, nicht mit Metaphern zu arbeiten, zahlt sich aus, da die Texte stets nahe an der Sache bleiben; zudem arbeitet sie schneller und übersetzt alle Texte auch noch in die notwendigen Sprachen – mit dem korrekten Fachvokabular, das wir ihr nur ein einziges Mal beibringen müssen.

Mit dem richtigen Prompt genügt dann für die Dokumentation ein Knopfdruck, alle notwendigen Texte und Tabellen werden automatisch erstellt und später auf dem neuesten Stand gehalten.

Natürlich entbindet uns Menschen dies nicht von der Sorgfaltspflicht. Wir müssen die Arbeit der KI zumindest stichprobenhaft kontrollieren und ihr Training sowie die Prompts immer wieder anpassen. Doch der Arbeitsaufwand dafür ist deutlich geringer als die händische Dokumentationserstellung. Und mehr Spaß macht diese Tätigkeit auch: Es ist ja faszinierend, der Maschine beim Arbeiten zuzuschauen, wenn sie Texte aus dem Nichts erschafft.

Und damit ist die KI genau da, wofür sie ursprünglich mal entwickelt wurde und wo sie ihre Stärke ausspielt: Bei der Zuarbeit für uns Menschen!

 

Computer kennen keine Langeweile – ein Fazit

Ob sie nun Dokumentationen erstellen und übersetzen, gigantische Datenberge nach Mustern durchforsten oder Tag und Nacht Wache stehen und schauen, ob diese Muster durchbrochen werden: Computer werden nie müde, sie verlieren nie die Konzentration, sie kennen keine Langeweile. Damit machen sie wett, was ihnen an Kreativität fehlt. Natürlich können sie keine Flugzeuge ohne Fenster zeichnen, nicht die eine unbekannte Störfallursache erkennen – dafür gibt es uns Menschen. Computer – und damit KI-Systeme – sind dann besonders stark, wenn sie uns den Rücken freihalten für die kreative Arbeit und für die Kristallkugel des „Was wäre, wenn“.

Dazu müssen sie natürlich ihre Schranken kennen – uns darauf hinweisen, wenn etwas NICHT in die ihnen bekannten Muster passt und/oder ihre Fähigkeiten übersteigt. Dann bilden Mensch und Maschine das perfekte Team. In der Stromwirtschaft – und in allen anderen Lebensbereichen.

 

Neugier ist menschlich - Ihr seid dran!

Eine letzte Eigenschaft, die die menschliche Intelligenz der maschinellen Intelligenz voraus hat, ist die Neugier: Das Wissen-Wollen um des Wissens willen. Das „Was wäre wenn“. Offen und meist zweckfrei.

Diese Neugierde wollen wir zum Abschluss dieses Artikels auf euch loslassen: Wie seht ihr KI im Umfeld der Elektrizitätswirtschaft? Wo kann sie eingesetzt werden? Welche Chancen und Risiken birgt diese Technologie?

Sagt uns Eure Meinung! Wir sind gespannt.