KI statt K.O. – die Energiebranche im KI-Aufbruch zwischen Ethik und Innovationen
Wir sprechen mit Prof. Dr. Heinemann über die ethische Integration von KI-Technologien in Energieversorgungsunternehmen und die Balance zwischen Innovation und moralischer Verantwortung.
Prof. Dr. Stefan Heinemann ist ein angesehener Experte für wirtschaftliche und ethische Perspektiven auf KI und digitale Technologien. Dabei konzentriert er sich sowohl im privaten als auch im öffentlichen Sektor auf die Medizin und das Gesundheitswesen, die Energieversorgung und alle Branchen, die sich mit komplexen Strukturen und Themen auseinandersetzen müssen, die Veränderungen und Resilienz erfordern, um im Sinne der Nachhaltigkeit erfolgreich zu sein.
Er ist Professor für Wirtschaftsethik an der FOM Hochschule sowie gewähltes Mitglied der Ethikkommission der Medizinischen Fakultät der Universität Duisburg-Essen. Mit einem tiefen Verständnis der Möglichkeiten und Herausforderungen von Künstlicher Intelligenz (KI) plädiert er für einen verantwortungsvollen und ethisch fundierten Umgang mit diesen Technologien. Heinemann betont die Notwendigkeit, KI so zu gestalten und einzusetzen, dass sie dem Wohl der Gesellschaft dient, ohne dabei Transparenz und menschliche Werte zu gefährden. Dies darf nicht zu Lasten des Business Success gehen, sondern muss diesen vielmehr im Sinne eines nachhaltigen ökonomischen Erfolgs fördern.
💬 Hear me speak: Seine Erfahrungen wird Prof. Dr. Stefan Heinemann am 5./6. November als Keynote-Speaker im Rahmen der GO.DIGITAL 2024 teilen.
Ralf Jauch: Du befasst Dich vor allem zum Einsatz von KI in der Humanmedizin und Gesundheitswirtschaft aus der ökonomischen und Wertesicht. Dabei spielt es eine besonders große Rolle, wie ethische Maßstäbe in das Design von KI einbezogen werden können. Im November stehst du bei der GO.DIGITAL 2024 auf der Bühne – einem Messekongress für die Energiebranche. Siehst du Parallelen zur Medizin und darüber hinaus ethische Herausforderungen beim Einsatz von KI in der Energiewirtschaft?
Stefan Heinemann: Versorgung mit dem, was zählt, ist mit genuinem Purpose geboren. Gesundheit, aber eben auch Energie sind fundamentale Grundbedarfe aller Menschen. Essenziell für ein würdevolles, autonomiegeprägtes und teilhabegerechtes Leben. Dies führt unmittelbar zu Fragen der Ressourcenallokation bei zwei interdependenten Bereichen – ein Krankenhaus benötigt sehr viel Energie, die Produktion von Energie ist nicht frei von Einflüssen auf die Gesundheit. Bereits auf der sachwirtschaftlichen Ebene sind Gesundheits- und Energiewirtschaft spannende wechselseitige Bezugspunkte. Zudem sind die Institutionen, Unternehmen, kommunale Akteure etc. in einem deutlich regulierten Markt erheblichen Komplexitätsherausforderungen ausgesetzt. Im traurigen Konzert mit Fach- und Führungskräftemangel, Preisentwicklungen, Finanzierungsfragen, Kundenpräferenzen, mehr oder weniger Wettbewerb, spezifische Stakeholdererwartungen etc. stoßen sie an eine Grenze des rationalen Entscheidungs- und Handlungsraumes. Aber noch nicht darüber gehen. In beschleunigten Krisenzeiten gilt es, zügig das verantwortlich machbare auszuloten und sich deutlich zu machen: Erfolg hat drei Buchstaben: MUT! Mit KI kommt in der Medizin eine digitale Hochtechnologie auf den Plan, die heute das leistet, was Jahrzehnte für morgen ersehnt und auch versprochen wurde. Die datengestützte Diagnostik eröffnet neue Perspektiven für die Therapie und eine neue Rollenverteilung zwischen Ärztin/Arzt und Patientin/Patient. Die Zusammenarbeit dieser beiden Akteure wird durch den Einsatz von Algorithmen unterstützt, die eine gewisse Autonomie aufweisen. Die Wirksamkeit dieser Zusammenarbeit ist oft höher als ohne den Einsatz von Algorithmen – aber auch Algos allein machen Fehler. Es gibt die moralische Pflicht, nicht alles zu tun, was man tun kann, wenn es gegen ethische Werte läuft. Aber das, was machbar ist und jenen Werten zuarbeitet, ist eben auch zu tun. Das, was man tun soll, soll man TUN (die anderen drei wichtigen Buchstaben). Wenn Leiden gelindert, Menschen geheilt – nicht bloß behandelt – werden können, wenn Menschen zu Menschen wieder menschlich sein können, weil die Zeit dafür da ist und Bürokratie an die Maschinen delegiert wird, wenn Effizienzgewinne im Gesundheitssystem für eine gerechtere, ja wirklich solidarische Versorgung sorgen, dann ist KI willkommen. Dann ist sie einzusetzen. Datenschutz ist dabei dann Menschenschutz, wenn die Privatheit angemessen mit Gesundheit abgewogen wird. Nur die Würde selbst soll nicht mehr abgewogen werden – deswegen soll KI auch Menschen unterstützen, nicht ersetzen. Die Herausforderungen in der Medizin, die Integration von KI betreffend, sind stark – nie in der Geschichte war ein Instrument mächtiger und nie war es weniger Instrument. Doch die Hoffnungen sind valide und die Chancen bleiben dennoch oft ungenutzt, da nicht die KI schwierig ist, sondern wir sind es.
Die Energiewirtschaft hat es mit ähnlichen Phänomenen zu tun – KI kann wirklich nutzen, auch der guten Sache. Ich denke hier an Stadtwerke mit ihrer kommunalen, moralischen Versorgungsverpflichtung. Arbeitsplätze werden sich im technischen wie im kaufmännischen Bereich mit der Zeit verändern, wie auch im Gesundheitswesen, aber mit dem richtigen ethischen Kompass wird diese Chance funktionieren. Die KI-VO und die DSGVO sind selbst zusammen sicher keine offene Tür für jedes noch so wilde Geschäftsmodell und das ist auch vernünftig. Legitime Modelle aber müssen lernen, produktiv mit den Regulierungen umzugehen – produktiv bedeutet hier, die KI-Chancen zu nutzen über das bloße „niedriginvestives Tool, was noch dazu gute Presse bringt“ hinaus. Es geht um die strategische Nutzung. Denn eine verantwortliche Strategie schaut ebenso in die Zukunft wie die Ethik. Und zur Sicherung von Energie sind hochdigitale Systeme und entsprechende New-Skill-Strukturen bei den Mitarbeitenden zukunftssichernd – KI wertebasiert einzusetzen eben nicht nur ein IT-Thema, ja nicht einmal „bloße digitale Transformation“, es ist die organisationale Konfrontation mit einer Entität, für die es keine kulturelle Praxis gibt. Weniger und bildungsbiographisch diversere Menschen werden in Kooperation mit KI-Lösungen diese Zukunft gestalten – dazu ist es notwendig, auch und gerade in der Energieversorgung fest im Fahrersitz zu bleiben. Was nicht leicht sein wird.
KI ist für Medizin wie auch Energie eine historische Chance, noch mal neu zu lernen, zusammenzuarbeiten, sich der eigenen Wertewurzeln vital wieder zu erinnern und strategisch „KI“ als Teil der eigenen Versorgungsgestaltung als Unternehmen anzunehmen aber immer kritisch zu bleiben. Bei beidem ist „Ethik“ ausgesprochen nützlich.
Ralf Jauch: Welche Maßnahmen sollten getroffen werden, um sicherzustellen, dass der Einsatz von KI auch in der Energiewirtschaft im Einklang mit unseren gesellschaftlichen Werten steht? Wie können wir sicherstellen, dass KI-Systeme transparent und nachvollziehbar bleiben?
Stefan Heinemann: Eine Bezugnahme auf Unternehmenswerte, Kodizes etc. oder dass partizipative Entwickeln von Ethik-Leitlinien, die man als Inspiration nutzen kann, ist hilfreich. Es geht darum, eine KI-Organisation für Missbrauch zu verengen und dabei gleichzeitig für moralische Einsichten zu öffnen. Dies beginnt bereits beim internen Umgang mit dem Themen Mitbestimmung, Kompetenzentwicklung, Partizipation, Kommunikation, Change und Kultur – die Masterclass-Themen müssen hier neue Priorität werden. Zudem ist die Leistungspartnerauswahl wichtig, nicht auf Legal-Checkboxen verlassen, sondern nur Lösungen erwägen, die einer ethischen Prüfung auch standhalten. Dazu zählt natürlich Antidiskriminierung, Datenschutz, Transparenz, Resilienz, Nachvollziehbarkeit etc. Wenn die KI-Lösung nach außen geht, Richtung Kundin oder Kunde, wird es ebenso wichtig, solche Werte zu pflegen. Letztlich sorgt ein ausgeprägter Nutzen in Kombination mit Verantwortung auch ökonomisch für attraktive Ergebnisse. Einen CAIO – Chief-AI-Officer – wird es so schnell vielleicht nicht brauchen, aber eine klare Verantwortlichkeit im Haus für das übergreifende Thema KI wäre sinnvoll. Es ist nicht ein Innovationsthema, was irgendwann wieder in der Versenkung verschwinden wird. Wer darauf hofft, wird enttäuscht werden. Auf der operativen Ebene ist darauf zu achten, dass die Kompetenzen der Kolleginnen und Kollegen ein auch weiterhin würdevolles und erfolgreiches Arbeiten ermöglichen – aber auch vice versa: Wer sich verweigert, handelt nicht automatisch moralischer. Aber er/sie bringt eine negative Dynamik in eine an sich positive Chance hinein. Letztlich kann KI wirtschaftlich in diversen Bereichen für ein EVU hilfreich sein, von eher kaufmännischen Aufgaben bis ins fachtechnische hinein – zu überschaubaren Kosten, wenn man richtig plant. Das Tal der Implementationstränen – der Hype-Cycle – mag kommen, aber es ist beherzt zu durchschreiten. KI i.w.S. ist nicht durch „wir warten bis SAP das auch alles hat“ zu erledigen. Nicht für alles braucht man „KI“ – aber viele Lösungen können mehr als Effizienz bringen, Dunkelverarbeitung zu niedrigen Kosten ist eine feine Sache, noch besser ist aber doch eine Produktivität durch eine gelingende Interaktionskultur Mensch-Maschine. Wenn der PC-Führerschein bloß durch den Prompt-Kurs abgelöst wird, ist das nicht ausreichend, um die Potenziale zu geben. Anstatt einer langen Aufzählung, was man in einem Energieunternehmen so alles Tolles mit KI machen kann, unterstreiche ich lieber, wo KI m.E. keinen Sinn ergibt: wo sie keinen ROAI bringt oder rechtliche wie ethische Prinzipien ins Feuer stellt.
Ralf Jauch: Wie kann ein Energieversorger sicherstellen, dass die Implementierung von KI-Technologien im eigenen Unternehmen sowohl kurz- als auch langfristig nachhaltig ist?
Stefan Heinemann: Indem er das Thema strategisch ernst nimmt und AI-Change aktiv managet, heißt: Ressourcen dafür bereitstellt.
Ralf Jauch: Welche ersten Schritte sollte ein Energieversorgungsunternehmen unternehmen, um eine erfolgreiche KI-Strategie zu entwickeln? Wie schätzt du hier den Austausch mit anderen EVU oder eine Art „Branchen-Benchmark“ ein?
Stefan Heinemann: Da ich selbst an solchen Themen arbeite, und als Wissenschaftler Methoden mag, liegt dieser Gedanke nahe. Ein Benchmark ist vielleicht etwas stark da die metrische Logik noch unklar ist – ROAI Return on AI wäre ein Ansatz - aber im Dialog mit anderen Energieversorgern zu stehen ist sehr wichtig. Natürlich sind nicht alle EVU gleich, die institutionellen Unterschiede sind beachtlich und scheinen auch meistens begründbar und nicht konstruiert zu sein. Auch der Umgang mit beispielsweise der Energiewende als dem Thema schlechthin hängt erheblich an den regionalen Rahmenbedingungen – oder den nationalen. Und doch ist Strategie, wenn es um KI geht, wichtiger denn je. Keine Unternehmensstrategie ist als im Wettbewerb stehendes Haus keine Option – dasselbe gilt für KI.
Ralf Jauch: Was dürfen wir von dir am 5./6. November auf der GO.DIGITAL 2024 erwarten?
Stefan Heinemann: Aufrichtiges Suchen nach dem Wahren und Guten – nach einem moralischen und wirksamen, erfolgreichen Umgang mit KI. Seit ich Anfang 20 war, treibt mich das als Wissenschaftler und im Unternehmenskontext um. Daher ebenfalls, dass ich die Teilnehmenden direkt ansprechen werde – nur im Dialog kommen wir weiter. Als Bemühenszusage: Langweilig wird es nicht!
Wir freuen uns, Prof. Dr. Heinemann als Speaker auf der GO.DIGITAL 2024. begrüßen zu dürfen.
Zuvor wird er uns in unserem GO.DIGITAL Web-Teaser am 13.09. um 11 Uhr bereits einen Einblick in die Thematik geben. Weitere Informationen zur kostenlosen Anmeldung zum Web-Seminar finden Sie unter Bottom-up vs Top-down - Braucht es jetzt eine KI-Strategie? | Energieforen Leipzig GmbH.
