Wenn KI Entscheidungen trifft – wer trägt dann die Verantwortung?

Auf der AI@Strategy Conference in München wurde deutlich, wie KI nicht nur Arbeitsabläufe, sondern auch Zusammenarbeit und Entscheidungsprozesse verändert. Drei Erkenntnisse darüber, welche neuen Anforderungen sich daraus für Führungskräfte ergeben.

Stellen wir uns eine wöchentliche Besprechung der operativen Lage vor. Ein KI-System hat bereits Kapazitäten zwischen drei Standorten umverteilt, bei zwei Lieferanten Risiken erkannt und eine Empfehlung für den Vorstand vorbereitet. Die Zahlen erscheinen plausibel, die Begründung klingt schlüssig, das Meeting ist schnell beendet. Doch niemand fragt, wie das System Lieferrisiken gegen Kosten abgewogen hat. Und niemand weiß so recht, wer dafür verantwortlich wäre, diese Frage zu stellen.

Um solche Fragen ging es in vielen Vorträgen auf der AI@Strategy Conference, die am 7. und 8. Oktober 2026 an der Technischen Universität München unter Beteiligung von DLD stattfand. Besonders interessant fand ich, wie stark sich die Diskussion inzwischen verändert hat. Im Mittelpunkt standen häufig nicht mehr einzelne KI-Anwendungen, sondern Systeme, die Aufgaben koordinieren, Entscheidungen vorbereiten und zunehmend auch selbst ausführen.

In unserem jüngsten Beitrag zur DIGITAL X haben wir uns damit beschäftigt, wie Unternehmen KI erfolgreich in ihre Arbeitsabläufe integrieren können. Die Diskussionen in München warfen eine andere Frage auf: Wie verändern sich Verantwortlichkeiten, wenn KI Aufgaben übernimmt und Entscheidungen trifft, die bisher Menschen vorbehalten waren?

In der KI-Debatte geht es häufig darum, wie viel produktiver einzelne Mitarbeitende durch den Einsatz neuer Technologien werden. Sameer Srivastava, Professor an der Haas School of Business der University of California, Berkeley, untersuchte einen anderen Aspekt: wie KI die Zusammenarbeit innerhalb von Unternehmen verändert.

In seinem Vortrag „AI Workflows and Collaboration“ ging er der Frage nach, ob KI bestehende Abhängigkeiten von einzelnen Fachleuten und Koordinatoren verstärkt – oder ob sie den Zugang zu Wissen erleichtert und so neue Formen der Zusammenarbeit ermöglicht.

Seine Untersuchung basiert auf Daten einer Arbeitsmanagement-Plattform aus 25.650 Organisationen, die zwischen Juli 2024 und März 2026 monatlich erfasst wurden. Erste Ergebnisse deuten auf Veränderungen in den Netzwerken der Zusammenarbeit hin. Ob diese tatsächlich durch KI verursacht werden, lässt sich bislang allerdings nicht eindeutig feststellen.

Für Unternehmen ist die Frage dennoch relevant. Wer die Zusammenarbeit koordiniert, hat häufig großen Einfluss: etwa die Projektleiterin, die weiß, wen sie bei einem Problem ansprechen muss, oder der IT-Architekt, über den wichtige technische Entscheidungen laufen.

Wenn KI den Zugang zu Fachwissen erleichtert, könnten solche Engpässe an Bedeutung verlieren. Gleichzeitig könnten neue Abhängigkeiten entstehen – beispielsweise von denjenigen, die KI-gestützte Arbeitsabläufe konfigurieren, Daten verwalten oder Zugriffsrechte festlegen.

Für COOs, Bereichsleitungen und HR-Verantwortliche stellen sich damit zwei zentrale Fragen: Wie verändern sich Zusammenarbeit und Verantwortlichkeiten, wenn KI Wissen und Aufgaben zunehmend zwischen Teams vermittelt? Und wie können Unternehmen sicherstellen, dass dadurch neue Verbindungen entstehen, statt lediglich bestehende Abhängigkeiten zu verlagern?

Christopher L. Tucci machte in seinem Vortrag „Scaling AI Governance“ auf eine weitere Herausforderung aufmerksam: Je ausgefeilter KI-Empfehlungen werden, desto wichtiger ist es, sie kritisch zu hinterfragen.

KI liefert Ergebnisse in Sekundenschnelle, formuliert selbstbewusst und verarbeitet große Datenmengen. Dadurch können ihre Empfehlungen objektiver und verlässlicher erscheinen, als sie tatsächlich sind. Die Gefahr besteht darin, dass Menschen den Ergebnissen zu schnell vertrauen.

Eine Studie von Microsoft Research und der Carnegie Mellon University aus dem Jahr 2025 stützt diese Sorge. Darin berichteten 319 Beschäftigte aus wissensintensiven Berufen anhand von 936 Beispielen über ihren Einsatz generativer KI im Berufsalltag. Wer stärker auf die Fähigkeiten der KI vertraute, gab an, weniger kritisch nachzudenken. Wer dagegen mehr Vertrauen in die eigenen Fähigkeiten hatte, berichtete von einer intensiveren kritischen Prüfung. Die Ergebnisse beruhen auf Selbstauskünften und belegen keinen ursächlichen Zusammenhang. Sie zeigen aber, wie eng Vertrauen in KI und kritisches Hinterfragen miteinander verbunden sein können.

Für Führungskräfte, Projektleitungen und Fachbereichsverantwortliche bedeutet das: Eine KI-Empfehlung freizugeben, sollte mehr sein als ein formaler Schritt. Entscheidend ist, die zugrunde liegenden Annahmen zu prüfen: Auf welchen Daten beruht das Ergebnis? Welche Informationen fehlen möglicherweise? Und inwiefern unterscheidet sich die aktuelle Situation von den Fällen, auf die das System vorbereitet ist?

Damit stellt sich auch die Frage, wie eigenständig KI handeln darf.

Tucci stellte ein Governance-Modell vor, das KI-Systeme anhand ihres Autonomiegrads und der Reichweite ihrer Entscheidungen unterscheidet. Zia Hoshyarzai, CIO und COO der BayernLB, beschrieb für den Bankensektor vier Stufen:

• KI-assistiert: Die KI gibt Empfehlungen, Menschen entscheiden und setzen sie um.

• KI-gestützt: Die KI führt einzelne Arbeitsschritte aus, Menschen überwachen und geben diese frei.

• KI-geführt: Die KI übernimmt die Ausführung weitgehend selbstständig, innerhalb klar definierter Regeln.

• Autonom: Die KI optimiert Ergebnisse eigenständig in geeigneten, klar abgegrenzten Bereichen.

Je eigenständiger KI handelt, desto wichtiger werden klare Zuständigkeiten und wirksame Kontrollmöglichkeiten. Hoshyarzai betonte, dass menschliche Aufsicht nur funktioniert, wenn Verantwortliche über die nötigen Informationen, Entscheidungsbefugnisse und ausreichend Zeit verfügen, um KI-gestützte Abläufe kritisch zu prüfen. Eine menschliche Freigabe allein ist noch keine wirksame Kontrolle.

Auch bestehende Regelwerke greifen diesen Gedanken auf. Das NIST Generative AI Profile beschreibt unter anderem die Gefahr, sich zu stark auf automatisierte Ergebnisse zu verlassen. Artikel 14 der EU-KI-Verordnung verlangt für Hochrisiko-KI-Systeme, dass sie so konzipiert und entwickelt werden, dass Menschen sie wirksam beaufsichtigen können. Dazu gehört, ihre Grenzen zu verstehen, Ergebnisse einzuordnen und bei Bedarf einzugreifen.

Aus meiner Sicht liegt hier eine der wichtigsten Fragen für Unternehmen: Nicht nur die eingesetzte Technologie verändert sich, sondern auch das, was Führungskräfte künftig leisten müssen. Unternehmen sollten deshalb die Anforderungen an zentrale Führungsrollen neu bewerten. Besonders deutlich wird das bei vier Bereichen.

CIOs und CTOs müssen festlegen, wie eigenständig KI-Systeme handeln dürfen. Welche Entscheidungen können KI-Agenten selbst treffen, wann braucht es menschliche Freigaben und wie lassen sich ihre Handlungen kontrollieren oder rückgängig machen? Hier treffen technische Verantwortung und unternehmerische Entscheidungen aufeinander.

Je mehr Entscheidungen KI vorbereitet oder selbst trifft, desto wichtiger wird die Fähigkeit von Führungskräften, diese Entscheidungen kritisch zu beurteilen. Denn auch wenn KI immer mehr Aufgaben übernimmt und Prozesse koordiniert: Die Verantwortung, Ziele vorzugeben, Folgen abzuwägen und Ergebnisse zu hinterfragen, bleibt bei den Menschen. Und diese Verantwortung wird anspruchsvoller.

Für Unternehmen geht es deshalb um mehr als die richtige Technologiestrategie. Sie müssen sich fragen, ob ihre Führungsrollen, Entscheidungsstrukturen und Kompetenzanforderungen mit den technologischen Entwicklungen Schritt halten.

Davon wird zunehmend abhängen, welche Führungskräfte und Fachleute Unternehmen für ihre Technologie- und Transformationsprojekte benötigen – und ob KI ihre Leistungsfähigkeit tatsächlich stärkt oder lediglich neue Komplexität schafft.