Die größte Gefahr der KI-Ära: Menschen, die aufhören zu denken

Während wir Maschinen immer intelligenter machen, schalten sich Führungskräfte selbst ab. Ein Plädoyer für Bewusstsein statt Optimierung.

Der blinde Fleck der aktuellen KI-Debatte ist schnell benannt: Sie kreist fast ausschließlich um Leistung, Skalierung und Generalisierung. Um Rechenpower, Modelle und Produktivität. Was dabei konsequent ausgeblendet wird, ist ausgerechnet das, was angeblich auf dem Spiel steht: Bewusstsein.

Stattdessen begeht man einen fundamentalen Denkfehler. Man tut so, als könne Bewusstsein aus immer besserer Informationsverarbeitung entstehen. Dabei wird übersehen, dass genau dieser Irrtum seit Jahren die Führungsetagen prägt.

Führung im Effizienz-Modus: Wie Bewusstsein zur Störgröße wurde

Ein Großteil heutiger Führung agiert immer noch aus frühen bis mittleren Aktionslogiken heraus: Expert, Achiever, mit etwas Glück Strategist. Diese Logiken sind auf Kontrolle, Optimierung, Zielerreichung und messbare Wirksamkeit getrimmt. In diesem Rahmen wirken Bewusstsein und Affekte nur dann legitim, wenn sie Effizienz steigern. Alles andere gilt als weich, privat oder störend.

KI ist hier die logische Fortsetzung dieser Denk- und Aktionslogik: effizient, berechenbar, steuerbar. Perfekt passend zu einer mechanistischen Weltformel: Ziel → Mittel → Optimierung → Output. Dementsprechend erscheint es in dieser Logik auch nur folgerichtig, Bewusstsein als skalierbare Ressource misszuverstehen.

In diesen Arbeits- und Entscheidungslogiken wurde Bewusstsein über Jahre unbemerkt funktionalisiert. Sich selbst beim Denken zuzusehen, eigene Affekte, Zweifel oder innere Spannungen wahrzunehmen, war weder nötig noch erwünscht – ja sogar für einen selbst störend, schließlich war man als „einfach funktionierendes Rädchen im System“ erfolgreicher. Verantwortung wurde nach außen delegiert: „Die Datenlage war eindeutig.“ „Das Modell zeigt es.“

Genau dieser Raum – dort, wo Führungskräfte nicht willens oder nicht fähig sind, die eigene Aktions- und Affektlogik zu beobachten und zu transformieren – wird nun von KI und LLMs übernommen. Und das ist zunächst einmal gut so. Routinen, Berechnungen und Prognosen dürfen Maschinen erledigen. Gefährlich wird es erst, wenn Menschen glauben, damit auch Bewusstsein, Urteilskraft und Verantwortung auslagern zu können – oder wenn sie plötzlich überfordert sind mit dem, wofür sie ursprünglich da sind: Bewusstsein und Verantwortung zu tragen.

Was KI fehlt – und warum das entscheidend ist

Mit KI steigen Dynamik und Komplexität. Organisationen benötigen deshalb reifere Aktionslogiken – Strategist, Systemiker, Alchemist. In diesen Logiken ist Bewusstsein der Ort der Verantwortung. Etwas, aus dem heraus man handelt.

Denn KI ist ein System ohne phänomenale Innenperspektive. Sie erlebt nichts und hat kein „In-der-Welt“ bzw. „Für-sich-Sein“. Was nichts erlebt, kann nichts verstehen und nichts wertschätzen. Es kann lediglich korrekt reagieren. Genau deshalb bleibt KI trotz beeindruckender Outputs grundlegend kontextblind. Sie verarbeitet keine Bedeutung, sie simuliert Bedeutung – und verführt uns dazu, dem Ergebnis Sinn zuzuschreiben, den es selbst nicht kennt.

Bewusstsein ist verkörperte, situierte, gelebte Erfahrung. Eine derartige beständige Selbstaktualisierung ist deutlich anspruchsvoller als ein Rückzug aus dem eigenen Erleben als Schutzmechanismus vor Nähe, Unsicherheit und Nicht-Wissen. KI bietet eine scheinbar sichere Alternative: Klarheit ohne Risiko, Entscheidung ohne Verletzlichkeit, Außen-Orientierung ohne innere Resonanz.

Das geht nur solange wir ignorieren, dass Kognition durch ihre wechselseitige Verschränkung mit der Welt entsteht – durch das aktive Gestalten unserer Wirklichkeit. Bewusstsein ist die Voraussetzung dafür, dass überhaupt Bedeutung entsteht. Wo keine Bedeutung entsteht, bleibt Handeln blind – egal wie überzeugend die Dashboards aussehen.

Das eigentliche Problem ist die Selbstabschaltung des Menschen bzw. die Abwesenheit des Menschen in sich selbst. Ein System ohne Innenperspektive kann gefährlich sein. Ein Mensch ohne reflektierte Aktions- und Affektlogik ist gefährlicher. Hannah Arendt hat dies mit der „Banalität des Bösen“ eindrücklich beschrieben. Es wird Zeit, dass Führung reflektierter wird! Dabei meine ich nicht „mehr Reflexion“ im alltäglichen Sinn, sondern als radikale Verschiebung des Verständnisses von Führung, Lernen und Steuerung. Führung scheitert längst nicht mehr an den Grenze von Wissen, sondern an der Grenze ihrer Selbstbezüglichkeit. 

Wir optimieren Prozesse, Strategien, KPIs – doch Zielsetzungen, Menschenbilder und Machtlogiken bleiben oftmals unangetastet. Damit lernen wir nur innerhalb eines Rahmens, aber nie über den Rahmen. Was wir allerdings mehr als dringend benötigen ist ein Lernen, das den Lernenden verändert.

Warum Bedeutung sich nicht berechnen lässt

Als lebendige Systeme sind wir selbsterschaffend, selbstabgrenzend, selbstreferenziell. Lernen ist nicht nur Anhäufung von Information, sondern eine Transformation der Beziehung zwischen einem selbst, dem System und der Welt. Wir lernen bedeutungsgetrieben. Bedeutung entsteht aus Körperlichkeit, Affekten, Motivation, Erwartungen und Selbstbezug. Ohne ein In-der-Welt-Sein keine Perspektive, ohne Perspektive kein Sinn. KI kann Prognosen erzeugen, aber nichts erwarten. Sie kennt keine Hoffnung, keine Enttäuschung, kein Vertrauen. Sie abstrahiert formal – weiß aber nicht, dass sie abstrahiert.

Werte entstehen, weil wir leben und erleben. Etwas ist wichtig, weil es uns als System betrifft. KI kann Ziele optimieren, aber nichts wertschätzen. Ohne Erleben gibt es keine echte Ethik – nur das Befolgen von Regeln. Auch Zielrevision wird oft mit der alten Arbeitslogik missverstanden: Ein Ziel infrage zu stellen heißt, sich selbst infrage zu stellen. Das setzt Reflexivität und Mut voraus. Es ist ein Akt der Bewusstwerdung, keine Berechnung. Er verändert Wahrnehmung, Relevanz, Bedeutung und Identität.

Kurz gesagt: Bedeutung lässt sich nicht berechnen. Verantwortung lässt sich nicht delegieren.

Worum es wirklich geht

Die eigentliche Herausforderung unserer Zeit liegt darin, den Menschen zur vollen Verantwortlichkeit zu befähigen. Reflexion im Zeitalter der KI bedeutet dabei weit mehr als ein bloßes „Denken über sich selbst“. 

Was wir brauchen ist eine radikale Wende im Denken: Wir müssen anerkennen, dass es keine neutrale Beobachtung gibt. Führungskräfte stehen niemals außerhalb des Systems, das sie steuern wollen. Kontrolle entsteht nicht durch Distanz, sie entsteht durch bewusste Verantwortung für die eigene Perspektive. 

Unser Verstand bildet nicht einfach die Wirklichkeit ab – er gestaltet sie mit. Was wir wahrnehmen, wird durch unsere Art zu denken mitgeformt. Für Führung bedeutet das: Wir stehen der Realität nicht neutral gegenüber. Wir sind immer Teil ihrer Entstehung. 

Reflexion heißt dann nicht, bessere Modelle anzuwenden. Reflexion heißt, die eigene Beteiligung am Geschehen ernst zu nehmen.

Die nüchterne Konsequenz ist klar: KI wird mächtiger werden, aber innerlich leer bleiben. Die eigentliche Gefahr ist eine schleichende menschliche Selbstabschaltung. Während wir Maschinen immer leistungsfähiger machen, beginnen viele Menschen, sich selbst wie Maschinen zu behandeln: effizient, funktional, austauschbar.

KI spiegelt unsere aktuelle Entwicklung und lädt uns zu einem neuen Entwicklungssprung ein. Führung braucht Menschen, die bereit sind, die volle Verantwortung zu übernehmen, statt sie auszulagern. 

Die entscheidende Frage lautet deshalb: Wo weichst du selbst der Verantwortung aus, bewusst anwesend zu sein?