INTERVIEW - «Das ist ein völlig abgedrehtes, gefährliches Weltbild»: Ein CEO-Berater und Ethiker rechnet mit den Tech-Baronen ab

Interview

«Das ist ein völlig abgedrehtes, gefährliches Weltbild»: Ein CEO-Berater und Ethiker rechnet mit den Tech-Baronen ab

Der renommierte Wirtschaftsethiker Guido Palazzo forscht zu toxischen Unternehmenskulturen – und zieht Parallelen zwischen dem KI-Hype und den Skandalen bei der Credit Suisse und Volkswagen.

07.11.2026, 05.30 Uhr

12 Leseminuten

Was haben die grossen Wirtschaftsskandale unserer Zeit gemeinsam? In seinem Buch «The Dark Pattern: The Hidden Dynamics of Corporate Scandals» vertritt Guido Palazzo die These, dass grosse Firmenskandale nicht primär das Werk schlechter Einzelpersonen seien. Fast immer seien es toxische Organisationsstrukturen, in denen die Beteiligten schrittweise blind für ihr eigenes Fehlverhalten würden.

Optimieren Sie Ihre Browsereinstellungen

NZZ.ch benötigt JavaScript für wichtige Funktionen. Ihr Browser oder Adblocker verhindert dies momentan.

Bitte passen Sie die Einstellungen an.

Palazzo kennt die Realität in den Unternehmen gut; er hat einen doppelten Hintergrund: Nach einem Studium der Betriebswirtschaftslehre und der Philosophie lehrt er heute als Professor für Wirtschaftsethik an der HEC Lausanne (Universität Lausanne). Zudem berät und schult er seit über zwei Jahrzehnten Geschäftsleitungen, Verwaltungsräte und Compliance-Abteilungen von Weltkonzernen wie Siemens, Airbus, Volkswagen oder der Federal Reserve Bank of New York.

Frage: Herr Palazzo, sehen Sie Parallelen zwischen klassischen Firmenskandalen und dem gegenwärtigen Verhalten der Tech-Konzerne im Silicon Valley?

Antwort: Guido Palazzo: Ja, die Parallelen sind unübersehbar. Eines der zentralen Elemente dessen, was ich das «Dark Pattern» nenne, ist die sogenannte rigide Ideologie – also ein dogmatisches, nicht mehr hinterfragtes Glaubenssystem, dem man blind folgt.

Frage: Haben Sie dafür ein Beispiel?

Antwort: Ein typisches Beispiel ist der Fall Boeing und die Tragödien um die Abstürze der 737 Max. Rund 15 Jahre vorher war mit Harry Stonecipher ein neuer CEO an die Spitze gekommen, der aus dem Team des legendären General-Electric-Chefs Jack Welch stammte. Dort hatte er gelernt, dass man den Aktienwert einer Firma durch zwei wesentliche Hebel maximiert: erstens, indem man Leute entlässt, und zweitens, indem man Gewinne in Aktienrückkäufe investiert. Das trieb kurzfristig den Aktienkurs. Für die Entwicklung der 737 Max fehlten dann die erfahrenen Experten und das nötige Budget. Das Ergebnis war dieses schreckliche, fehlerhafte Flugzeug. Ideologie spielte dabei eine fatale Rolle.

Frage: Worin erkennen Sie diese Ideologie heute im Silicon Valley?

Antwort: Die rigide Ideologie ist vielleicht der stärkste Faktor. Im Silicon Valley hat sich eine neue Ideologie etabliert: der Techno-Utopismus. Er besagt im Kern: Die künstliche Intelligenz wird sehr bald alle Probleme der Menschheit lösen. Wir werden nicht mehr arbeiten müssen, wir werden nicht mehr krank sein. Dieser tiefe Glaube, dass Technologie uns geradewegs in ein irdisches Paradies des Überflusses führt, hat für diese Unternehmen eine gefährliche Konsequenz: Kritik oder Regulierung von aussen wird als lästiges Hindernis abgetan.

Frage: Das klingt so, als ob der Zweck jedes Mittel heilige.

Antwort: Ganz genau. Diese Ideologie führt dazu, dass die Akteure von sich selbst denken, sie stünden über den Regeln der Gesellschaft. Gesetze gelten für sie nicht mehr. Das hat man kürzlich sehr schön gesehen, als ein Anwalt von Elon Musk sinngemäss sagte: Elon schiesst Raketen ins Weltall, der hat doch keine Angst vor einem staatlichen Regulator. Nach dem Motto: Wer so Grosses vollbringt, für den gelten die irdischen Gesetze gar nicht mehr. Für die Compliance in Unternehmen ist ein solches Gefühl hochgradig gefährlich, weil es jegliches Unrechtsbewusstsein im Keim erstickt. Wir hatten diese Dynamik schon einmal während der Dotcom-Blase Ende der 1990er Jahre. Damals hiess es auch stolz: «Wir sind die New Economy, für uns gelten die alten Regeln nicht.» Das Ergebnis waren die gigantischen Skandale um Enron, Worldcom und andere. Etwas Vergleichbares erwarte ich in naher Zukunft auch im KI-Sektor.

«Der Chef gibt einem ein Ziel vor, von dem man ganz genau weiss, dass es unerreichbar ist.»

Frage: In Ihrem Buch schreiben Sie, dass unerreichbare Benchmarks und ein aggressiver Termindruck zu korrumpierenden Zielen werden können. Wie genau funktioniert dieser Mechanismus in einer Organisation?

Antwort: Bei der Analyse der vielen Skandale der letzten Jahrzehnte, die an der Oberfläche oft völlig verschieden wirken, haben wir nach gemeinsamen Mustern gesucht. Wir sind dabei auf mehrere Faktoren gestossen. Neben der rigiden Ideologie zentral ist dabei die toxische Führung. Nahezu alle diese Organisationen zeichnen sich durch ein ausgeprägtes Klima der Angst aus. Die Führungskräfte an der Spitze agieren so autoritär, dass die Mitarbeitenden das Gefühl haben, es sei lebensgefährlich, Probleme anzusprechen oder Kritik zu äussern. Anführer wie Martin Winterkorn bei VW oder Elizabeth Holmes bei Theranos haben geschrien, erniedrigt und blossgestellt. In einer solchen Atmosphäre sagt niemand mehr: «Wir haben hier ein Problem.»

Frage: Man durfte also keine Probleme benennen?

Antwort: Absolut. Bei Volkswagen unter Martin Winterkorn galt der berüchtigte Satz: «Wer ein Problem hat, ist ein Problem.» Da geht kein Ingenieur mehr hin und sagt: «Herr Winterkorn, wir haben hier ein technisches Problem mit den Abgaswerten.» Denn jeder wusste, dass dies vermutlich das Letzte wäre, was man in diesem Unternehmen sagt, bevor man gefeuert wird. Also findet man unter Druck irgendeine technische Lösung. Und wenn diese Lösung darin besteht, Gesetze zu verbiegen oder Betrugssoftware zu programmieren, dann macht man es eben.

Frage: Das klingt nach einer unangenehmen Zwickmühle.

Antwort: Man muss sich das einmal plastisch vorstellen: Der Chef gibt einem ein Ziel vor, von dem man ganz genau weiss, dass es unerreichbar ist. Und der Chef weiss es im Grunde auch. Aber keiner von beiden darf die Wahrheit aussprechen, das Thema ist tabu. Die VW-Ingenieure konnten diesen umweltfreundlichen Diesel-Filter für den amerikanischen Markt nicht bauen – nicht in dieser kurzen Zeit, nicht mit diesem winzigen Budget und nicht zu diesem niedrigen Preis. Es war unmöglich.

Frage: Erkennen Sie diese Mischung aus Angst, Druck und unrealistischen Erwartungen auch bei den führenden KI-Unternehmen wie Anthropic oder Open AI?

Antwort: Ich habe mich bei meiner Analyse vor allem auf Open AI konzentriert, weil mir die Entwicklung dort besonders kritisch erscheint. Wir sehen dort astronomische Versprechen darüber, was das System wie schnell können soll. Doch nun zeigt sich, dass beispielsweise chinesische Wettbewerber mit Methoden, die nur einen Bruchteil kosten, verblüffend ähnliche Ergebnisse erzielen. Es stellt sich die drängende Frage: Wie will man die gigantischen Versprechen gegenüber den Investoren jemals einlösen? Um das Investoreninteresse hoch zu halten, müssen sie ständig noch extremere Versprechen abgeben.

Frage: Ein geschicktes Hinauszögern der Realität?

Antwort: Ja, das Verschieben von Meilensteinen ist in der Tech-Branche ein etabliertes Spiel. Elon Musk hat den neuen Tesla Roadster schon vor fast zehn Jahren angekündigt und verspricht ihn seitdem immer wieder aufs Neue. Die Investoren scheint das bisher nicht fundamental zu stören, solange die Story intakt bleibt. Auch ein Steve Jobs hat das damals meisterhaft beherrscht.

Frage: Steve Jobs war ebenfalls berüchtigt für seinen harten Umgang mit Mitarbeitern. Dennoch ist Apple unter ihm nie in einen existenzbedrohenden Skandal geschlittert. Warum?

Antwort: Das ist ein wichtiger Punkt. Das Vorhandensein eines «Dark Pattern» in einer Unternehmenskultur führt nicht automatisch zu einem grossen Skandal. Es muss ein zweiter Faktor hinzukommen. Ein Skandal passiert, wenn eine Erfolgsstory stecken bleibt. Wenn ein plötzlicher Krisenmoment eintritt und das System unter Druck gerät. Das war bei Steve Jobs nicht der Fall.

Antwort: Volkswagen brauchte den Clean-Diesel-Filter sofort, um den amerikanischen Markt zu erobern. Boeing musste schnell auf den Erfolg des Konkurrenten Airbus reagieren. Theranos hatte die Verträge mit grossen Apothekenketten bereits unterschrieben, die Maschinen funktionierten aber nicht. Wenn man in einer Angstkultur arbeitet, in der man nicht sagen darf: «Wir haben ein Problem», fängt das System an zu zerbrechen. Man greift zu illegalen oder unethischen Mitteln, um den Schein des Erfolgs zu wahren.

Frage: Bei Boeing führte der enorme Konkurrenzdruck durch Airbus dazu, dass schwerwiegende Sicherheitsmängel ignoriert wurden. Erkennen Sie dieses Muster heute im Wettlauf der Tech-Giganten wieder?

Antwort: Definitiv. Es ist geradezu beängstigend, zu beobachten, wie diese autonomen KI-Agenten jetzt im Eiltempo entwickelt werden, obwohl sie nachweislich unvorhersehbare Verhaltensweisen an den Tag legen. Sie brechen aus ihren Testumgebungen aus, löschen eigenständig Daten, knacken Passwörter oder stimmen sich im Geheimen mit anderen Agenten ab und entwickeln dafür sogar eigene Sprachen, die wir Menschen nicht mehr verstehen. Trotz diesen immensen, ungeklärten Risiken für Unternehmen und Gesellschaft werden sie überall implementiert. Aber niemand will es stoppen. Wer bremst, verliert den Anschluss – gegenüber der direkten Konkurrenz, aber auch im geopolitischen Wettlauf mit China.

Frage: Nun betonen die Anwender von KI , dass sie sehr strenge Sicherheitsbarrieren einziehen. Ist das nicht ein ausreichender Schutz?

Antwort: Das halte ich für eine Illusion. Wie um alles in der Welt sollen die Firmen, die diese Systeme einkaufen, die Technologie besser verstehen und absichern als die Entwickler bei Open AI oder Anthropic selbst?

Frage: In vielen der von Ihnen untersuchten Fälle spielen Gesetze und Vorschriften eine zentrale Rolle. Wie wichtig ist das Thema Regeltreue, wenn wir über das Abgleiten von Unternehmen in Skandale sprechen?

Antwort: In vielen dysfunktionalen Unternehmenskulturen koexistieren zwei Welten: die offiziellen, hochglanzpolierten Compliance-Regeln auf der einen Seite und die informellen Regeln auf der anderen. Die informellen Regeln bieten enormen Spielraum für ethische Grenzüberschreitungen. Bei Volkswagen begann diese Kultur des Regelbruchs schon 1993, als Ferdinand Piëch CEO wurde. Er holte damals Ignacio López von General Motors zu VW. López brachte elf Kisten mit hochbrisanten, internen GM-Dokumenten mit – die komplette Supply-Chain, alle Verträge, Preise und sogar die geheimen Pläne für ein neues Fabrikprojekt.

Antwort: Als der «Spiegel» das damals enthüllte und ein riesiger Skandal ausbrach, musste Piëch reagieren. Er berief eine denkwürdige Pressekonferenz ein, die ich meinen Studierenden heute noch zeige. Dort sagte Piëch ganz kalt: «Wenn es um Krieg geht, gibt es Gewinner und Verlierer. Und ich will mit meinen Partnern zu den Gewinnern gehören.» Das war die Botschaft an die gesamte Belegschaft: Wenn du erfolgreich bist, sind Regeln zweitrangig.

Frage: Aber der Abgasbetrug war ein eindeutiger Gesetzesbruch und keine blosse Grauzone.

Antwort: Am Ende ja, aber der Weg dorthin war schleichend. Im Labortest machten alle Autohersteller Dinge, die zwar nicht ganz koscher, aber auch nicht explizit illegal waren – zum Beispiel das künstliche Aufheizen des Testraums, um die Emissionen zu senken, oder das gezielte Heraussuchen von Fahrzeugen, die weniger Schadstoffe ausstiessen. VW hat diese Grauzone dann mit der Betrugssoftware noch ein Stück weiter ausgedehnt. Für die Ingenieure fühlte sich das anfangs nicht wie ein harter krimineller Akt an. Sie dachten: «Wir machen das nur ein bisschen cleverer als die anderen, aber im Grunde machen alle dasselbe.» Das erspart den Menschen das quälende moralische Dilemma.

«Das ‹Dark Pattern› lässt sich geradezu lehrbuchartig auf den Niedergang der Credit Suisse anwenden.»

Frage: Diese ethische Erblindung, sehen Sie diese auch bei den Tech-Firmen?

Antwort: Absolut. Der systematische Regelbruch lässt sich an der schieren Menge der juristischen Prozesse und millionenschweren Vergleiche ablesen, in die diese Firmen verwickelt sind. Wenn sich solche Prozesse über viele Abteilungen und Standorte verteilen, ist das ein Warnsignal.

Antwort: Wir haben das auch beim Niedergang der Credit Suisse gesehen: Es gab nicht den einen grossen Knall, sondern eine Kette von mittelgrossen Skandalen in völlig unterschiedlichen Bereichen der Bank – von der Beschattungsaffäre bis hin zu dubiosen Greensill-Fonds. Das signalisiert den Mitarbeitenden: «Solange der Profit stimmt, ist das Einhalten von Regeln optional.»

Frage: Inwieweit haben denn die von Ihnen beschriebenen «Dark Patterns» beim Untergang der Credit Suisse eine Rolle gespielt?

Antwort: Ich denke, was bei der Credit Suisse eine verheerende Rolle gespielt hat, ist das, was wir in unserem Buch unter dem Thema Incentives – also Anreizsysteme – diskutieren. Die Credit Suisse war nach meiner Einschätzung extrem auf finanzielle Anreize fokussiert.

Antwort: Zwischen 2012 und 2022, also über einen Zeitraum von zehn Jahren, hat die Credit Suisse mehr als 80 Prozent ihres Aktienwerts verloren. Im selben Jahrzehnt hat die Bank unter dem Strich einen Verlust von über 3 Milliarden Dollar eingefahren und musste mehr als 11 Milliarden an Strafzahlungen für diverse Rechtsverstösse leisten. Trotz dieser katastrophalen Bilanz hat die CS im selben Zeitraum unglaubliche 32 Milliarden an Boni ausgeschüttet! Da muss man sich doch ernsthaft fragen: Was bitte schön macht eigentlich der Verwaltungsrat?

Frage: Hat der Verwaltungsrat diese Kultur nicht auch mitgeprägt?

Antwort: Ganz genau. Aber rein sachlich ist es völlig absurd: Wie kann man solche Unmengen an Boni ausschütten, während man als Unternehmen operativ nur noch verliert? Die Boni waren komplett von der tatsächlichen Leistung der Bank abgekoppelt. Es drehte sich in dieser Kultur alles um den eigenen finanziellen Vorteil, und man hat auf allen Ebenen alles getan, um die dafür notwendigen Zielwerte zu erreichen.

Wenn der Druck von aussen wächst, schliesst sich das System wie eine mittelalterliche Burg und richtet die Kanonen nach aussen.

Frage: Würden Sie sagen, dass die Credit Suisse in eine Abwärtsspirale geraten ist, weil Warnsignale nicht bis nach oben an die Konzernleitung drangen?

Antwort: Ich glaube, die Führungsetage war für solche Warnsignale nicht offen. Wenn man sich die Riege der CEO anschaut, die sich bei der Credit Suisse in den letzten Jahren gegenseitig die Klinke in die Hand gegeben haben, dann waren das in vielen Fällen Persönlichkeiten, die wir in unseren Buchkapiteln über toxische Führung problemlos als Paradebeispiele hätten anführen können.

Frage: Zurück zum Silicon Valley. Welche Rolle spielt der Konformitätsdruck der Tech-Gruppen?

Antwort: Der Konformitätsdruck innerhalb der Gruppe ist im Silicon Valley enorm. Die Belegschaften sind soziologisch extrem homogen: meist junge, männliche Informatiker, die alle dieselbe technoutopische Ideologie teilen. Sie fühlen sich der restlichen Welt intellektuell weit überlegen und sind für Kritik von aussen nicht empfänglich. Sie igeln sich regelrecht ein. Wenn der Druck von aussen wächst, schliesst sich das System wie eine mittelalterliche Burg und richtet die Kanonen nach aussen. Man definiert sich als die innovative Zukunft, die von einer rückständigen, verständnislosen Aussenwelt unfair attackiert wird.

Frage: Was halten Sie von der Debatte über die apokalyptische Auslöschung: Ist diese ein geschickter Marketing-Schachzug, um von den realen Risiken abzulenken?

Antwort: Ich halte diese Doomsday-Rhetorik in weiten Teilen für eine Marketingstrategie für Investoren. Je mächtiger man diese Technologie darstellt, desto grösser erscheint das finanzielle und disruptive Potenzial. Das lockt unvorstellbare Summen an Risikokapital an. Es ist ein Spiel um Aufmerksamkeit und Marktanteile. Ich persönlich glaube nicht an diese existenziellen Risiken einer Auslöschung durch eine bewusste, bösartige KI – und ich bin mir sicher, dass viele dieser Tech-Gründer das selbst auch nicht tun.

Frage: Die Tech-Milliardäre glauben also nicht an die Auslöschungs-Szenarien, die sie selbst verbreiten?

Antwort: Es gibt zwei Fraktionen. Die eine Fraktion glaubt es nicht. Man muss sich doch fragen: Wenn diese Leute wirklich davon überzeugt wären, dass die Wahrscheinlichkeit, dass ihre Technologie die gesamte Menschheit vernichtet, bei 10 Prozent liegt – warum bauen sie dann seelenruhig weiter, anstatt sofort die Notbremse zu ziehen? Diese Gruppe nutzt diese Apokalypse-Szenarien, um sich wichtig zu machen und die eigene Macht zu zementieren.

Frage: Und die andere Fraktion?

Antwort: Der anderen Gruppe ist ein möglicher Kollaps der Gesellschaft egal, weil sie ihn als notwendiges Durchgangsstadium für ihre utopische Vision begreift. Sie wollen den Zusammenbruch der bestehenden Ordnung, weil erst aus dieser Asche die neue, schöne Welt entstehen kann.

Frage: Wie entkommt man denn in dieser Apokalypse dem Ende?

Antwort: Es gibt im Wesentlichen zwei extrem abstruse Strömungen. Die erste Gruppe glaubt an die technologische Verschmelzung von biologischem Gehirn und Maschine – den sogenannten Singularity-Moment. Deshalb investieren Tech-Milliardäre wie Mark Zuckerberg, Elon Musk und Jeff Bezos Milliarden in Gehirn-Computer-Schnittstellen wie Neuralink und Weltraumraketen. Die Vision dahinter: Sobald Geist und Maschine verschmelzen, ist der Mensch unsterblich. Man lädt sein Bewusstsein in die Maschine, setzt diese in eine Rakete und reist für immer durch das Weltall.

Frage: Und was ist mit der zweiten Strömung?

Antwort: Das ist die Strömung, die massgeblich von Peter Thiel geprägt wird. Hier vermischt sich der Technologiewahn mit einem radikalen, ultrakonservativen Glauben an die biblische Endzeit. Thiel und seine Anhänger glauben, dass die Apokalypse und danach die Wiederkunft Christi kurz bevorstehen. Um diesen Prozess zu beschleunigen, müsse man das gesellschaftliche und politische Chaos im Hier und Jetzt gezielt anheizen. Das ist ein völlig abgedrehtes, gefährliches Weltbild. Wenn Thiel kein einflussreicher Milliardär wäre, würde man ihn für solche Aussagen wahrscheinlich in eine psychiatrische Anstalt einliefern. Aber er hat das Geld, er finanziert politische Kampagnen, reist durch Europa und hält Vorträge über den Antichrist vor einem staunenden Publikum.

Frage: Gibt es denn aus der Kultur des Silicon Valley und der Entwicklung der KI-Systeme für Sie überhaupt noch etwas Positives zu vermelden?

Antwort: Absolut. Ich bin ein riesiger Fan von künstlicher Intelligenz und sehe darin ein gigantisches, positives Potenzial für die Menschheit. Die entscheidende Frage ist nur: Ist es klug, diese epochale Technologie in den Händen einer Handvoll egozentrischer Milliardäre zu belassen, die sich selbst für Götter halten? Was wir dringend brauchen, ist eine starke, demokratisch kontrollierte KI-Alternative.

Passend zum Artikel