Ägypten, erzählt vor 2.400 Jahren. Der Gott Theuth, Erfinder der Künste, tritt vor König Thamus und präsentiert seine größte Schöpfung: die Schrift. Sein Verkaufsargument klingt wie ein Pitchdeck von heute: Dieses Werkzeug wird die Ägypter weiser machen und ihr Gedächtnis stärken, ein Mittel für Erinnerung und Weisheit.
Thamus lehnt ab, und seine Begründung ist die vielleicht früheste Technologiekritik der Geschichte: Genau das Gegenteil wird eintreten. Wer schreibt, hört auf, sich zu erinnern, er vertraut den Zeichen statt sich selbst. Die Menschen werden vieles hören und nichts lernen. Und dann der Satz, für den diese Geschichte hier steht: Sie werden den Schein der Weisheit erwerben, nicht die Weisheit selbst.
Die Geschichte stammt von Sokrates, der zeitlebens keine Zeile schrieb, weil er genau das glaubte. Wir kennen sie nur, weil sein Schüler Platon sie aufschrieb. Die Ironie ist Teil der Lektion, und wir kommen auf sie zurück.
Der gemeinsame Mechanismus dahinter
Thamus beschrieb einen Tausch, der sich seither bei jeder Denktechnologie wiederholt hat: Eine Fähigkeit wird ausgelagert, und mit ihr geht etwas verloren, das an ihr hing.
Die Schrift lagerte das Gedächtnis aus, und die Kultur des auswendigen Epos starb. Der Taschenrechner lagerte das Rechnen aus, und das Zahlengefühl wurde seltener. Das Navi lagerte die Orientierung aus, und das ist inzwischen vermessen: Londoner Taxifahrer, die das Straßennetz im Kopf tragen müssen, haben nachweislich vergrößerte Gedächtnisstrukturen im Gehirn, während bei Dauernutzern von Navigationsgeräten die räumliche Orientierung messbar verkümmert. Das Organ folgt der Nutzung, in beide Richtungen.
Und doch hatte Thamus nur halb recht. Die Schrift machte die Menschen nicht dümmer, sie wurde zum größten Verstehens-Verstärker der Geschichte, aber nur für die, die das Denken behielten und das Speichern abgaben. Der Tausch war nie das Problem. Das Problem war immer, versehentlich das Falsche abzugeben.
Genau hier ist die heutige Lage anders als alle vorherigen, und zwar kategorisch. Schrift, Rechner und Navi lagerten Speichern, Rechnen, Orientieren aus, Zulieferungen des Denkens. Sprachmodelle sind die erste Technologie, die das Endprodukt liefert: fertige Argumentationen, Strategien, Begründungen, formuliert in genau der Form, die Verstehen sonst annimmt. Der Output eines Modells sieht nicht aus wie eine Information, die man noch durchdenken müsste. Er sieht aus wie durchdachtes Ergebnis. Thamus‘ Schein der Weisheit ist industrialisiert worden, im Abo, für zwanzig Euro im Monat.
Das Experiment dazu
Wie gefährlich dieser Schein ist, haben zwei Yale-Psychologen schon 2002 vermessen, lange vor KI. Leonid Rozenblit und Frank Keil baten Probanden, ihr Verständnis alltäglicher Dinge zu bewerten, ein Reißverschluss, eine Toilettenspülung, ein Fahrradschloss, auf einer Skala von eins bis sieben. Die Selbstauskünfte waren souverän. Dann kam die zweite Aufgabe: Erklären Sie es, Schritt für Schritt.
Die Erklärungen brachen zusammen, und mit ihnen die Selbsteinschätzung: Nach dem Erklärversuch stuften sich dieselben Personen zwei Punkte tiefer ein. Die Forscher nannten den Effekt die Illusion der Erklärtiefe: Wir verwechseln Vertrautheit mit Verständnis.
Wer etwas oft gesehen hat, glaubt zu wissen, wie es funktioniert, bis er es erklären muss.
Jetzt setze KI in dieses Experiment ein. Das Modell liefert dir zu jedem Thema flüssige, strukturierte, überzeugende Texte. Vertrautheit entsteht in Minuten. Das Gefühl, verstanden zu haben, stellt sich sofort ein, es fühlt sich alles wie eine Sieben an. Nur die Erklärprobe, der Moment, in dem die Illusion sonst auffliegt, findet nie statt, denn wozu erklären, was man jederzeit wieder generieren kann? Die Illusion der Erklärtiefe war ein Messfehler des Gehirns. KI macht daraus ein Geschäftsmodell.
Der Schein der Weisheit im Unternehmen
Im Unternehmen sieht der Schein der Weisheit so aus: Die Strategie ist fertig, dreißig Seiten, sauber gegliedert, in einer Stunde erzeugt. Der Report steht, das Dashboard leuchtet, die Marktanalyse liest sich exzellent. Und im Meeting beantwortet niemand die einfachste aller Fragen: Warum eigentlich? Welche Annahme trägt das, und woran würden wir merken, dass sie falsch ist? Das Dokument existiert, das Verständnis nicht, und der Unterschied fällt erst auf, wenn die Realität die Erklärprobe erzwingt, beim Kunden, beim Wettbewerber, in der Krise. Realität ist Rozenblit und Keil ohne Vorwarnung.
Daraus folgt die Delegationsregel, die schon vor KI für Menschen galt:
Auslagern darfst du nur, was du beurteilen kannst.
Ein Chef, der eine Arbeit nicht bewerten kann, hat sie nicht delegiert, er hat sie aufgegeben. Für die Maschine gilt es wörtlich: KI ist ein großartiger Zulieferer für den, der den Output prüfen, hinterfragen und verwerfen kann, und ein Souffleur der Ahnungslosigkeit für alle anderen. Deshalb steht am Anfang jeder Architektur, die wir bauen, nicht die Frage, was automatisiert werden kann, sondern was verstanden bleiben muss: die eigenen Muster, die eigenen Annahmen, die wenigen Entscheidungen mit Hebel. Der Rest darf an die Maschine. Wissen ist billig geworden. Verstehen ist gerade dabei, das teuerste Gut im Unternehmen zu werden, weil es das einzige ist, das man nicht generieren kann.
Und die Ironie von Platon? Sie ist die Auflösung. Sokrates schrieb nicht, aber sein Denken überlebte, weil einer, der es verstanden hatte, es aufschrieb. Die Schrift hat das Verstehen nicht ersetzt, sie hat es transportiert, weil am Anfang einer stand, der die Erklärprobe bestand. Das ist die Arbeitsteilung, um die es geht, damals wie heute: Das Werkzeug trägt. Verstehen muss der, der es hält.
