Das meiste, was für unsere Arbeit wichtig ist, stand nicht im Onboarding-Material. Dieses verborgene Wissen entgeht der KI oft und macht sie weniger nützlich als ihr Potenzial vermuten lässt. Warum ist das so, was entwickeln KI-Anbieter, um diesem Problem zu begegnen und was bedeutet das für die Zukunft der Arbeit?
Manche Dinge können wir so gut, dass wir sie nicht in Worte fassen können.
Als meine Tochter ihre ersten Schritte alleine machte, tat sie das nicht, weil ich es ihr erklärt hatte:
Stütze dich mit beiden Händen vom Boden ab, richte dich langsam aus den Knien heraus auf, gleiche das Gewicht deines Pos durch das Ausstrecken der Arme nach vorne aus. Dann setze einen Fuß nach vorne, dann den anderen und ab zu Mama!
Egal wie genau, egal wie oft - eine Erklärung bringt niemandem das Laufen bei.
Aber was im Umgang mit Kindern offensichtlich ist, vergessen wir in anderen Zusammenhängen schnell.
Der ungarische Chemiker Michael Polanyi suchte nach Erklärungen dafür, dass es oft überraschend unwissenschaftliche Dinge sind, die wissenschaftlichen Fortschritt möglich machen.
Selbst in einem so ausführlich dokumentierten und rationalen Feld wie der Wissenschaft sind Intuition, Eingebungen und Gefühle der Forscher oft mindestens so entscheidend wie die Methoden, die wir in Lehrbüchern festhalten können.
Polanyi fasste seine Beobachtung in dem Satz “We can know more than we can tell” (“Wir wissen mehr als wir zu sagen vermögen.”) zusammen und prägte dafür den Begriff Tacit Knowledge (grob: implizites Wissen).
Sätze wie “Mir geht’s gut.”, “Ich liebe dich” oder “richte dich langsam aus den Knien heraus auf” verlieren auf dem Weg von Sprecherin zu Empfängerin einfach den größten Teil ihrer Bedeutung.
In anderen Worten: Etwas in Worten auszudrücken ist mit Informationsverlust verbunden - Sprache ist das, was Softwareingenieure ein verlustbehaftetes Kompressionsmedium nennen würden.
Diese Beobachtung trifft auf manche Dinge (Gefühle ausdrücken, Laufen lernen) deutlich mehr zu als auf andere (Code schreiben, Zahlen multiplizieren).
Leider (oder zum Glück, s.u.) gehört das Meiste, was wir tun, eher in die Kategorie “Laufen lernen” als “Code schreiben” - und das ist interessanterweise auch für Softwareingenieure der Fall.
Die beeindruckenden Fähigkeiten aktueller KI-Modelle, in kürzester Zeit funktionierende Programme zu schreiben, müssten doch - so denkt man - zu Massenarbeitslosigkeit unter Softwareentwicklern führen. Schließlich kann die Maschine jetzt das erledigen, was bis vor Kurzem nur der Mensch konnte!
Der Arbeitsmarkt scheint das allerdings noch nicht mitbekommen zu haben: Während der Markt für Programmierer - also Menschen, die Vorgaben entsprechend Programmcode schreiben - tatsächlich schwierig ist, stehen Softwareentwickler abgesehen von einer kleinen post-Covid-Korrektur weiterhin gut da.
Vermutlich liegt das daran, dass insbesondere erfahrene Softwareentwickler nur einen Teil ihrer Zeit mit dem Schreiben von Programmzeilen verbringen. Sehr viel ihrer Arbeit besteht aus Abstimmung, Problemdefinition, Planung und so weiter - alles Tätigkeiten, die enorm viel implizites und Kontextwissen voraussetzen.
Der ausführende Teil, das Schreiben von Programmcode, wird effizienter - wodurch Ingenieure jetzt mehr mit den anderen Teilen ihres Berufs beschäftigt sind.
Schwierig und unmöglich: Ein riesiger Unterschied
Die Frage ist: Sind diese Aufgaben für KI prinzipiell unmöglich, weil sie in irgendeiner Form “zutiefst menschlich” sind?
Oder sind sie schlicht schwierig und damit nur ein weiteres technisches Problem, was es zu lösen gilt?
Vorhersagen, nach denen diese oder jene Dinge für eine KI prinzipiell unmöglich sind, haben bislang eher schlecht abgeschnitten: Weder brauchte ein Computer “100 Jahre, vielleicht mehr”, um Menschen in Go zu schlagen, noch sind KIs unfähig, Musik zu erschaffen, weil ihnen menschliche Emotionen fehlen, wie es oft hieß.
Allerdings ist die “Unvorhersehbarkeit” von KI faszinierend: Manche Dinge erledigt sie in wenigen Sekunden auf dem Level eines menschlichen Experten, nur um an Aufgaben zu scheitern, die wir täglich erledigen.
Was lernen für eine KI so schwer macht
Warum ist das so? Warum sind manche Dinge für eine KI so viel schwieriger zu lernen als andere?
Erstens, langsame Feedback-Loops. Auch für Menschen gilt: Je schneller wir eine Rückmeldung auf unser Verhalten bekommen, desto effektiver lernen wir daraus. Allerdings sind wir in der Lage, auch über Monate oder Jahre hinaus noch Aktion und Reaktion miteinander zu verknüpfen.
Wenn wir in einer Besprechung etwas Kontroverses sagen, kann es passieren, dass uns Wochen danach eine Kollegin dankt, damals etwas Wichtiges mutig angesprochen zu haben. Daraus können wir vieles lernen: Was wir gesagt haben, war für mindestens diese Kollegin wertvoll. Da diese Kollegin im Meeting selbst aber nicht reagiert hat, scheint sie zurückhaltend zu sein, wenn ihr Vorgesetzter im Raum ist, mit dem sie sich oft uneinig ist.
Oft lösen Beobachtungen, die sich über Wochen und Monate ziehen, eine ganze Kaskade an wichtigen Schlussfolgerungen aus, die wir - Tacit Knowledge - nicht in Worte fassen oder fassen können.
Zweitens, wenn “richtig” und “falsch” nicht eindeutig sind. Je weniger sich eine richtige Antwort objektiv festschreiben lässt, desto schwieriger ist es für eine KI zu lernen, was sie zu tun hat.
Vermutlich ist das einer der Gründe, aus denen KI zwar mittlerweile Probleme löst, an denen sich seit 80 Jahren Mathematiker die Zähne ausgebissen haben, aber immer noch recht vorhersehbare und mittelmäßige Texte schreibt.
Aufgaben, die sich mit einem objektiven “Richtig” oder “Falsch” auflösen lassen, nennen sich verifiable tasks - verifizierbare Aufgaben - und sind für KIs hervorragend geeignet.
Leider besteht unser Alltag vor allem aus Dingen, die wir so nicht bewerten können: Sollen wir im Meeting mit der Geschäftsführung laut werden? Was genau ist “Mir geht’s gut.” wirklich gemeint?
Wir haben dafür zwar oft die richtige Intuition, aber sie stammt - Tacit Knowledge - eben nicht aus dem Onboarding-Material.
Langsame Feedback-Loops und unverifizierbare Aufgaben sind also die Probleme. Und ihnen wird im Wesentlichen mit einer Lösung begegnet: Mehr Daten.
Kunst beispielsweise wurde so geknackt: Was genau ein “gutes” Bild ist, ist schwer in Worte zu fassen. Also füttern wir KI-Modelle mit Milliarden von Bildern und lassen Menschen die Bilder bewerten, die die KI generiert. Bilder sind nicht “richtig” oder “falsch”, aber die subjektive Bewertung von vielen Menschen ist ein starkes Signal für die KI, welche Bilder “gut” und “schlecht” sind.
Und eine KI mit Zugriff auf all unsere Kommunikation könnte tatsächlich lernen, was die Konsequenzen waren, als wir im Meeting den Geschäftsführer kritisierten. Was das Lernen hier aber noch schwieriger macht: Das Meeting fand nur einmal statt. Was passiert wäre, wenn wir geschwiegen hätten, werden wir nie erfahren.
Vor allem aber - und das ist das dritte Hindernis auf dem Weg zu Tacit Knowledge - ist sehr viel wichtige Information nirgendwo aufgeschrieben.
It’s in your head
Sie lebt in den Köpfen von Menschen, in Traditionen, Gewohnheiten und sozialen Netzwerken. In manchen Kulturen gilt das noch viel mehr als bei uns, wie diese Beschreibung des Lebens in Indien zeigt:
Viele der grundlegenden Fakten, die für das Funktionieren der indischen Gesellschaft notwendig sind, sind nirgendwo dokumentiert. Sie befinden sich in den Köpfen verschiedener Informationsvermittler, die davon leben, diese Informationen geheim zu halten. Zahlreiche Unternehmen überleben trotz ihrer Ineffizienz, weil ein einzelner Mann über die richtigen Kontakte zu Behörden und Lieferanten verfügt.
Ich traf einen solchen Informationsvermittler in einer Kleinstadt in Uttar Pradesh – er war jung, hartnäckig, sprach Englisch und sorgte im Grunde dafür, dass weniger versierte Menschen in der Stadt tatsächlich Zugang zu staatlichen Dienstleistungen und Genehmigungen erhielten. „Alle haben meine Nummer, und ich habe alle Nummern“, sagte er, während er die ganze Zeit, in der wir sprachen, Anrufe von einfachen Leuten und Beamten entgegennahm.
Viele enorm wichtige Informationen werden ihren Weg niemals sauber aufbereitet in eine skills.md Datei finden.
Unsichtbares sichtbar machen
Aber vielleicht ist das auch nicht mehr lange nötig: Die Integration von KI-Agenten in unsere täglichen Arbeitsabläufe könnte Feedback-Loops schließen und ausreichend Daten generieren.
Wie so etwas konkret aussieht, kann man an Claude Tag sehen, das Anthropic im Juni dieses Jahres veröffentlicht hat:
Claude Tag kann man - wie einen Mitarbeiter auch - in Slack anschreiben. Claude kann Slack-Nachrichten in anderen Kanälen lesen, auf Dateien zugreifen, und selbstständig Aufgaben von Recherche bis Programmieren übernehmen - nichts, was ein KI-Modell nicht auch sonst kann.
Aber statt der KI nur die Informationen zu geben, die wir für wichtig halten, haben wir es jetzt mit einer Instanz für alle Mitarbeiter zu tun, die selbst mitliest und Schlüsse zieht. Perspektivisch kann sie dann eben selbstständig erfassen, wie die Reaktionen auf eine Kritik des Geschäftsführers vor zwei Wochen ausfielen.
Das unterscheidet sie auch von KI-Assistenten, wie sie meist in Slack oder Teams eingebunden sind - diese sind spezialisiert auf bestimmte Aufgaben und bekommen kuratierte Infos zur Verfügung gestellt.
Werden wir jetzt alle arbeitslos?
Was heißt das für die Zukunft?
Erstens, je “lesbarer” eine Organisation ist, desto mehr wird sie KI in dieser Form nutzen können. Verteilte Teams, die über Slack kommunizieren und deren virtuelle Meetings transkribiert werden, produzieren sehr viel lesbare Information. Je mehr die wichtigen Dinge aber beim Bier nach der Arbeit und über private Netzwerke laufen, desto eher wird Claude Tag weiterhin überfordert sein. Möglicherweise gilt das - siehe Indien - auch auf der Ebene ganzer Volkswirtschaften.
Zweitens, wir sollten uns nicht darauf ausruhen, dass KI Dinge prinzipiell nicht können wird. Zwar wird auch das nächste, noch intelligentere KI-Modell das Tacit Knowledge-Problem nicht knacken - weil Intelligenz selbst nicht der Flaschenhals ist. Aber das ist vor allem eine Frage der Integration in Arbeitsabläufe und Qualität verfügbarer Daten - nicht eine von einmaligen, mysteriösen Eigenschaften des menschlichen Gehirns.
Drittens, Firmen werden KI-Ausgaben immer weniger unter IT-Budgets buchen - und immer mehr einen Blick auf die Personalkosten werfen. Das heißt nicht, dass wir bald alle arbeitslos werden - der Arbeitsmarkt ist viel komplexer als das. Aber ist ein Agent, der recherchiert, programmiert und Texte schreibt, wirklich nur ein Konkurrent zu Excel?
Viertens, KI-Anbieter versuchen Abhängigkeiten zu schaffen. Aktuell ist es einfach, von Modell zu Modell zu wechseln: Der aktuelle Vorsprung des neuesten Modells ist für den Alltag meist recht irrelevant, und ein Wechsel von GPT zu Claude ist ohnehin mit überschaubarem Aufwand verbunden. Aber ein Mitarbeiter, der über Jahre Tacit Knowledge im Unternehmen aufgebaut hat, ist schwer zu ersetzen.
Und wenn Claude durch die tiefe Integration in Kommunikation und Prozesse in einer Black Box Wissen sammelt, ähnelt es eben mehr dem unersetzbaren Mitarbeiter als dem austauschbaren Chatfenster.
Es liegt an uns, wie sehr wir KI zum unersetzbaren Mitarbeiter machen wollen und wie genau wir diesem Mitarbeiter das Laufen beibringen.
