Warum Erfahrung vor KI schützt: drei Grenzen der Automatisierung

Zusammenfassung

Sascha Friesike, Professor und Direktor am Weizenbaum-Institut für die vernetzte Gesellschaft, erklärt im rbb-Kanal Menschen und Muster, warum KI menschliche Arbeit auf absehbare Zeit nicht ersetzt, sondern verändert. Das Video stützt sich auf drei Befunde der Forschung: Polanyis Paradox des impliziten Wissens, Lisanne Bainbridges Ironien der Automatisierung und die Beobachtung, dass Ansprüche mit den technischen Möglichkeiten wachsen. Der Beitrag fasst die Argumente zusammen, prüft die zitierten Studien und zeigt, was daraus für den Umgang mit KI im Berufsalltag folgt.

Die alte Angst vor der Maschine

Ausgangspunkt ist eine viel zitierte und viel kritisierte Studie: Carl Benedikt Frey und Michael Osborne schätzten 2013, dass rund 47 Prozent der Beschäftigung in den USA einem hohen Automatisierungsrisiko ausgesetzt sind. Friesike erinnert daran, dass diese Sorge alt ist. Im 19. Jahrhundert zerstörten Maschinenstürmer in England Webstühle, und der Spiegel warnte laut Video 1964 und 1978 vor Massenarbeitslosigkeit durch Automaten und Computer.

Aus dem Spiegel von 1964 zitiert das Video zwei Stimmen: einen Gewerkschafter, der die Hoffnung auf rasche neue Beschäftigung mit einem Mann verglich, „der mit lustigem Pfeifen über einen Friedhof geht“, und VW-Chef Heinz Nordhoff, der den technischen Fortschritt in der Autoindustrie für nahezu abgeschlossen hielt. Beide lagen daneben. Berufe wie Köhler oder Notenstecher sind zwar fast verschwunden, meist hat sich Arbeit aber verändert, weil Automatisierung nur Teile von Tätigkeiten übernimmt.

Erstens: Wir wissen mehr, als wir sagen können

Der Chemiker und Philosoph Michael Polanyi stellte 1966 fest, dass Menschen viele Aufgaben intuitiv erledigen, ohne die Regeln dahinter erklären zu können, etwa Gefühle in Gesichtern zu erkennen. Dieses implizite Wissen (tacit knowledge) war lange eine harte Grenze für Computer, die Schritt für Schritt angeleitet werden mussten. Der Ökonom David Autor nannte das 2014 „Polanyi's paradox“ und wies zugleich darauf hin, dass maschinelles Lernen die Grenze umgeht, indem es Regeln aus Beispielen ableitet.

Friesike räumt ein, dass sich die Grenze mit KI verschiebt. KI erkenne Muster, wisse aber nicht, was Menschen implizit wissen. Deshalb profitierten gerade Erfahrene am meisten: Sie können einschätzen, ob ein Ergebnis taugt, überarbeitet werden muss oder ganz neu entstehen sollte. Wer dagegen wenig Erfahrung hat, übernimmt Beliebiges, wie das Beispiel KI-geschriebener Bewerbungsanschreiben zeigt, die fehlerfrei, aber austauschbar klingen. Zugleich wird es schwerer, Erfahrung aufzubauen, wenn genau die Übungsaufgaben automatisiert werden.

Zweitens: Die Ironien der Automatisierung

Die Psychologin Lisanne Bainbridge beschrieb 1983, dass automatisierte Systeme nicht von allein laufen: Menschen müssen sie überwachen, Ergebnisse prüfen und eingreifen, wenn etwas schiefgeht. Weil die Maschine die Arbeit im Normalfall erledigt, üben diese Menschen ihre Fähigkeiten aber kaum noch. Sie brauchen deshalb nicht weniger, sondern mehr Schulung. Das Video veranschaulicht das mit einem Lkw-Fahrer, der nach Jahren mit Assistenzsystemen plötzlich ohne sie fahren muss.

Auf KI übertragen heißt das: Wer ohne KI nicht zu einem brauchbaren Ergebnis kommt, kann weder einen Ausfall auffangen noch prüfen, ob ein scheinbar richtiges Ergebnis stimmt. Für ungeprüft übernommene, falsche Chatbot-Inhalte haben Ian Hannigan, Ian McCarthy und André Spicer 2024 den Begriff „Botshit“ geprägt. Friesike sieht darin einen Grund, warum KI keine einfache Antwort auf den Fachkräftemangel ist.

Drittens: Die Ansprüche wachsen mit

Technik verändert auch, was erwartet wird. Die Geschäftsführerin einer großen Bank schilderte Friesike, dass die Bankenaufsicht ihre Anforderungen an den technischen Möglichkeiten ausrichtet, sodass die Arbeit eher zunimmt. Eine Studie von Michaël Chevallier (2023) über den Pflegeroboter Paro fand, dass Pflegekräfte keine Zeit gewannen, sondern eine neue Aufgabe bekamen: die Bewohner überhaupt erst für den Roboter zu gewinnen.

Bei KI erwartet Friesike Ähnliches: Gewonnene Zeit fließe in höhere Ansprüche, mehr E-Mails und dichtere Arbeit statt in Entlastung. Wie sich Tätigkeiten verändern, bestimme aber nicht die Technik, sondern ein Aushandlungsprozess, in dem Berufsgruppen Zuständigkeiten verteidigen oder neue gewinnen; dazu verweist das Video auf eine Studie von Faulconbridge, Sarwar und Spring (2023). Friesikes Vorschlag: KI für lästige Routinen wie Bürokratie einsetzen und nicht für die Teile der Arbeit, die einem am Herzen liegen.

Ideen

• KI übernimmt meist Teile von Tätigkeiten, selten ganze Berufe.
• Implizites Wissen lässt sich nicht vollständig in Regeln oder Prompts fassen.
• Wer KI-Ergebnisse beurteilen will, braucht eigene Erfahrung im Fach.
• Automatisierung verlangt mehr Schulung der Menschen, die sie überwachen.
• Ungeprüft übernommene KI-Texte werden zu Botshit.
• Gewonnene Zeit verschwindet oft in höheren Ansprüchen und dichterer Arbeit.
• Wie sich Tätigkeiten verändern, handeln Menschen aus, nicht die Technik.

Einsichten

• Das Video dreht die übliche Frage um: KI bedroht nicht vor allem die Erfahrenen, sie vergrößert deren Vorsprung. Gefährdet ist eher der Nachwuchs, der Erfahrung nicht mehr selbst aufbaut, wenn Routinearbeit an Maschinen geht.
• Bainbridges Befund aus Leitwarten und Cockpits passt ohne Abstriche auf generative KI: Je zuverlässiger ein System im Alltag läuft, desto seltener üben Menschen den Ernstfall, in dem sie eingreifen müssen.
• Effizienzgewinne werden selten als freie Zeit ausgezahlt. Ob KI entlastet oder Arbeit verdichtet, ist eine Frage der Organisation und nicht der Technik.

Fakten

• Frey und Osborne schätzten 2013 rund 47 Prozent der US-Beschäftigung als stark automatisierungsgefährdet ein.
• Michael Polanyi prägte 1966 in „The Tacit Dimension“ den Satz „We can know more than we can tell“.
• Der Ökonom David Autor führte 2014 in einem NBER-Arbeitspapier den Begriff „Polanyi's paradox“ ein.
• Lisanne Bainbridge veröffentlichte „Ironies of Automation“ 1983 in der Fachzeitschrift Automatica (Band 19, Heft 6).
• Hannigan, McCarthy und Spicer bezeichnen ungeprüft verwendete, unzutreffende Chatbot-Inhalte als „Botshit“.

Referenzen

• MuM: Warum Erfahrung der beste Schutz gegen KI ist (YouTube)
• Frey und Osborne: The Future of Employment (Oxford Martin School, 2013)
• David Autor: Polanyi's Paradox and the Shape of Employment Growth (NBER, 2014)
• Lisanne Bainbridge: Ironies of Automation (Automatica, 1983)
• Hannigan, McCarthy und Spicer: Beware of botshit (Business Horizons, 2024)
• BR Fernsehen: Der letzte seines Standes

Kritik

• Das dritte Argument stützt sich vor allem auf ein Gespräch mit der Geschäftsführerin einer Bank und eine einzelne ethnografische Studie zu einem Pflegeroboter. Die Kernaussage, KI nehme Jobs auf absehbare Zeit nicht weg, belegt das Video nicht mit Arbeitsmarktdaten; ob KI anders wirkt als frühere Automatisierung, bleibt damit offen.

Bemerkungen

• Menschen und Muster ist ein YouTube-Kanal des rbb; das Video stammt vom 30. April 2025, die Texte schrieben Katharina Berr und Sascha Friesike.
• Die Spiegel-Zitate von 1964 gibt das Video wieder; das Originalheft wurde für diesen Beitrag nicht eingesehen.

Empfehlungen

• Bei jedem KI-Einsatz festlegen, wer die Ergebnisse fachlich prüft, und diese Prüfung nicht an Unerfahrene abgeben.
• Berufseinsteigern bewusst Aufgaben ohne KI geben, damit sie Erfahrung und Urteilsvermögen aufbauen.
• Ernstfälle regelmäßig ohne Automatik üben, vom Restore-Test bis zur manuellen Konfiguration eines Netzes.
• Vor der Einführung klären, wofür gewonnene Zeit genutzt werden soll, statt sie stillschweigend in mehr Ausstoß umzuwandeln.

Video ansehen →

Im Webarchiv suchen

Links zur Originalquelle und zum Webarchiv öffnen einen neuen Tab.