Wenn Systeme versagen, muss sich die Führung durch Menschen durchsetzen
19 Jan 2024
Der seit langem andauernde Postamtsskandal in Großbritannien, der jetzt, mit Verspätung, mit der längst überfälligen Dringlichkeit und Sensibilität angegangen wird, ist eine deutliche Warnung vor den Gefahren einer überzogenen Technologieimplementierung ohne angemessene Kontrolle.
Über ein Jahrzehnt lang führte ein fehlerhaftes Computersystem, Horizon, dazu, dass Hunderte von Unterpostmeistern fälschlicherweise der Buchhaltungsfehler und des Diebstahls beschuldigt wurden. Viele wurden strafrechtlich verfolgt und sogar ins Gefängnis gesteckt. Dies führte zu großem Leid, da Existenzen und Ruf aufgrund fadenscheiniger Computerbeweise, die nicht angemessen untersucht wurden, ruiniert wurden. Das Verfahren war von Anfang bis Ende fehlerhaft.
Dieser Skandal zeigt, welche Folgen es haben kann, wenn die Verantwortung für die Förderung neuer Technologien, die nicht mit den menschlichen Bedürfnissen in Einklang gebracht werden können, zerbrochen wird.
Da der Druck auf Unternehmen, die digitale Transformation voranzutreiben, weltweit zunimmt, müssen Führungskräfte heute die Lehren aus solchen Fehlschlägen ziehen, bevor sie sich kopfüber in Automatisierungs- und neuerdings auch in KI-Projekte stürzen, ohne die notwendige Planung, um schädliche und lang anhaltende Auswirkungen zu vermeiden.
Wachsamkeit erforderlich
Ein wesentlicher Faktor, der dem oben erwähnten Debakel zugrunde lag, war die institutionelle Blindheit der Postleitung und -verwaltung gegenüber den sich häufenden Beweisen für Softwarefehler. Trotz zunehmender Anzeichen für unerklärliche Diskrepanzen in den Konten der Filialen wurden Einwände von Unterpostmeistern in einem starren Systemzentrismus abgetan, der Wahrheit und Transparenz unterdrückte.
Mit der rasanten Ausbreitung von Automatisierung und künstlicher Intelligenz in allen Funktionen ohne angemessene Aufsicht kumulieren sich die Risiken ähnlicher Fehler in der Unternehmensführung, so dass sich unkorrigierte Fehler kaskadenartig durch die digitalisierten Entscheidungsketten ziehen können.
Während die Führung darauf drängt, zusätzliche Aufgaben durch algorithmische Systeme zu ersetzen, welche Sicherheitsleitplanken überwachen die Übereinstimmung dieser Innovationen mit den menschlichen Bedürfnissen und Werten an vorderster Front? Schon jetzt kämpft die verantwortungsvolle Unternehmensführung damit, mit dem Tempo der technologischen Innovation, die die Gesellschaft hinter den digitalen Kulissen umgestaltet, Schritt zu halten.
Verantwortungsvolle Führung
Um aus solchen Debakeln zu lernen, müssen sich die Führungskräfte zu Transparenz, vielfältigen Einsichten und einer genauen Prüfung der systemischen Abhängigkeiten, die die Ergebnisse beeinflussen, verpflichten. Verantwortungsbewusste Führungskräfte müssen aufkommende Technologien nicht als bequeme, schlüsselfertige Werkzeuge betrachten, sondern als ständige Herausforderungen, die eine funktionsübergreifende Zusammenarbeit erfordern, um sicherzustellen, dass sich die Architekturen anpassen, damit die Menschen gedeihen können.
Die heutige übereifrige Eile, Technologielösungen als bequeme Lösungen zu übernehmen, spiegelt vergangene Episoden wider, in denen die Abhängigkeit von effizienten Systemen Signale der daraus resultierenden Fragilität unterdrückte, bis schwere Krisen ausbrachen. Hinter den gefeierten Geschichten des innovationsgetriebenen Fortschritts stehen oft übersehene Persönlichkeiten, deren kritische Einsichten an den Rand gedrängt wurden, was zu verpassten Chancen führte.
Zum Beispiel das Buch und der Hollywood-Film Versteckte Figuren - den ich über die Feiertage gesehen habe - zeigt diesen vergessenen Einfallsreichtum während des Wettlaufs ins All in den 1960er Jahren. Er basiert auf der wahren Geschichte der NASA-Physikerin Katherine Johnson. Ihr mathematisches Fachwissen erwies sich als unerlässlich, um die Bahnberechnungen zu überprüfen, die den vom neuen IBM-Großrechner der Organisation berechneten Flugbahnen zugrunde lagen, die widersprüchliche Werte ergaben.
Ohne Johnsons Engagement bei der Überbrückung des Bereichs der technischen Spezialisten und der tatsächlichen situativen Bedürfnisse eines sicheren Raketenbetriebs hätten die Früchte der Berechnung die Astronomie in die Irre geführt. Aber jetzt befinden wir uns in einem anderen Universum, was den technologischen Fortschritt angeht.
In unserem Zeitalter, das durch die exponentielle Ausbreitung der Automatisierung geprägt ist, sind algorithmische Systeme in der Lage, zusätzliche Rollen und Funktionen zu ersetzen, wobei diese Integration angemessen überwacht wird. Wie die beginnende Weltraumforschung stehen wir an der Schwelle zu einer neuen Welt, die jedoch von einer sich selbst verbessernden KI beherrscht wird, deren Entwicklung unvorhersehbar bleibt.
Dennoch besteht weiterhin die Gefahr einer fragmentierten Übersetzung über technische Fachgebiete und geerdete menschliche Kontexte hinweg. Verantwortungsbewusste Führung erfordert heute, dass man sich für die Überbrückung von Systemen und unterschiedlichem Gemeinschaftswissen einsetzt, um die Kontinuität von Verständnis und Weisheit zu gewährleisten.
Vertrauen wiederherstellen
Ohne eine Führung, die sich für eine solche Integration einsetzt, wird die Anpassungsfähigkeit an künftige Unwägbarkeiten behindert, wenn man einen einzelnen Wissensbereich - seien es technische Prozesse oder theoretische Modelle - zum ultimativen Schiedsrichter der Wahrheit macht.
Der Fortbestand von Zivilisationen hängt von Strukturen ab, die eine Vielfalt von Beobachtungen legitimieren, eine breitere Debatte fördern und die kollektive Sinnfindung in einem geerdeten menschlichen Kontext verankern. Die Integration umfassender Weisheitstraditionen mit spezifischen situativen Einsichten erweist sich als wesentlich für die Abstimmung komplexer Systeme auf bekannte und unbekannte zukünftige Risiken und die Steuerung verantwortungsvoller Innovationen.
Die Wiedergutmachung des jahrelangen Schadens, der durch den Postskandal entstanden ist, hat den Opfern unermüdliche Anstrengungen abverlangt, um autoritäre Konfrontationen mit der Hybris zu erzwingen und notwendige Reformen einzuleiten, die das Vertrauen in solch mächtige Institutionen wiederherstellen. Die vor Jahrzehnten gemachten Vorhersagen, dass sich durch Marktdisziplin verlässliche Beschränkungen ergeben würden, klingen heute hohl neben der Verantwortung der Menschheit, kollektives Unrecht zu korrigieren. Die Treuhänderschaft für unsere gemeinsame Zukunft erfordert eine engagierte Führung, die bereit ist, für Transparenz zu sorgen, Unsicherheiten zu bewältigen und Institutionen kompetent durch den bevorstehenden digitalen Wandel zu führen.
Führungskräfte müssen bereit sein, ihren Kurs zu ändern, wenn sich herausstellt, dass etwas nicht in Ordnung ist, sie müssen Unsicherheit als Quelle der Innovation begreifen und Talente so ausstatten, dass sie ihr Wissen in andere Bereiche übertragen können. Es gibt keine perfekten Strukturen ohne engagierte Menschen, die die letzte Meile zurücklegen. Um eine kontinuierliche Erneuerung zu ermöglichen, muss die Aufsicht über gemeinsame Plattformen verteilt werden, um die gemeinsame Weisheit zu fördern. Wenn die Menschen die Führung übernehmen, ist die Zukunft in greifbarer Nähe.
Es bedurfte jahrelanger unermüdlicher Bemühungen der Opfer, um die Behörden zu zwingen, sich mit der Hybris hinter dem Postskandal auseinanderzusetzen. Erst jetzt, da der Justizirrtum aufgeklärt ist, können die notwendigen Reformen beginnen, um das Vertrauen in die Institution wiederherzustellen.
Die Wiederherstellung des Vertrauens erfordert Führungskräfte, die bereit sind, Fehler einzugestehen, wenn ein Schaden aufgedeckt wird. Es bedeutet, Ungewissheit als Treibstoff für Innovationen zu begreifen und die Menschen in die Lage zu versetzen, Wissenslücken zu schließen.
Keine Institution und kein Unternehmen bleibt ohne menschliche Aufsicht und Weisheit gesund. Innovation ist entscheidend für den Fortschritt, aber die Verantwortlichen dürfen der Technologie nicht blindlings vertrauen. Ohne die notwendigen Kontrollen und Gegengewichte wird es mehr Skandale geben, und das sind schlechte Nachrichten für die Menschheit.
