Doch warum gewinnt das Thema Vertrauen gerade jetzt an Dringlichkeit? Weil sich die Bedingungen, unter denen Verlässlichkeit entsteht, aktuell grundlegend und rasend schnell verändern. Wenn KI, wie anfangs beschrieben, eigenständig Entscheidungen trifft, reicht eine vertragliche Vereinbarung zwischen Menschen nicht mehr aus. Verlässlichkeit muss direkt in Prozesse, Datenflüsse und technische Systeme eingebettet werden.
Ein Weckruf aus der digitalen Welt
Das ist keine Aufgabe für die nächsten Jahrzehnte, sondern für heute. Denn die KI hat bereits gezeigt, dass sie eigeninitiativ und gegen den menschlichen Willen handeln kann. So sind im Juli 2026 KI-Modelle von OpenAI aus einer vermeintlich abgeschotteten Testumgebung ausgebrochen, haben das externe Unternehmen Hugging Face gehackt und Vertrauen in die Vorsichtsmaßnahmen des Unternehmens erschüttert. Etwas Ähnliches ist beim OpenAI-Wettbewerber Anthropic passiert. Auch dessen KI-Modelle haben bei einem Test die Computersysteme von gleich drei Firmen angegriffen. Besonders brisant: Niemand hat es gemerkt. Bekannt wurden die Vorfälle erst bei einer nachträglichen Überprüfung.
Wie eigenständig KI agieren kann, zeigt zudem ein Experiment aus dem Jahr 2025: In einem Versuchsaufbau versuchte ein KI-Modell, die eigene Abschaltung sogar durch Erpressung eines vermeintlichen Managers zu verhindern.
Wenn die KI nicht steuerbar ist, können wir ihr nicht vertrauen.
Ein anderer Fall zeigt die Sorge der Sicherheitsbehörden: Das US-Handelsministerium wies Anthropic Mitte 2026 an, den weltweiten Zugang zu zwei seiner leistungsfähigsten Modelle zu sperren, aus Gründen der nationalen Sicherheit. Diese können Sicherheitslücken in Computersystemen aufspüren und Angriffe unterstützen, befürchten Expertinnen und Experten.
Neben dem Verlust der Kontrolle über die KI-Systeme wirft dieser Fall eine weitere grundlegende Frage auf: Was geschieht, wenn eine Regierung führende KI-Modelle über Nacht deaktiviert? Der Digitalexperte Markus Beckedahl vom Zentrum für Digitalrechte und Demokratie bezeichnete den Vorfall als „Weckruf für die EU und Deutschland“: Digitale Infrastruktur, die auf amerikanischer Software basiere, könne jederzeit abgeschaltet werden.
Digitale Abhängigkeit ist nicht neu
Bereits 2024 hatte die deutsche Bundesregierung beschlossen, kritische Komponenten der chinesischen Anbieter Huawei und ZTE aus den deutschen 5G-Kernnetzen bis Ende 2026 und aus den Zugangs- und Transportnetzen bis Ende 2029 entfernen zu lassen. Auf EU-Ebene folgte Anfang 2026 ein Gesetzentwurf der Kommission, der ein Nutzungsverbot von Technik besonders risikobehafteter Anbieter in der gesamten EU ermöglichen soll.
Vom Gesetz zur technischen Praxis: der AI Act
Für die europäische Wirtschaft zeigt der Fall vor allem: Nachvollziehbarkeit und Verlässlichkeit müssen zentrale Anforderungen an KI-Systeme sein. Den ethischen Rahmen dafür setzt die EU mit dem AI Act. Doch wie lassen sich dessen Anforderungen in die tägliche Arbeit von Entwickler*innen und Unternehmen übersetzen? Hier liegt die Aufgabe der Normung. Franziska Weindauer, Geschäftsführerin des TÜV AI Lab, das Prüfverfahren für KI-Systeme entwickelt, betonte Ende 2025 in einem Interview mit MISSION KI: „Wir müssen Qualität frühzeitig messbar machen. So verhindern wir, dass Vertrauensprobleme erst dann entstehen, wenn ein System bereits breit im Markt ist.“
Strategischer Wegweiser: Normen für vertrauenswürdige KI
Auch jenseits des AI Acts gibt es bereits Normen und Standards für vertrauenswürdige KI:
- Die technische Spezifikation DIN/TS 92004 stellt Leitlinien zur Risikoanalyse in KI-Systemen bereit;
- die DIN SPEC 91517 definiert Anforderungen an vertrauenswürdige KI im Polizeibereich;
- der internationale Standard DIN EN ISO/IEC 25059 beschreibt ein Qualitätsmodell für KI-Systeme.
Diese Regelwerke geben dem Anspruch an Verlässlichkeit eine konkrete, prüfbare Form. In einer Welt, in der Maschinen Daten auswerten, Prozesse steuern und Entscheidungen eigenständig ausführen, muss Verlässlichkeit in die technischen Systeme selbst einziehen. Vertrauen entsteht künftig also nicht mehr nur zwischen Menschen und Unternehmen. Genau das ist der zentrale Punkt in der nächsten Entwicklungsstufe von Normung.
Wenn Maschinen entscheiden, müssen auch Normen für Maschinen lesbar werden. Wie das gelingt und was es Unternehmen bringt, zeigt der sechste und letzte Teil des Titelthemas.
