Der neue Kollege, den keiner prüft: Warum eure KI ein Managementsystem nach ISO/IEC 42001 braucht
Stell dir vor, ihr stellt einen neuen Kollegen ein und gebt ihm Zugriff auf alle internen Daten. Niemand überprüft ihn – alle sind nur fasziniert davon, wie schnell er seine Arbeit verrichtet und wie kreativ er dabei vorgeht. Klingt riskant, oder? Das ist es auch. Und beim Thema KI läuft es oft genauso ab.

Die Risiken von KI-Nutzung sind allgegenwärtig, werden aber in der Euphorie des aktuellen Trends gerne übersehen. Dazu gehören die mangelnde Kontrolle über die KI-Tools und ihre unsachgemäße Nutzung. Umso wichtiger, dass euch die Risiken nicht nur bekannt sind, sondern dass ihr – so wie bei anderen Risiken – entsprechende Maßnahmen ergreift.
Genau da setzt die ISO/IEC 42001 an. Dieser Fachartikel widmet sich den wichtigen Fragen rund um die Inhalte, Vorteile und Anwendung der neuen Norm – damit ihr KI mit gutem Gewissen nutzen könnt.
Was ist die ISO/IEC 42001?
Die ISO/IEC 42001 ist ein Managementsystem-Standard, der einen Rahmen für die Einrichtung, Umsetzung und kontinuierliche Verbesserung eines KI-Managementsystems bietet.1 Sie wurde von der Internationalen Elektrotechnischen Kommission (IEC) und der Internationalen Organisation für Normung (ISO) im Dezember 2023 veröffentlicht. Seit August 2026 liegt sie auch in deutscher Fassung vor.2 Sie soll eine verantwortungsvolle Steuerung von KI und damit auch eine ethisch konforme Nutzung ermöglichen, die reale Risiken frühzeitig identifiziert und minimiert.
Wichtig dabei: Die Norm richtet sich nicht nur an die KI-Entwicklung. Sie gilt auch für Unternehmen, die KI einsetzen – zum Beispiel als Chatbot im Kundenservice oder für KI-generierte E-Mails an Kundinnen und Kunden. Das trifft heute auf viele Mittelständler zu.
Das Besondere an der ISO/IEC 42001 ist, dass sie die erste international zertifizierbare Norm für KI darstellt.1 Aber wie bei allen anderen Normen auch geht es nicht um das Zertifikat an der Wand, sondern um den realen Mehrwert, den die Norm mit sich bringt.
So kommen wir zur Frage:
Was bringt eine Zertifizierung nach der ISO/IEC 42001 eurem Unternehmen?
Es verstärkt das Vertrauen in euer Unternehmen, weil ihr euch nicht nur auf einen Trend einlasst, sondern den Schutz von Daten eurer Kunden, Lieferanten und Mitarbeitenden an erste Stelle setzt.1,3 Zudem macht ihr die Verantwortung, die ihr gegenüber Kunden und Lieferanten übernehmt, sichtbar. Deshalb ist die ISO/IEC 42001 ein Zeugnis für einen gewissenhaften und ethischen Umgang mit künstlicher Intelligenz. Und nicht zuletzt: Wenn ihr gelernt habt, gewissenhaft mit KI-Tools zu arbeiten, habt ihr zugleich die Fähigkeit gewonnen, mit sämtlichen Innovationen gewissenhafter umzugehen. Denn KI wird nicht die letzte bahnbrechende Neuerung sein.
Die gute Nachricht: Ihr fangt nicht bei null an
Wer bereits ein Integriertes Managementsystem betreibt, ergänzt es um KI-spezifische Anforderungen, statt eine zweite Dokumentenwelt aufzubauen. Wenn ihr die ISO 9001 oder die ISO 27001 erfüllt, habt ihr schon das Fundament für die ISO/IEC 42001 gelegt, denn die Harmonisierte Struktur hat die Mechanismen geschaffen, die es braucht.3 Die neue Norm erweitert die Perspektive um den Einsatz von KI und die damit einhergehenden Änderungen und Risiken.
Genau deshalb stellt die ISO/IEC 42001 kein zusätzliches paralleles Managementsystem dar, sondern eine weitere Perspektive auf euer bestehendes. Das Rad wird also nicht neu erfunden, sondern ein weiteres Puzzlestück kommt hinzu, das eure Prozesslandschaft vervollständigt.
Was ist grundsätzlich neu an der ISO/IEC 42001?
1. Die KI-Folgenabschätzung
Neben der Risikobeurteilung für die eigene Organisation verlangt die Norm, die Auswirkungen eines KI-Systems auf Einzelpersonen, Gruppen und die Gesellschaft zu bewerten (ISO/IEC 42001, 6.1.4). Die Leitfrage lautet also nicht nur „Was kann uns passieren?“, sondern auch „Was kann anderen durch unser KI-System passieren?“. Hier kommt der Schutz aller Stakeholder ins Spiel.
2. Der Lebenszyklus des KI-Systems
Ein KI-System ist kein Werkzeug, das man einmal einführt und dann vergisst. Modelle verändern sich, Trainingsdaten altern, Anbieter veröffentlichen neue Versionen. Die Norm fordert deshalb, KI über ihren gesamten Lebenszyklus zu steuern, von der Anforderung über die Verifikation und Validierung bis hin zur Außerbetriebnahme (ISO/IEC 42001, A.6.2, B.6.2). Gefragt ist also regelmäßiges Monitoring – in der Praxis, nicht nur auf Papier.
3. Datenqualität und Herkunft
Wo kommen die Daten her, mit denen ein System trainiert wurde oder arbeitet? Sind sie repräsentativ, aktuell und werden sie rechtmäßig genutzt? (ISO/IEC 42001, A.7/ B.7.2-7.5). Die Datenseite bekommt in der ISO/IEC 42001 ein eigenes Gewicht. Da es wichtig ist, die KI (unseren neuen Mitarbeiter) zu trainieren, kommt eine wichtige Frage hinzu: Womit trainieren wir? Nicht alle Daten können einer KI überlassen werden.
4. Transparenz gegenüber Betroffenen
Menschen, die von KI-Entscheidungen betroffen sind, brauchen angemessene Informationen. Das gilt für Kunden, Lieferanten und Mitarbeitende gleichermaßen. Dafür braucht es Dokumentationen, um die Interpretierbarkeit und das Vertrauen in das KI-System zu maximieren.3 Insbesondere wenn es zu einem Sicherheitsvorfall kommt, brauchen eure Stakeholder eine Meldung darüber, um sich selbst schützen zu können. Denn nichts ist schlimmer, als einen Vorfall zu verschweigen und damit nachhaltig das Vertrauen zu beschädigen.
Bei diesen Neuerungen denken viele an den EU AI Act: „Erfüllen wir den EU AI Act, wenn wir nach der ISO/IEC 42001 zertifiziert sind?“
Die ehrliche Antwort lautet: Nicht automatisch. Der EU AI Act regelt vor allem Hochrisiko-KI im Detail. Die ISO/IEC 42001 deckt nicht die Einstufung in Risikoklassen, CE-Kennzeichnungen oder die Meldung schwerwiegender Vorfälle an Behörden ab.2 Somit stellt das Zertifikat für die ISO/IEC 42001 keinen rechtlichen Nachweis für die AI-Act Konformität dar, da es keine im Amtsblatt gelistete, harmonisierte Norm ist.
Nichtsdestotrotz: Unabhängig von der Norm gilt schon seit Februar 2025 die Pflicht zur KI-Kompetenz nach Art. 4.2 Was heißt das für euch? Die ISO/IEC 42001 ist ein verfügbares Gerüst, um Verantwortlichkeiten, Risiken und Dokumentation rund um die KI schon heute sauber aufzusetzen und eine belastbare Steuerung von KI zu schaffen.
In 6 Schritten: Wie setzen wir die ISO/IEC 42001 in der Praxis um?
1. Zielsetzung und Anwendungsbereich der KI-Nutzung festlegen
Was soll und darf mit der KI gemacht werden? In welchem Anwendungsumfeld soll dies geschehen? Zunächst ist es wichtig, eine Richtline, die Ziele und den Anwendungsbereich festzulegen (ISO/IEC 42001, 5.2, B.9.3). Danach könnt ihr in einer von eurer IT geprüften KI verschiedene Use-Cases (Anwendungsfälle) mit nicht sensiblen Daten testen. Ein guter Einstieg kann das Erstellen von Prozessbeschreibungen mittels KI sein.
2. KI-Inventar erstellen
Ihr könnt nur steuern, was ihr kennt. Die meisten Personen nutzen privat schon ChatGPT, Gemini oder Claude. Jeder kennt ihre Vorteile und wendet diese Tools nun im Arbeitsalltag an. Meist steckt keine böse Absicht dahinter: Die Kollegen wollen einfach schneller arbeiten, und offizielle Alternativen fehlen oder sind umständlich. Das Problem dahinter: Unternehmens- oder personenbezogene Daten können für das Training der Modelle bei Drittanbietern außerhalb der EU landen. Unsere Empfehlung: Erfasst, welche KI-Systeme im Unternehmen im Einsatz sind, auch die, die sich einzelne Mitarbeitende „mal eben“ besorgt haben. Die Schatten-KI ist in vielen Unternehmen größer als gedacht.
Achtung: Reine Verbote wirken erfahrungsgemäß wenig, weil die Nutzung dann nur unsichtbarer wird. Wirksamer ist es, geprüfte KI-Tools freizugeben und eine passende Richtlinie zu führen. Eine Schulung kann dabei helfen, den Mitarbeitenden zu zeigen, wo und wie sie die KI einsetzen können – und wo eben nicht.
3. Rollen und Verantwortung festlegen
Wie bei jedem Prozess braucht auch jedes KI-System je nach Bereich eine verantwortliche Person. Wer entscheidet über den Einsatz, wer überwacht die Ergebnisse, wer muss informiert werden? Die Förderung der Fähigkeit, mit KI effizient und sicher zu arbeiten, wird der neue Wettbewerbsvorteil – deshalb sind qualifizierte Schulungen und ein regelmäßiger Austausch zu diesem Thema essenziell. Entsprechende Arbeits- oder Gebrauchsanweisungen können hier unterstützen. Dabei sollte allen KI-Nutzenden klar sein, wie Vorfälle gemeldet werden und wo man Hilfe findet (ISO/IEC 42001, B.6.2.6).
4. KI in bestehende Prozesse einbetten, nicht danebenstellen
KI ist kein Selbstzweck, sie unterstützt Prozessschritte. Beschreibt deshalb dort, wo KI eingesetzt wird, direkt im jeweiligen Prozess, welches System was tut und wer das Ergebnis prüft (ISO/IEC 42001, 5.1). So wird die KI-Steuerung Teil des gelebten Managementsystems statt eines Papiertigers.
5. Risikobeurteilung und Folgenabschätzung durchführen
Kernstücke der ISO/IEC 42001 sind die KI-Risikobeurteilung und die Risikobehandlung, eine Erklärung zur Anwendbarkeit (SoA) sowie die KI-Folgenabschätzung für Einzelpersonen, Gruppen und die Gesellschaft (ISO/IEC 42001, 3.24, 6.12-6.1.4). Nutzt die Methodik, die ihr aus eurem Risikomanagement kennt, und erweitert sie um die Perspektive der Betroffenen. Prüft, welche Auswirkungen die eingesetzten KI-Systeme auf Kunden, Mitarbeitende und Lieferanten haben können. Zudem gilt es zu bedenken, wie das System missbraucht werden könnte (ISO/IEC 42001, B.5.5). Dieses Worst-Case-Szenario kann helfen, Schwachstellen zu identifizieren.
Hinweis: Wenn KI-Systeme kontinuierlich lernen, ändern sie ihr Verhalten während der Nutzung. Sie erfordern eine besondere Beachtung, um sicherzustellen, dass sie bei sich änderndem Verhalten verantwortungsvoll genutzt werden (ISO/IEC 42001, Einleitung, S. 7) Auch bei nicht trainierten Modellen kann sich die Leistung ändern, weshalb auch diese kontinuierlich überprüft werden sollten (ISO/IEC 42001, B.6.2.6).
6. Wirksamkeit prüfen
Nehmt KI-Themen in interne Audits und in die Managementbewertung auf. Spätestens hier zahlt sich die Harmonisierte Struktur aus, denn die Mechanismen existieren bereits. Ein Unternehmen sollte für jede KI-Anwendung dokumentieren, was sie tut, woran ihre Leistung gemessen wird und ab wann sie gut genug ist (ISO/IEC 42001, B.6.2.4). Diese Werte müssen im Betrieb laufend überwacht werden, gerade weil sich Daten mit der Zeit verändern. Stellt sicher, dass euer KI-Lieferant eine angemessene Dokumentation mitliefert, und fordert ihn zu Korrekturmaßnahmen auf, wenn das System nicht wie vorgesehen funktioniert oder negative Auswirkungen auf Betroffene hat (ISO/IEC 42001, B.10.3)
Fazit: Gebt eurem neuen Kollegen ein geregeltes Onboarding!
Kein Unternehmen würde einen neuen Mitarbeiter ohne Einarbeitung, ohne klare Zuständigkeiten, ohne geregelte Zugriffe und ohne Feedback arbeiten lassen. Bei KI passiert aber genau das, oft unbemerkt. Die ISO/IEC 42001 gibt euch das Werkzeug, um das zu ändern. Sie legt fest, wofür KI eingesetzt werden darf, wer dafür verantwortlich ist – und wie ihr prüft, ob sie hält, was sie verspricht. Dabei behält sie nicht nur die Risiken für euer Unternehmen im Blick, sondern auch die Folgen für die Menschen, die von KI-Entscheidungen betroffen sind.
Natürlich kostet die Umsetzung Zeit. Aber KI tritt früher oder später in eurem Arbeitsalltag auf. Offen ist nur, ob gesteuert oder unkontrolliert. Wer jetzt Verantwortlichkeiten, Richtlinien und Prozesse klärt, nutzt KI nicht nur sicherer, sondern auch wirkungsvoller. Ein guter erster Schritt: Beschreibt eure Prozesse so, dass Menschen und KI damit arbeiten können. Mit Ariadne als Kontext-Layer stützt sich eure KI auf eure freigegebenen Prozesse und Regelungen statt auf erfundene Inhalte. So wird aus dem neuen Kollegen ein Teammitglied, dem ihr vertrauen könnt.
Wenn du mehr zum Thema Steuerung von KI erfahren möchtest, lohnt sich ein Blick in folgende Normen, die das Fundament für die ISO/IEC 42001 liefern:
- ISO/IEC 22989: Definition von Begriffen und Konzepten wie KI-System, Machine Learning, sowie von relevanten Rollen
- ISO/IEC 23053: Rahmenwerk für KI-Systeme mit Machine Learning
- ISO/IEC 23894: Leitfaden zum KI-Risikomanagement
Quellen
1. DNV (2026) ISO/IEC 42001: Zertifizierung für KI-Management. Abgerufen am 02.11.2026, von https://www.dnv.de/services/iso-iec-42001-kunstliche-intelligenz-ki--250876/
2. Lüdemann, N. (2026, 2. September). DIN EN ISO/IEC 42001:2026 ist da – aber bedeutet ein Zertifikat auch AI-Act-Konformität? bluecue digital strategies. https://www.bluecue.de/bedeutet-ein-zertifikat-ai-act-konformitaet/
3. Janz, T. (2026). Trust by Design: Aufbau einer KI-Governance mit der ISO/IEC 42001:2023 [Whitepaper]. TÜV SÜD Management Service GmbH (2026). https://www.tuvsud.com/de-de/wissenswert/white-paper/iso-42001
Normtext: DIN Deutsches Institut für Normung e. V. (2026). DIN EN ISO/IEC 42001:2026-08. Informationstechnik – Künstliche Intelligenz – Managementsystem (ISO/IEC 42001:2023); Deutsche Fassung EN ISO/IEC 42001:2026. Berlin: DIN Media.
Bild: Alex Knight | Unsplash
Verwandte Artikel
Das könnte dich auch interessieren

Prozessmodellierung leicht gemacht: Warum du auf Tabellen setzen solltest
Prozesse müssen nicht kompliziert dargestellt werden, um komplexe Abläufe verständlich abzubilden. Erfahre, welche Vorteile die tabellarische Prozessbeschreibung bietet und wie du selbst Verzweigungen, Varianten und Rücksprünge übersichtlich darstellst.





