Zum Inhalt springen

KÜNSTLICHE INTELLIGENZ UND MASCHINELLES LERNEN

KÜNSTLICHE INTELLIGENZ UND MASCHINELLES LERNEN

KI trifft oder unterstützt heute Entscheidungen in Fahrzeugen, Maschinen, Medizinprodukten, bei der Personalauswahl oder Kreditvergabe. Anders als herkömmliche Software lernen Systeme auf Basis von maschinellem Lernen ihr Verhalten aus Daten, können sich mit der Zeit verändern und sind schwer nachvollziehbar. Fairness, Robustheit, Sicherheit, Transparenz, menschliche Aufsicht, Datenschutz und IT-Sicherheit müssen deshalb nachgewiesen und nicht einfach vorausgesetzt werden.

Die KI-Verordnung der EU (Verordnung (EU) 2024/1689) verankert diese Erwartungen im Recht. Verbotene Praktiken gelten seit Februar 2025, die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck seit August 2025. Nach der Änderung durch den Digital Omnibus 2026 gelten die Anforderungen an Hochrisiko-KI-Systeme ab dem 2. Dezember 2027 für die Anwendungsfälle nach Anhang III und ab dem 2. August 2028 für KI in Produkten, die unter EU-Harmonisierungsrecht fallen, etwa Maschinen und Medizinprodukte. Eine unabhängige technische Bewertung hilft Ihnen, sich darauf vorzubereiten und das Vertrauen von Kunden und Behörden zu gewinnen.

Wir bewerten Ihre KI-Lösung systematisch und unabhängig, mit Fachleuten für KI, funktionale Sicherheit, Cybersicherheit und Risikomanagement.

KI-BEWERTUNGS- UND ZERTIFIZIERUNGSSCHEMA

Seit 2022 entwickelt CertX ein Bewertungs- und Zertifizierungsschema für KI-Systeme. Es verknüpft die Anforderungen von Vorschriften und Normen wie der KI-Verordnung der EU, dem NIST AI Risk Management Framework und den ISO/IEC-Normen zur KI mit konkreten technischen Kriterien und Prüfmethoden, für Organisationen, Prozesse und Produkte. Das Schema baut auf certAInty auf, einem Schweizer Forschungsprojekt mit dem Centre for Artificial Intelligence der ZHAW, in dem CertX Industriepartner war. Wenn Sie nicht wissen, wo Sie anfangen sollen: Unsere Schulungen behandeln vertrauenswürdige KI und Compliance.

CertX gehört zum Ökosystem des NVIDIA Halos AI Systems Inspection Lab (Pressemitteilung auf Englisch): Wir anerkennen dessen Inspektionsberichte als Grundlage für unsere Bewertungen von Systemen auf NVIDIA-Plattformen.

Prozess- und Produktbewertung und Zertifizierung

Für sicherheitskritische Produkte wie Fahrzeuge, Maschinen, Drohnen und Medizinprodukte sowie für andere KI-Systeme, die nach der KI-Verordnung als hochriskant gelten, etwa in Beschäftigung, Bildung oder Kreditwürdigkeitsprüfung, bewerten und zertifizieren wir nach zahlreichen Normen, unter anderem:

  • ISO/IEC 5259 series – Datenqualität für Analytik und maschinelles Lernen
  • ISO/IEC 5338 – Lebenszyklusprozesse von KI-Systemen
  • ISO/IEC TS 4213 – Bewertung der Klassifikationsleistung beim maschinellen Lernen
  • ISO/IEC 24029 series – Bewertung der Robustheit neuronaler Netze
  • ISO/IEC TR 24027 – Bias in KI-Systemen und KI-gestützter Entscheidungsfindung
  • ISO/IEC TS 8200 – Steuerbarkeit automatisierter KI-Systeme
  • ISO/IEC TR 5469 – Funktionale Sicherheit und KI-Systeme
  • ISO/IEC TS 6254 – Erklärbarkeit von ML-Modellen und KI-Systemen
  • ISO/IEC TS 12791 – Umgang mit unerwünschtem Bias bei Klassifikations- und Regressionsaufgaben
  • ISO/IEC 25059 – Qualitätsmodell für KI-Systeme (SQuaRE)

Audit und Zertifizierung von KI-Managementsystemen

Wir auditieren das Managementsystem von Organisationen, die KI entwickeln, bereitstellen oder nutzen, auf Basis von:

  • ISO/IEC 42001:2023 – KI-Managementsystem
  • ISO/IEC 23894:2023 – Leitlinien für das KI-Risikomanagement
  • ISO/IEC 42005:2025 – Folgenabschätzung für KI-Systeme
  • ISO/IEC 38507:2022 – Auswirkungen des KI-Einsatzes auf die Governance von Organisationen
  • Anforderungen der KI-Verordnung an das Qualitätsmanagement und NIST AI Risk Management Framework

Schulung und Vorbereitung

Ist Ihre Organisation noch nicht bereit für eine Bewertung oder ein Audit, bereiten unsere Kurse Ingenieure, Data Scientists und Führungskräfte vor: Red-Belt-Kurse zur KI-Verordnung und zu ISO/IEC 42001, auf Anfrage, sowie die Grundlagen der KI-Verordnung mit der SGS Academy. Sie behandeln die Normen, die wir in unseren Produkt- und Managementsystem-Leistungen anwenden.

Häufige Fragen

Ab wann gelten die Anforderungen der KI-Verordnung für Hochrisiko-KI?

Verbotene Praktiken gelten seit dem 2. Februar 2025, die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck seit dem 2. August 2025. Nach der Änderung durch den Digital Omnibus 2026 gelten die Hochrisiko-Anforderungen ab dem 2. Dezember 2027 für die Anwendungsfälle nach Anhang III und ab dem 2. August 2028 für KI-Systeme, die Produkte oder Sicherheitsbauteile von Produkten unter dem in Anhang I aufgeführten EU-Harmonisierungsrecht sind.

Ist mein KI-System hochriskant?

Ein KI-System ist hochriskant, wenn es in einem der Bereiche nach Anhang III eingesetzt wird, etwa Biometrie, kritische Infrastruktur, Bildung, Beschäftigung, Zugang zu wesentlichen Dienstleistungen oder Strafverfolgung, oder wenn es ein Produkt oder Sicherheitsbauteil eines Produkts ist, das nach EU-Recht wie der Maschinenverordnung oder der Medizinprodukteverordnung eine Konformitätsbewertung durch Dritte benötigt. Wir helfen Ihnen, Ihr System einzustufen und die daraus folgenden Pflichten zu bestimmen.

Brauche ich ISO/IEC 42001?

ISO/IEC 42001 ist freiwillig. Die Norm gibt Organisationen einen strukturierten Rahmen, um KI zu steuern, Risiken zu beherrschen und Sorgfalt nachzuweisen, und sie unterstützt die Qualitäts- und Risikomanagementpflichten der KI-Verordnung. Viele Kunden nutzen sie als Grundgerüst ihrer KI-Compliance.

Wie bewerten Sie ein System mit maschinellem Lernen?

Wir betrachten den gesamten Lebenszyklus: Zweckbestimmung und Risiken, Qualität und Repräsentativität der Daten, Leistung und Robustheit des Modells, Bias, Erklärbarkeit, menschliche Aufsicht, Cybersicherheit und Überwachung im Betrieb. Für sicherheitsrelevante Funktionen wenden wir ISO/IEC TR 5469 zusammen mit den Normen zur funktionalen Sicherheit der jeweiligen Branche an.

KONTAKT

Senden Sie uns das Formular, um Arman Iranfar, Head of Artificial Intelligence bei CertX, zu kontaktieren.