Weltweit steigen die Investitionen in KI-Entwicklungen - ab Februar 2025 treten in der Europäischen Union neue Regelungen des EU AI Act in Kraft, um die Sicherheit und das Vertrauen in KI-Technologien zu stärken. Die TÜV NORD GROUP unterstützt mit ihrer Tochtergesellschaft TÜVIT Entwickler:innen und Betreiber:innen bei der Einhaltung dieser neuen Vorschriften.
Der EU AI Act zielt darauf ab, von Februar an KI-Systeme mit „Unacceptable Risk“, also inakzeptablen Risiken, zu verbieten. Dazu gehören Systeme, die Menschen durch unterschwellige Techniken manipulieren, die Schwachstellen bestimmter Gruppen ausnutzen oder die biometrische Identifikation in öffentlichen Räumen in Echtzeit ermöglichen – mit Ausnahme von Anwendungen für die Strafverfolgung.
Die EU-weite KI-Verordnung sieht außerdem ab Februar 2025 vor, dass bestimmte Organisationen sicherstellen müssen, dass ihre Mitarbeitenden über ein angemessenes Maß an KI-Kompetenz verfügen. Dies umfasst das Verständnis, die Nutzung, Überwachung und kritische Reflexion von KI-basierten Anwendungen.
„Diese neuen Regelungen sind ein entscheidender Schritt, um die Integrität und Sicherheit von KI-Anwendungen zu gewährleisten“, erklärt Vasilios Danos, Leiter für KI-Sicherheit und Vertrauenswürdigkeit bei TÜVIT. „Unsere Expertise hilft Unternehmen, die neuen Vorschriften zu erfüllen und gleichzeitig innovative und sichere KI-Lösungen zu entwickeln“, so Thora Markert, Leiterin der KI-Forschung und Governance bei TÜVIT. TÜVIT bietet unter anderem Schulungen und Workshops an, um die KI-Kompetenz in Unternehmen zu stärken.
Der EU AI Act unterscheidet neben der „Unacceptable Risk“-Kategorie, also inakzeptablen Risiken, zwischen drei weiteren Risikoklassen. Die unterste Stufe bildet die Kategorie „Low Risk“, also minimales Risiko. Darunter fallen etwa Spam-Filter oder KI-Avatare in Videospielen. Es geht um Anwendungen, bei denen keinerlei Risiko besteht, Menschen physisch zu gefährden, ihre Rechte zu verletzen oder ihnen finanziell zu schaden. Diese Anwendungen sind weitgehend von allen Anforderungen befreit. Die nächste Stufe nennt sich „Limited Risk“, also begrenztes Risiko. Darunter fallen zum Beispiel einfache Chatbots, die mit den Nutzenden interagieren. Solche Anwendungen müssen den Nutzenden künftig eindeutig kenntlich machen, dass sie es gerade mit einer KI und nicht mit einem Menschen zu tun haben. Auch sogenannte Deepfakes und andere KI-generierte Inhalte müssen als solche gekennzeichnet werden. Als dritte Stufe folgt die „High Risk“-Kategorie. Darunter fallen biometrische Zugangssysteme, bei denen man sich etwa mittels Gesichtserkennung ausweist, oder KI-Anwendungen, mit denen Bewerbungen automatisch gesichtet werden. Hier muss ausgeschlossen werden, dass Bewerberinnen und Bewerber etwa wegen ihres Namens diskriminiert werden. Auch ein KI-gesteuerter Industrieroboter, der im Fehlerfall Menschen verletzen kann, und bestimmte kritische Infrastrukturen wie Telekommunikation, Wasser- und Stromversorgung fallen in diesen Hochrisikobereich. Für diese Risikostufe sieht der AI Act ab August 2026 u.a auch eine unabhängige Drittprüfung vor, eine Art KI-TÜV.
Das Engagement der TÜV NORD GROUP für die Entwicklung von Prüfkriterien und -methoden ist groß. TÜVIT setzt bereits erste Projekte und Prüfungen um. Die TÜV NORD GROUP ist darüber hinaus mit weiteren führenden TÜV-Unternehmen Gesellschafter des TÜV AI.Lab. So begleiten zum Beispiel TÜVIT und die Kolleg:innen des TÜV AI.Lab unter anderem die Entwicklung von Standards und Regularien von KI-Anwendungen.
Über die TÜV NORD GROUP
Vor über 150 Jahren gegründet, stehen wir weltweit für Sicherheit und Vertrauen. Als Wissensunternehmen haben wir die digitale Zukunft fest im Blick. Ob Ingenieurinnen, IT-Security-Experten oder Fachleute für die Mobilität der Zukunft: Wir sorgen in mehr als 100 Ländern dafür, dass unsere Kundinnen und Kunden in der vernetzten Welt noch erfolgreicher werden.
