EU AI Act

Der EU AI Act reguliert künstliche Intelligenz nach Risiko. Er verbietet eine kleine Gruppe inakzeptabler Anwendungen, stellt strenge Anforderungen an Hochrisiko-Systeme, ergänzt Transparenzpflichten für Systeme mit begrenztem Risiko und lässt Systeme mit minimalem Risiko weitgehend frei. Für die Einhaltung müssen Sie zuerst wissen, welche KI-Systeme Sie einsetzen und wo jedes einzuordnen ist. turingsecure hilft, diese Systeme zu erfassen und die Controls darum zu verwalten.

Regulierung nach Risiko

Vier Risikoklassen, vier Pflichtenstufen

Der AI Act ordnet jedes System einer von vier Risikoklassen zu. Praktiken mit inakzeptablem Risiko, etwa Social Scoring oder manipulative Systeme, sind vollständig verboten. Hochrisiko-Systeme, zum Beispiel im Recruiting, bei der Kreditbewertung oder in kritischer Infrastruktur, tragen den Großteil der Pflichten. Systeme mit begrenztem Risiko, etwa Chatbots, schulden vor allem Transparenz: Menschen müssen wissen, dass sie es mit KI zu tun haben. Systeme mit minimalem Risiko unterliegen keinen neuen Pflichten.

Der erste praktische Schritt ist immer gleich, egal ob Sie entwickeln oder einkaufen: KI, die Sie nicht erfasst haben, können Sie weder einordnen noch steuern. Ein Verzeichnis der eingesetzten KI-Systeme mit Zweck und Risikoklasse ist die Grundlage für alles Weitere.

Ihre Pflichten

Was der AI Act von Ihnen verlangt

Risikoeinstufung: Bestimmen Sie die Risikoklasse jedes KI-Systems, das Sie entwickeln oder einsetzen. Die Klasse, von inakzeptabel über hoch und begrenzt bis minimal, entscheidet über die Pflichten.
KI-Verzeichnis: Führen Sie ein Verzeichnis der eingesetzten KI-Systeme mit Zweck, Anbieter, Risikoklasse und Ihrer Rolle als Anbieter oder Betreiber.
Konformitätsbewertung: Führen Sie für Hochrisiko-Systeme eine Konformitätsbewertung durch und pflegen Sie die technische Dokumentation, das Risikomanagement und die Protokollierung, die der Act vor und nach dem Betrieb verlangt.
Transparenz und menschliche Aufsicht: Weisen Sie darauf hin, wenn Menschen mit KI interagieren oder KI-generierte Inhalte sehen, und halten Sie Hochrisiko-Systeme unter wirksamer menschlicher Aufsicht.