Der EU AI Act wurde entwickelt, um den Binnenmarkt zu stärken und vertrauenswürdige KI zu fördern, während er gleichzeitig den Schutz der Bürgerinnen und Bürger gewährleistet. Das Gesetz klassifiziert KI-Systeme nach Risikostufen und knüpft hieran Verbote und Auflagen.

 

An wen richtet sich der AI Act?

Der AI Act richtet sich an Unternehmen, die KI Systeme entwickeln und anbieten, aber auch nutzen. Demnach ist der AI Act vermutlich für die allermeisten Unternehmen ein Compliance-Thema, das zwigend beachtet werden muss.

 

Klassifizierung und Anforderungen

Der AI Act verfolgt einen risikobasierten Ansatz bei der Einstufung von KI-Systemen, wodurch es zu einer unterschiedlichen Behandlung von KI-Systemen kommt.

Verbotene Systeme: Diese umfassen Anwendungen, die Grundrechte verletzen oder manipulativ wirken, wie beispielsweise Systeme zur sozialen Bewertung, oder KI-Systeme zur biometrischen Fernidentifizierung in Echtzeit, außer zur Terrorabwehr.

Hochriskante Systeme: Diese unterliegen strengen Anforderungen und Konformitätsprüfungen. Sie müssen ein Risikomanagementsystem einrichten, Daten-Governance-Verfahren einhalten, technische Dokumentationen führen, menschliche Aufsicht sicherstellen und Transparenz gegenüber den Nutzern wahren. Betroffen sind unter anderem KI-Systeme, die in kritischen Infrastrukturen, im Bildungswesen, in der Beschäftigung oder Strafverfolgung eingesetzt werden.

Geringe Risiken: Systeme mit geringem Risiko, wie Chatbots, müssen lediglich eine minimale Transparenz- und Informationspflicht erfüllen. Für rein administrative oder interne Systeme gelten keine expliziten Pflichten.

 

Umsetzung und Strafen

Der AI Act tritt voraussichtlich im Juni 2024 in Kraft. Für Verstöße sind Strafen bis zu 35 Millionen Euro vorgesehen. Um Innovation zu fördern, gibt es regulatorische Sandboxes und spezielle Regelungen für KMUs und Start-ups.

 

Relevanz für Unternehmen

Unternehmen in der EU, die KI-Systeme entwickeln oder einsetzen, müssen sich frühzeitig mit den Anforderungen des AI Act vertraut machen. Dies betrifft nicht nur große Unternehmen, sondern auch kleine und mittelständische Unternehmen sowie Start-ups, die KI-Technologien nutzen oder entwickeln.

Der Gesetzgeber verfolgt mit dem AI Act einen umfassenden Ansatz zur Regulierung von KI, um Missbrauch zu verhindern und das Vertrauen der Öffentlichkeit in KI-Systeme zu stärken.

 

Unterstützung bei der Umsetzung

Unternehmen sollten sich rechtzeitig mit den rechtlichen Herausforderungen auseinandersetzen und die Entwicklungen des AI Act im Auge behalten. Eine frühzeitige Beratung durch eine spezialisierte Anwaltskanzlei kann dabei helfen, die neuen Pflichten rechtssicher umzusetzen.

 

Für weitere Informationen und Umsetzungshilfen stehen wir Ihnen gerne zur Verfügung.