3. September 2024

Der AI-Act und seine Auswirkungen auf den Bildermarkt

Der AI-Act ist zum August 2024 in Deutschland in Kraft getreten und gibt hinsichtlich der konkreten Folgen für Anbieter und Nutzer von KI-Systemen noch das ein oder andere Rätsel auf.

Sicher ist, dass sich gerade der Bildermarkt aufgrund der Neuerungen im Umgang mit KI-generierten Bildern vorbereiten und möglichst frühzeitig auf die neuen Anforderungen des AI-Act reagieren muss.

Veröffentlicht von

Sebastian Deubelli

Risikoeinstufung von KI-Systemen:

Der AI-Act kategorisiert KI-Systeme nach ihrem Risiko: von minimalem Risiko bis hin zu Hochrisikoanwendungen. Systeme, die Bilder generieren oder bearbeiten, könnten je nach Einsatzbereich und möglichem Missbrauchspotenzial als Hochrisikosysteme eingestuft werden.

Für Hochrisiko-KI-Systeme gelten strengere Anforderungen, etwa hinsichtlich der Datenqualität, Transparenz, und Überwachung. Bildagenturen und andere Anbieter sollten daher überprüfen, ob ihre Systeme unter diese Kategorie fallen und entsprechende Maßnahmen ergreifen.

Viele KI-Systeme im Bildermarkt könnten jedoch auch als Systeme mit begrenztem Risiko eingestuft werden. Diese Systeme erfordern weniger strikte Maßnahmen, müssen aber dennoch bestimmte Transparenzanforderungen erfüllen.

Für beide Risikoklassen gilt, dass die Einhaltung der vorgeschriebenen Kennzeichnungs- und Transparenzpflichten entscheidend ist, um rechtliche Konsequenzen zu vermeiden. Unternehmen sollten sorgfältig abwägen, in welche Kategorie ihre Systeme fallen, und entsprechende Vorkehrungen treffen. Während Hochrisikosysteme möglicherweise umfassendere Kontrollen und Nachweise erfordern, müssen auch Systeme mit begrenztem Risiko sicherstellen, dass sie die Anforderungen des AI-Act erfüllen.

Verantwortlichkeiten und Haftung:

Der AI-Act legt großen Wert auf die Zuweisung von Verantwortung. Anbieter von KI-Systemen tragen die Hauptverantwortung dafür, dass ihre Systeme den gesetzlichen Vorgaben entsprechen. Das schließt auch die Haftung bei Verstößen mit ein.

Für Nutzer bedeutet dies allerdings keinen Freischein, da auch sie sicherstellen oder sich zumindest vertraglich zusichern lassen sollten, dass die verwendeten KI-Systeme und die daraus generierten Inhalte den gesetzlichen Anforderungen entsprechen. Andernfalls könnten sie selbst haftbar gemacht werden.

Kennzeichnungspflicht für KI-generierte Inhalte:

Eine zentrale Anforderung des AI-Act ist die Pflicht zur Kennzeichnung von KI-generierten Inhalten, einschließlich Bildern. Dies betrifft vor allem Deepfakes, aber auch andere mittels KI erstellte visuelle Werke. Die Kennzeichnung muss klar und für den Endnutzer verständlich sein.

Bußgelder und Sanktionen:

Verstöße gegen den AI-Act können zu erheblichen Bußgeldern führen. Diese sind abhängig von der Schwere des Verstoßes gestaffelt. Für Unternehmen, die sich nicht an die neuen Regelungen halten, besteht jedenfalls ein erhebliches finanzielles Risiko.

Für sämtliche Akteure im Bildermarkt bedeutet dies, dass sie sich umfassend über die neuen Regelungen informieren und ihre Prozesse anpassen müssen, um rechtliche und finanzielle Konsequenzen zu vermeiden.

Handlungsempfehlungen

  • Frühzeitige Anpassung an neue Vorschriften: Unternehmen sollten jetzt damit beginnen, ihre Systeme und Prozesse auf die neuen Anforderungen des AI-Act vorzubereiten. Dazu gehört die Implementierung von Mechanismen zur automatischen Kennzeichnung von KI-generierten Inhalten sowie die Überprüfung der Risikoklassifizierung ihrer KI-Systeme.
  • Schulung und Sensibilisierung: Mitarbeiter in Redaktionen, Bildagenturen und Verlagen sollten geschult werden, um die neuen rechtlichen Anforderungen zu verstehen und korrekt umzusetzen.
  • Überwachung und Compliance: Aufgrund der Tatsache, dass die Nutzung von KI in Unternehmen ein agiler Prozess ist, ist es ratsam, ein internes Monitoring-System einzurichten, um die fortlaufende Einhaltung der neuen Vorschriften sicherzustellen.
  • Kooperation mit Rechtsexperten: Der AI-Act bringt neue, komplexe rechtliche Herausforderungen mit sich. Eine enge Zusammenarbeit mit Rechtsexperten kann helfen, Unsicherheiten zu klären und sicherzustellen, dass alle gesetzlichen Anforderungen erfüllt werden.

Weitere News