Wird der “AI-Act” die KI-Generatoren in die Schranken weisen?

Bildgeneratoren wie Dall-E und Midjourney entwickeln sich weiterhin rasant und die erzeugten Bilder werden besser und besser.

Auf der rechtlichen Seite tut sich notgedrungen allerdings noch immer wenig. Bis auf wenige Klagen einzelner Urheber, der Klage von Getty Images und der Klage unseres Mandanten gegen den LAION e.V. vor dem Landgericht Hamburg ist der rechtliche Status Quo immer noch unangetastet.

Da ist es doch eine gute Nachricht, dass die EU über der landläufig als “AI-Act” bezeichneten brütet.

Auf der Webseite der Europäischen Kommission lesen wir dazu:

“Der Ansatz der EU für künstliche Intelligenz konzentriert sich auf Exzellenz und Vertrauen, um die Forschungs- und Industriekapazitäten zu stärken und die Grundrechte zu gewährleisten.

Der europäische Ansatz für künstliche Intelligenz (KI) wird dazu beitragen, ein widerstandsfähiges Europa für die digitale Dekade aufzubauen, in dem Menschen und Unternehmen die Vorteile der KI nutzen können. Es konzentriert sich auf zwei Bereiche: Exzellenz in KI und vertrauenswürdiger KI. Der europäische Ansatz für KI wird sicherstellen, dass KI-Verbesserungen auf Regeln beruhen, die das Funktionieren der Märkte und des öffentlichen Sektors sowie die Sicherheit und Grundrechte der Menschen gewährleisten.”

Doch worum geht es im Einzelnen und wie (und wann) wirkt sich das Ganze auf die Generative-AI-Generatoren aus, zu denen neben ChatGPT auch die bildgebenden Tools wie Dall-E, Midjourney und Stable Diffusion zählen?

Der Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates über künstliche Intelligenz wurde am 21. April 2021 veröffentlicht und soll einen Rechtsrahmen für den Einsatz von KI in der Europäischen Union schaffen.

Der Vorschlag sieht verschiedene Regelungen vor, um das Risiko von Missbrauch oder Schaden durch den Einsatz von KI zu minimieren. Dazu gehört eine Liste von KI-Anwendungen, die als „hochriskant“ eingestuft werden, sowie Anforderungen an die Qualität und Transparenz von KI-Systemen. Der Vorschlag enthält auch Bestimmungen zur Überwachung und Durchsetzung der Regeln sowie zur Zusammenarbeit zwischen den Mitgliedstaaten.

Da die Bild- und Textgeneratoren zum Zeitpunkt des Vorschlages noch nicht so heiß diskutiert waren, sind sie in der Ursprungsvariante noch nicht enthalten. Es wird im Moment versucht, diese über einen Annex einzupflegen und damit der technischen Entwicklung der letzten Monate Herr zu werden.

Hierfür ist in jedem Fall noch genügend Zeit. Derzeit wird der Vorschlag noch vom Europäischen Parlament und dem Rat der Europäischen Union diskutiert und überarbeitet. Es ist daher noch nicht klar, wann die Verordnung endgültig verabschiedet und in Kraft treten wird.

Zunächst müssen sich das Parlament und der Rat auf eine endgültige Version der Verordnung einigen, bevor sie verabschiedet und in Kraft gesetzt werden kann. Es ist daher wahrscheinlich, dass die Verordnung nicht vor 2024 in Kraft treten wird.

Inhaltlich werden die Bildgeneratoren hier wohl als hochriskante KI-Systeme definiert werden, sodass auf sie spezielle Vorschriften anwendbar sein könnten, wie z.B.:

Die Implementierung von Risikobewertungen und Tests vor dem Einsatz der KI-Anwendung

Die Einhaltung von Transparenz- und Dokumentationspflichten sowie die Offenlegung von Informationen über die Funktionsweise der KI-Anwendung
Die Durchführung von regelmäßigen Sicherheitsüberprüfungen und Updates
Die Gewährleistung der menschlichen Kontrolle über Entscheidungen, die von der KI-Anwendung getroffen werden
Die Einrichtung von Systemen zur Überwachung und Meldung von Problemen oder Zwischenfällen.

Im Ergebnis könnten wir hier also klarere Antworten zu den Trainingsdaten und den bislang hinter verschlossenen Türen stattfindenden Prozessen zur Generierung von künstlichen Bildern erhalten.

Da zu befürchten steht, dass die Anbieter hier vielleicht nicht das allergrößte Interesse haben dürften, einige dieser Informationen zu erteilen, könnte auch hier erst einmal ein Gerichtsverfahren nötig sein, um diese dazu zu zwingen. Dieses würde wohl nach der noch unklaren Dauer bis zum Inkrafttreten des AI-Act noch einmal einen erheblichen Zeitraum beanspruchen.

Es mag also sein, dass uns diese Verordnung durchaus Nutzen im Umgang mit Generative AI mit sich bringen wird. Angesichts des aktuellen Stadiums ist dies aber inhaltlich noch nicht klar abzusehen.

Technisch gesehen steht allerdings zu befürchten, dass das, was dort geregelt werden könnte, nicht mehr dem Stand entspricht, der zum Zeitpunkt des Inkrafttretens der Verordnung anzutreffen sein wird. Im Gegensatz zur Gesetzgebung bedarf es für die technische Entwicklung nicht mehrere Jahre. Schon aktuell sehen wir, dass die Bildgeneratoren teilweise innerhalb von wenigen Wochen erheblichen Sprünge in der Entwicklung hinlegen. Dem kann kein Gesetz dieser Welt standhalten, sodass zu hoffen bleibt, dass die technischen Entwicklungen bis zum Inkrafttreten nicht schon soweit davongelaufen sind, dass die Verordnung zum Papiertiger wird.

Zudem werden wir in Deutschland zumindest Teile der Umsetzung der in die Hände der Länder und/oder Kommunen geben, sodass zu befürchten steht, dass die Umsetzung erneut zeitverzögert und uneinheitlich sein wird. Wir erinnern uns hier an das Inkrafttreten der Datenschutzgrundverordnung (DSGVO) vor einigen Jahren und deren schleppende Implementierung in die bundesdeutsche Realität.

Es bleibt daher festzuhalten, dass auch die EU das Thema der Bildgeneratoren wohl kaum für den Bildermarkt regeln wird und wir daher die Dinge wohl auch mittelfristig in die eigenen verantwortungsbewussten Hände nehmen müssen. Auch hier ist klar, dass die Möglichkeiten begrenzt sind und die technische Entwicklung wohl kaum zu stoppen sein dürfte.

Dennoch ist es die Entscheidung eines jeden, ob er diese Technologie schlicht ablehnt oder sich mit ihr auseinandersetzt.

Da es aufgrund der schleppenden Prozesse zur Kontrolle auch mittelfristig nicht wahrscheinlich scheint, dass die Generatoren an die kurze Leine von Gesetz und Rechtsprechung gelegt werden, sollte man sich meiner Meinung nach mit dem Gedanken anfreunden, dass mehr und mehr Bildnutzer sich mit dieser Technologie anfreunden und sie im Alltag nutzen werden. Es wäre daher wohl ratsam, dass auch Fotografen sich dem Thema widmen und Ihren Kunden daher in anstehenden Diskussionen mitunter fachkundig zur Seite stehen können. Die Frage, wann ein Bild ein gutes Bild ist, können nach wir vor Fotografen am besten beantworten. Selbst wenn daher der ein oder andere Job künftig von KI erledigt werden könnte, besteht hier immer noch erheblicher Beratungsbedarf.

Beitrag erschienen als Kolumne Recht in der ProfiFoto