Berlin, den 22.06.2023. Der Deutsche Kulturrat, der Spitzenverband der Bundeskulturverbände, positioniert sich mit dieser Stellungnahme zu urheberrechtlichen Fragen im Zusammenhang mit generativer künstlicher Intelligenz (im Folgenden als KI bezeichnet). Kaum ein anderes Thema hat den Kulturbereich in den letzten Monaten mehr bewegt. Zu Recht, denn es geht um sehr grundsätzliche Fragen: Welche Konsequenzen hat KI für die tägliche Arbeit und die angemessene Vergütung von Urheberinnen und Urhebern? Was bedeuten die neuen Entwicklungen für die Lizensierungspraxis sowie für die Kultur- und Kreativwirtschaft insgesamt? Wie kann verhindert werden, dass durch KI die Verlässlichkeit von Informationen vollständig in Frage gestellt wird? Wer haftet für etwaige Rechtsverletzungen und Schäden, die durch KI ausgelöst werden? Was bedeutet es, dass KI-Systeme vorrangig von einigen wenigen großen IT-Giganten entwickelt werden, die über die erforderlichen wirtschaftlichen und technischen Ressourcen verfügen? Oder ganz generell: Wie weit will der Mensch bei Leistungen, die bisher originär Menschen zugeordnet waren, auf Erzeugnisse von Maschinen setzen?
Es geht insgesamt um Fragen von großer kultur- und gesellschaftspolitischer Bedeutung. Es ist deshalb sehr zu begrüßen, dass sich beispielsweise der Deutsche Ethikrat des Themas angenommen und im März 2023 seine Stellungnahme „Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz“ veröffentlicht hat. Der Deutsche Ethikrat hat dabei deutlich gemacht, dass Ziel und Richtschnur ethischer Bewertung immer die Stärkung menschlicher Autorschaft sein muss. Der Deutsche Kulturrat stimmt dieser Einschätzung uneingeschränkt zu.
Zu begrüßen ist auch, dass die EU-Kommission bereits im Frühjahr 2021 den Entwurf einer Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (Gesetz über Künstliche Intelligenz, AI-Act) vorgelegt hat. Dieses europäische Rechtssetzungsverfahren für einen AI Act ist bereits weit fortgeschritten, bietet aber in dem anstehenden Trilog-Verfahren von Parlament, Rat und Kommission die Möglichkeit, die aktuellen Entwicklungen von KI, die bei Vorlage des Entwurfs noch nicht bekannt waren, einzubeziehen. Der Deutsche Kulturrat begrüßt insbesondere die am 14.06.2023 beschlossene Verhandlungsposition des Europäischen Parlaments für die anstehenden Trilog-Verhandlungen mit Kommission und Rat, diese sieht insbesondere Verhaltens- und Transparenzpflichten für die Entwickler von generativen KI-Systemen vor. Dessen ungeachtet ist davon auszugehen, dass dem AI-Act weitere gesetzgeberische Initiativen folgen müssen.
Da es sich bei KI um eine internationale Entwicklung handelt, muss das Thema aber darüber hinaus auch im Rahmen der Weltorganisation für geistiges Eigentum (WIPO) diskutiert werden.
Trotz der umfassenden kultur- und gesellschaftspolitischen Bedeutung von KI konzentriert sich der Deutsche Kulturrat in dieser Stellungnahme auf die urheberrechtlichen Aspekte. Dabei soll im Folgenden zwei unterschiedlichen Anknüpfungspunkten nachgegangen werden: Zum einem geht es um die geschützten Werke, die für das Training von KI genutzt werden („Input“) und zum anderen um die Erzeugnisse, die von KI produziert werden („Output“).
Input
Für die Entwicklung von KI wird eine enorm große Menge von geschützten Werken zu „Trainingszwecken“ herangezogen. Urheberrechtlich ist hierfür regelmäßig eine Vervielfältigung der Werke erforderlich. Das Vervielfältigungsrecht liegt grundsätzlich bei den Urhebern und Leistungsschutzberechtigen (bspw. Film-, Tonträgerproduzenten oder Sendeunternehmen). Eine Nutzung setzt deshalb im Grundsatz eine Zustimmung der Rechtsinhaber voraus. In der Regel wird aber eine individuelle Zustimmung von den Entwicklern von KI nicht eingeholt. Es stellt sich deshalb die Frage, ob die Nutzung gesetzlich erlaubt ist. In Betracht kommen vor allem die gesetzlichen Erlaubnisse („Schrankenregelungen“) im Bereich des sogenannten Text und Data Mining. Diese sind im Jahr 2021 im Zusammenhang der Umsetzung der EU-Richtlinie zum Urheberrecht im digitalen Binnenmarkt (DSM-Richtlinie) neu formuliert worden. Unter Text und Data Mining im Sinne des Gesetzes ist die automatisierte Analyse von einzelnen oder mehreren digitalen oder digitalisierten Werken, um daraus Informationen insbesondere über Muster, Trends und Korrelationen zu gewinnen, zu verstehen (§ 44b Abs. 1 UrhG). Ob hierunter aber auch die Nutzung von geschützten Werken für das Training von KI-Systemen fällt, ist allerdings nicht sicher und sollte – unter Berücksichtigung der aktuellen KI-Entwicklungen – dringend näher geprüft werden.
Der Deutsche Kulturrat bittet die Bundesregierung zu prüfen, ob die bestehenden Schrankenregelungen für Text und Data Mining die Nutzung von geschützten Werken für das Training von KI-Systemen abdecken.
Geht man davon aus, dass die genannten gesetzlichen Erlaubnisse für Text und Data Mining bei der Nutzung von KI-Trainingsdaten Anwendung finden, so ist zwischen Nutzungen für Forschungszwecke auf der einen Seite sowie Nutzungen für kommerzielle Zwecke auf der anderen Seite zu unterscheiden.
Im europäischen Rechtsetzungsverfahren für die DSM-Richtlinie ging es zunächst nur um Text und Data Mining für Forschungszwecke. Insoweit gab es bereits seit dem Inkrafttreten des Urheberrechts-Wissensgesellschafts-Gesetzes (UrhWissG) zum 1. März 2018 in Deutschland eine einschlägige Schrankenregelung. Diese wurde in Umsetzung der DSM-Richtlinie 2021 neu gefasst. Text und Data Mining für Zwecke der wissenschaftlichen Forschung gemäß § 60d UrhG setzt insbesondere voraus, dass die privilegierten Forschungsorganisationen nicht-kommerzielle Zwecke verfolgen, sämtliche Gewinne in die wissenschaftliche Forschung reinvestieren oder im Rahmen eines staatlich anerkannten Auftrags im öffentlichen Interesse tätig sind (vgl. § 60d Abs. 2 S. 1 UrhG). § 60d Abs. 2 S. 3 UrhG stellt darüber hinaus klar, dass die gesetzlich erlaubte Nutzung auch dann ausgeschlossen ist, wenn Forschungsorganisationen mit einem privaten Unternehmen zusammenarbeiten, das einen bestimmenden Einfluss auf die Forschungsorganisation und einen bevorzugten Zugang zu den Ergebnissen der wissenschaftlichen Forschung hat.
Der Deutsche Kulturrat geht davon aus, dass aufgrund dieser Vorgaben KI-Systeme, die von privaten Unternehmen zu kommerziellen Zwecken angeboten werden, in Deutschland – und in Europa insgesamt – in der Regel nicht auf der Basis der genannten Schrankenregelung entwickelt werden dürfen.
Text und Data Mining für kommerzielle Zwecke kann nach § 44b UrhG erlaubt sein. Zulässig sind nach § 44b Abs. 2 UrhG aber nur Vervielfältigungen von rechtmäßig zugänglichen Werken. Es erscheint völlig unklar, wie im Rahmen des sog. Webscraping zur Gewinnung von Trainingsdaten zwischen rechtmäßig zugänglichen und illegal vorhandenen Werken im Internet unterschieden werden soll. Voraussetzung ist nach § 44b Abs. 3 UrhG ferner, dass der Rechtsinhaber sich die Nutzungen nicht vorbehalten hat (sog. „opt out“). Ein Nutzungsvorbehalt bei online zugänglichen Werken ist dabei nach § 44b Abs. 3 S. 3 UrhG nur wirksam, wenn er in maschinenlesbarer Form erfolgt.
Auch wenn es grundsätzlich zu begrüßen ist, dass mit diesem Ansatz den Rechtsinhabern die Möglichkeit eingeräumt wird, einer Nutzung ihrer Werke zu widersprechen, so ist doch weitgehend offen, wie ein funktionierender Mechanismus in die Praxis umgesetzt und die Einhaltung effektiv kontrolliert werden kann. Denkbar ist hier zwar möglicherweise ein kollektiver „Opt out“, wie ihn in Deutschland die GEMA im musikalischen Bereich bereits vorbereitet. Dieser Ansatz passt aber voraussichtlich nicht für sämtliche Werkkategorien. In jedem Fall muss sichergestellt werden, dass Lizenzierungen durch die Rechtsinhaber, sei es auf individueller oder kollektiver Ebene, trotz der Schrankenregelung möglich bleiben.
Besonders wichtig ist es außerdem, Transparenzpflichten für die Entwickler von KI zu kommerziellen Zwecken einzuführen, damit diese im erforderlichen Umfang über die verwendeten Werke informieren. Auch wenn dies auf den ersten Blick wegen der Massennutzungen als schwierig erscheint, ist es auf der anderen Seite nicht einzusehen, dass ansonsten in keiner Weise überprüft werden kann, ob ein Werk, für das ein Opt-out erklärt wurde, für Trainingszwecke genutzt wurde.
Der Deutsche Kulturrat bittet deshalb die Bunderegierung sicherzustellen, dass die Rechtsinhaber von der Vorbehaltsmöglichkeit des § 44b Abs. 3 UrhG tatsächlich Gebrauch machen können (bspw. aufgrund eines einheitlichen Standards), dass ein erfolgter „Opt out“ in der Praxis effektiv kontrolliert werden kann und sinnvolle Transparenzpflichten der Entwickler von KI geschaffen werden. Hier sollte insbesondere das anhängige europäische Rechtsetzungsverfahren für einen AI Act genutzt werden.
Die oben bereits erwähnte deutsche Regelung zu Text und Data Mining für wissenschaftliche Zwecke, die im Zusammenhang mit dem UrhWissG eingeführt worden war, sah eine Vergütungspflicht für die nutzenden Einrichtungen vor. Dieser Vergütungsanspruch wurde bei Umsetzung der DSM-Richtlinie gestrichen. Der Gesetzgeber ging dabei davon aus, dass die DSM-Richtlinie in Erwägungsgrund 17 eine Vergütung ausgeschlossen habe. Ob diese Auslegung des einschlägigen Erwägungsgrunds richtig ist, kann dahinstehen.
Der Deutsche Kulturrat hatte im Zusammenhang mit der Umsetzung der DSM-Richtlinie und unter Berücksichtigung der damaligen Erkenntnisse einen Vergütungsanspruch im Zusammenhang mit den gesetzlichen Erlaubnissen für Text und Data Mining gefordert (vgl. Stellungnahme des Deutschen Kulturrates zur Umsetzung der DSM-Richtlinie und der Online-SatCab-Richtlinie vom 11.09.2019). Er bittet deshalb die Bundesregierung, die konkrete Ausgestaltung und praktische Umsetzung eines solchen Vergütungsanspruchs zeitnah zu prüfen.
Output
Urheberrechtlich geschützte Werke können nur durch Menschen geschaffen werden. Das durch eine KI erzielte Erzeugnis ist deshalb nicht als Werk im Sinne des § 2 UrhG anzusehen, mag es auch noch so sehr in Form und Inhalt einem Werk ähneln. In aller Regel wird ein urheberrechtlicher Schutz auch nicht etwa deshalb bejaht werden können, weil ein Mensch der KI bestimmte Vorgaben für das Erzeugnis gemacht hat (sog. „Prompts“). Diese Vorgaben werden zumeist als bloße Ideen urheberrechtlich nicht geschützt sein; die konkrete Ausgestaltung der Vorgaben, für die ein Schutz in Betracht käme, wird aber gerade nicht durch einen Menschen vorgenommen.
Denkbar ist dagegen, dass das Erzeugnis einer KI lediglich als Ausgangspunkt für anschließende kreative Leistungen eines Menschen dient. Wenn diese Leistungen – vergleichbar einer Bearbeitung eines urheberrechtlich geschützten Werkes – eine hinreichende Originalität aufweisen, kommt insoweit ein Urheberrechtsschutz in Betracht. Die Abgrenzung zwischen urheberrechtlich nicht geschützten Arbeiten, wie beispielsweise beim Lektorat, und einer urheberrechtlich geschützten Leistung, bei der ein neues Werk auf der Grundlage eines KI-Entwurfs entsteht, ist dabei schwierig. Hier werden auf die urheberrechtliche Praxis, nicht zuletzt im Bereich der kollektiven Rechtewahrnehmung durch Verwertungsgesellschaften, erhebliche Herausforderungen zukommen.
Von zentraler Bedeutung dürften dabei Kennzeichnungspflichten des Verwenders des KI-Erzeugnisses sein, durch die offengelegt wird, ob ein Erzeugnis wesentlich auf dem Einsatz von KI beruht. Der Deutsche Kulturrat hält es deshalb dringend für erforderlich, Kennzeichnungspflichten des Verwenders von KI-Erzeugnissen zu prüfen. Dabei sollten branchenspezifische Besonderheiten Berücksichtigung finden. Er bittet die Bundesregierung, diese Prüfung schnellstmöglich vorzunehmen, um die anstehenden Trilog-Verhandlungen für einen AI Act ggf. für sachgerechte Regelungen nutzen zu können.
Langfristig ist nicht auszuschließen, dass die bisherigen Kriterien zur Bestimmung eines Werkes vor dem Hintergrund der aktuellen KI-Entwicklungen überprüft werden müssen. Ziel muss es dabei stets sein, menschliches Werkschaffen weiterhin angemessen schützen zu können, ohne die Akzeptanz und Durchsetzbarkeit des Urheberrechts insgesamt zu gefährden.
Die Erzeugnisse von KI können schließlich Haftungsfragen aufwerfen, die ebenfalls genau zu prüfen sind. So ist beispielsweise keineswegs ausgeschlossen, dass ein KI-Produkt ein bestehendes Urheberrecht verletzt, weil kein hinreichender Abstand zu einem benutzten Werk eingehalten wird. Hier muss dringend geklärt werden, inwieweit der Hersteller der KI und der Verwender der KI für die Rechtsverletzung und den eingetretenen Schaden haften.
Der Deutsche Kulturrat bittet die Bundesregierung, die einschlägigen Haftungsfragen im Zusammenhang mit KI-Anwendungen zu prüfen und gegebenenfalls Regelungsvorschläge vorzulegen.
Neben dem urheberrechtlichen Werkschutz sieht das Urheberrechtsgesetz bekanntlich einen Schutz von Leistungen durch die verwandten Schutzrechte vor. Insoweit ist ein Schutz von KI-Erzeugnissen, beispielsweise beim Schutzrecht des Tonträger-, Film- oder Datenbankherstellers, nicht ausgeschlossen. Ob es sinnvoll ist, einen generellen Leistungsschutz für KI-Erzeugnisse durch den Gesetzgeber einzuführen, ist allerdings derzeit noch völlig offen und muss zunächst diskutiert werden.
Abschließend hält der Deutsche Kulturrat fest, dass der Einsatz von KI selbstverständlich auch Chancen für Urheberinnen und Urheber sowie die gesamte Kreativwirtschaft bietet und KI bereits vielfach Anwendung findet. Dessen ungeachtet bedarf es dringend einer Klärung der offenen Fragen und – zumindest in bestimmten Punkten – auch einer schnellen Regulierung durch den Gesetzgeber. Das anhängige Rechtssetzungsverfahren für einen AI Act auf europäischer Ebene bietet dafür eine aktuelle Gelegenheit, die genutzt werden muss. Leitlinie sollte dabei die oben bereits zitierte Aussage des Deutschen Ethikrats sein, die besonders gut zum Urheberrecht passt: Ziel und Richtschnur der Bewertung muss – bei Wahrung der bestehenden Leistungsschutzrechte von Produzenten – immer die Stärkung menschlicher Autorschaft sein.
Der Deutsche Kulturrat versteht diese Stellungnahme als eine erste Positionierung zum Themenkomplex KI und Urheberrecht. Angesichts der rasch fortschreitenden technischen Entwicklung sowie der politischen und gesellschaftlichen Debatten wird er sich in die weiteren Diskussionen aktiv einbringen und steht als Ansprechpartner, der die verschiedenen Interessen aus dem Kulturbereich – Kreative, Kultureinrichtungen, Kulturunternehmen und Kulturvereine – spartenübergreifend bündelt, für Gespräche zur Verfügung.
