Berlin, den 09.10.2024. Der Deutsche Kulturrat, der Spitzenverband der Bundeskulturverbände, positioniert sich mit diesem Papier zum Einsatz von Künstlicher Intelligenz (KI) im Kunst-, Kultur- und Mediensektor und weitet damit den Blick über seine bisher auf das Urheberrecht fokussierte Stellungnahme „Künstliche Intelligenz und Urheberrecht“[1] vom 22.06.2023 hinaus.
KI ist eine sich dynamisch entwickelnde Technologie. Der Umgang mit KI und die Regulierung sind eine gesamtgesellschaftliche Aufgabe. Das Vertrauen in die Echtheit von Informationen sind ebenso davon berührt wie die vielerorts bestehende Sorge vor der Substitution menschlichen Schaffens und Arbeitskraft durch KI. Wenn KI-Systeme zunehmend in Entscheidungsprozesse eingebunden werden, entstehen Verantwortungslücken, die geklärt werden müssen, um gesellschaftliche Akzeptanz zu gewährleisten. Das vorliegende Positionspapier spiegelt den aktuellen Wissensstand. Es soll kontinuierlich fortgeschrieben werden.
In der oben genannten urheberrechtlichen Stellungnahme hat der Deutsche Kulturrat begrüßt, dass sich beispielsweise der Deutsche Ethikrat der gesellschaftlichen Dimension von KI angenommen und im März 2023 seine Stellungnahme „Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz“ veröffentlicht hat. Der Deutsche Ethikrat hat deutlich gemacht, dass Ziel und Richtschnur ethischer Bewertung immer die Stärkung menschlicher Autorschaft sein muss. Der Deutsche Kulturrat stimmt dieser Einschätzung uneingeschränkt zu und sieht hier die Grenzen der Anwendung von KI markiert.
Kunst, Kultur und Medien bieten gesellschaftliche Reflexionsräume. Künstlerischer Arbeit ist inhärent, dass in die Zukunft geblickt wird. In Werken verschiedener künstlerischer Sparten wird sich auch mit KI und ihren Auswirkungen auf gesellschaftliche Prozesse und das Zusammenleben auseinandergesetzt. In künstlerischen Arbeiten wird mit KI experimentiert und Möglichkeitsräume werden erforscht. Künstlerinnen und Künstler genauso wie andere Akteure des Kunst-, Kultur- und Medienbereiches sowie der Kultur- und Kreativwirtschaft haben einen spezifischen Zugang zum Thema. Sie sollten als Stakeholder mit ihrer Expertise bei der Besetzung von Beratungsgremien, die sich mit der Anwendung bzw. der zur Regulierung von KI, insbesondere von generativer KI, befassen, frühzeitig stärkere Berücksichtigung finden.
In diesem Papier wird sowohl die Arbeit von Künstlerinnen und Künstlern, also Urheberinnen und Urheber bzw. Leistungsschutzberechtigten, von Kultureinrichtungen, von kulturellen Bildungseinrichtungen als auch von Unternehmen der Kultur- und Kreativwirtschaft in den Blick genommen. Es geht um:
- KI als Werkzeug für die künstlerische und kreative Arbeit,
- KI in der nicht-künstlerischen Arbeit in Kunst, Kultur und Medien,
- KI in der allgemeinen Bildung,
- KI in der Hochschullehre und Ausbildung,
- KI und Barrierefreiheit,
- KI und kulturelles Erbe.
KI als Werkzeug für die künstlerische und kreative Arbeit
Viele Künstlerinnen und Künstler sind genauso wie Kreative und Unternehmen der Kultur- und Kreativwirtschaft offen für die Nutzung neuer Werkzeuge für ihre Arbeit. Sie wenden sie an und experimentieren damit. Die Prozesse künstlerischer und kreativer Arbeit verändern sich dadurch. Dies ist mit Blick auf die Kulturgeschichte nichts Neues und trifft selbstverständlich auch auf die Nutzung von KI zu. Mit Hilfe von KI-Werkzeugen können sich künstlerische Ideen umsetzen lassen, die bislang als nicht realisierbar galten. Bei deren Entwicklung und Erforschung müssen aber die Interessen und Rechte der Kulturakteure berücksichtigt und eingehalten sowie verantwortungsvoll definiert werden. Europäische und nicht-europäische KI-Anbieter müssen sich innerhalb der EU an europäische Standards halten. Auf politischer Ebene gilt es die europäischen Standards wie z. B. Datenschutz und Urheberrecht als Standortfaktor positiv herauszustellen und europäische Anbieter zu stärken.
Für die Entwicklung generativer KI-Anwendungen werden derzeit bestehende, von Menschen geschaffene Werke zum Training genutzt. Der Deutsche Kulturrat hat sich zu den Gefahren generativer KI mit Blick auf die Wertschöpfungskette, die Wahrung des Urheberpersönlichkeitsrechts sowie die Vergütung bereits positioniert und wird diese Fragestellungen weiter verfolgen[2]. Aktuell wird eine neue Stellungnahme zum Thema KI und Urheberrecht erarbeitet, die sich mit den Erfordernissen der neuen KI-Verordnung befasst. Neben den ökonomischen Folgen des KI-Trainings müssen aber auch die ethischen, kunst- und kulturgeschichtlichen Konsequenzen genau beobachtet werden.
Die Nutzung von KI-Werkzeugen durch professionelle Künstlerinnen, Künstler und Kreative, ihre Partner wie auch durch individuell handelnde Amateure wirft neue Fragen auf, was die menschliche Leistung ausmacht und wie diese, z. B. durch Transparenzregelungen, von KI-generierten Werken und Inhalten zu unterscheiden ist. Neben der Frage des beruflichen Selbstverständnisses ist dieses Thema insbesondere mit Blick auf die vertraglichen Beziehungen zu den Entwicklern und die Partizipation an der Wertschöpfung für alle Beteiligten von großer Bedeutung.
Einzelne KI-Varianten werden derzeit kostenfrei oder sehr kostengünstig angeboten. Der günstige Preis einiger Angebote geht oft mit einer Missachtung von Datenschutzstandards und Urheber- und Persönlichkeitsrechten einher. Hier bedarf es einer besseren Aufklärung darüber, damit ein risikofreier und rechtssicherer Umgang mit den Werkzeugen möglich ist. Darüber hinaus ist es wünschenswert, dass KI-Nutzende Zugang zu kostengünstigen, rechtssicheren und gleichzeitig datenschutztechnisch geschützten Anwendungen erhalten.
KI in der nicht-künstlerischen Arbeit in Kunst, Kultur und Medien
Auch die nicht-künstlerische Arbeit im Kunst-, Kultur- und Medienbereich verändert sich durch KI. Dieses rührt an Berufsbildern, am Berufsverständnis und verlangt, sich auf andere Arbeitslogiken einzulassen. KI wird im Kunst-, Kultur- und Medienbereich aber auch als Chance gesehen, um dem Fachkräftemangel entgegenzuwirken, insbesondere mit Blick auf repetitive Aufgaben. Gleichzeitig darf nicht verkannt werden, dass durch KI auch Arbeitsplätze wegfallen werden. Es ist gegenwärtig unklar, in welchem Verhältnis der prognostizierte Wegfall von Arbeitsplätzen zum bereits jetzt konstatierten Fachkräftebedarf steht[3]. In jedem Fall muss auf Qualifizierung, insbesondere die Fort- und Weiterbildung der Mitarbeitenden, großer Wert gelegt werden. Es gilt, sich frühzeitig mit bereits eingetretenen und möglichen weiteren Disruptionen zu befassen und KI nicht leichtfertig einzusetzen. Transparenzregelungen werden im Grundsatz überall dort erforderlich sein, wo Ergebnisse von generativer KI geschaffen oder interpretiert werden.
KI in der allgemeinen Bildung
Der kompetente Umgang mit KI ist eine bildungspolitische Herausforderung. Dies gilt sowohl für die schulische Bildung, die außerschulische Kinder- und Jugendbildung als auch die Erwachsenenbildung einschließlich der Seniorenbildung. Menschen aller Generationen sind gefordert, sich mit den Möglichkeiten, Funktionsregeln und Grenzen generativer Modelle auseinanderzusetzen, um einen kompetenten Umgang mit solchen Anwendungen zu lernen und für das eigene künstlerische bzw. kreative Schaffen zu nutzen. Dazu gehört eine realistische Vorstellung darüber, wie generative Modelle funktionieren, was sie können und was nicht. Ebenso zählt dazu, missbräuchliche Verwendungen von KI, z.B. zum Zweck der Desinformation oder der Bildfälschungen (Deep Fakes), zu erkennen. Menschen benötigen künftig eine umfassende KI-Kompetenz. Dem lebensbegleitenden Lernen sowie der kulturellen Bildung und Medienpädagogik in der Schule und der außerschulischen Bildung kommt hier eine besondere Rolle zu. Damit dies gelingt, muss die Fort- und Weiterbildung der pädagogischen Mitarbeitenden ausgebaut werden.
KI in der Hochschullehre und Ausbildung
KI als Werkzeug wird sowohl in der Hochschullehre als auch von Studierenden genutzt. Insbesondere mit Blick auf Abschlussarbeiten von Studierenden in den Kunst- und Kulturwissenschaften, aber auch den künstlerischen Disziplinen besteht die Herausforderung, dass die Studierenden eine eigenständige Prüfungsleistung erbringen müssen. Hier müssen die Spielräume zur Nutzung von KI und zur Überprüfung von Prüfungsarbeiten, die in der Regel wiederum KI-gestützt erfolgt, ausgelotet werden.
Bei der Weiterentwicklung der Curricula gilt es, die Nutzung von KI als festen Bestandteil zu integrieren und den Studierenden den kreativen Umgang mit KI einschließlich der Dokumentation der Nutzung nahezubringen. In diesem Kontext steht auch die Weiterbildung der Hochschullehrenden im Fokus. Bei der Neubesetzung von Stellen muss geprüft werden, ob Kenntnisse im Einsatz von KI zum Anforderungsprofil gehören müssen. Ferner darf nicht nur die Anwendung von KI in den Blick genommen werden, sondern ebenso gilt es, die Forschung zu den Auswirkungen von KI auf die Künste und das Kulturschaffen im Speziellen, aber auch die kulturelle Vielfalt im Allgemeinen zu fördern. Darüber hinaus sollte die Entwicklung von KI aus künstlerischer Perspektive ebenfalls Gegenstand der Curricula werden, da die Anwendung von Technik und Technologien allein ihr Verstehen nicht garantiert.
Ebenso müssen in der Berufsaus- und -weiterbildung Kenntnisse in der Anwendung von KI erworben werden. In vielen Berufen im Kunst-, Kultur- und Medienbereich wird KI selbstverständlich als Werkzeug eingesetzt. Zur Sicherung der Qualität beruflicher Ausbildung müssen die Auszubildenden auf den kompetenten Einsatz und die kritische Reflexion der Nutzung von KI sowohl im betrieblichen als auch im schulischen Teil der Ausbildung vorbereitet werden. Dies schließt die Weiterentwicklung der Berufe nach dem Berufsbildungsgesetz ein.
KI und Barrierefreiheit
Die Schaffung von Barrierefreiheit ist eine gesamtgesellschaftliche Aufgabe, die den Kulturbereich einschließt. Den Zugang von Menschen mit Behinderungen zu Kunst und Kultur zu gewährleisten, ist gemäß der von der Bundesrepublik Deutschland ratifizierten UN-Behindertenrechtskonvention eine geltende Verpflichtung. KI kann eine Möglichkeit sein – unter Beachtung des Urheberrechts – den barrierefreien Zugang zu Kunst, Kultur und Medien effektiver und individueller zu gestalten.
Der Deutsche Kulturrat sieht die öffentliche Hand gefordert, die Forschung und Entwicklung von qualitativ hochwertigen KI-Lösungen, die den barrierefreien Zugang zu Kunst, Kultur und Medien verbessern, sowie die Institutionen und Unternehmen bei der Einführung und Bereitstellung solcher Systeme zu unterstützen.
KI und kulturelles Erbe
In seiner Stellungnahme „Zukunftsaufgabe Digitalisierung und Digitalpolitik“ hat der Deutsche Kulturrat im Oktober 2021 ein konsistentes Vorgehen der Bundesregierung mit Blick auf Digitalisierungsstrategien eingefordert[4]. Leider muss festgestellt werden, dass, statt vorhandene Projekte, wie z. B. die Deutsche Digitale Bibliothek oder die Nationale Forschungsdateninfrastruktur, zu stärken, neue, wie z. B. der Datenraum Kultur oder das Dateninstitut, gestartet wurden. Ressourcen wurden also nicht gebündelt, sondern neue – wiederum befristete – Vorhaben angestoßen. Um die Digitalisierung, die Voraussetzung für die Anwendung von KI ist, voranzutreiben, sind jedoch zusammenführende Programme von Bund und Ländern erforderlich. Dabei gilt es über Ressortgrenzen hinweg zu denken und zu handeln. Nur so können Doppelarbeit bzw. unnötige Konkurrenzen verhindert werden.
Voraussetzung für den bestmöglichen Einsatz von KI in den nicht-kommerziellen Gedächtniseinrichtungen, wie Museen, Archiven und Bibliotheken, ist die Digitalisierung der Bestände. Sie ist immer noch lückenhaft bzw. geht nur schleppend voran. Die digitale Infrastruktur ist unzureichend und die eigenen Ressourcen in den Institutionen werden nicht ausreichend gestärkt. Die Potenziale von KI, insbesondere im wissenschaftlichen Kontext, Bestände schnell zu durchsuchen und für Forschungszwecke zugänglich zu machen, können daher nicht ausreichend ausgeschöpft werden. Hier ist die öffentliche Hand gefordert, mit abgestimmten Programmen Abhilfe zu schaffen.
In der Publikumsforschung oder Vermittlung bietet KI ebenfalls neue Möglichkeiten. Die Erprobung und Auseinandersetzung mit solchen Anwendungen muss unterstützt und gefördert werden. Denn als nicht-kommerzielle, geschützte Räume mit öffentlichem Auftrag haben die Einrichtungen des kulturellen Erbes ein ganz besonderes Potential, einen reflektierten und ethischen Umgang mit KI zu erproben und diesen in einen öffentlichen Diskurs zu bringen.
Ebenso bietet KI neue Chancen, komplexe künstlerische Arbeitsprozesse und Aufführungspraxen für Wissenschaft und Forschung aufzuzeichnen, künstlerische Nachlässe zu bewahren und damit der Forschung zugänglich zu machen. Gleichzeitig müssen diese Anwendungsbereiche klar von den kommerziellen Anwendungen abgegrenzt werden und dürfen nicht z.B. durch Unternehmensbewegungen zur Umgehung genutzt werden – so startete OpenAI als „non-profit-research-lab“. Hier bedarf es einer juristischen Klärung der Gesamtlage.
Aber auch im Bereich komplexer künstlerischer Arbeitsprozesse, in der Bewahrung und Erforschung des materiellen sowie immateriellen Kulturerbes, in der Publikumsforschung oder Vermittlung bietet KI neue Chancen. Die Erprobung und Auseinandersetzung mit solchen Anwendungen muss unterstützt und gefördert werden. Denn als nicht-kommerzielle, geschützte Räume mit öffentlichem Auftrag haben die Einrichtungen des kulturellen Erbes ein ganz besonderes Potential, einen reflektierten und ethischen Umgang mit KI zu erproben und diesen in einen öffentlichen Diskurs zu bringen.
Unabdingbar ist für den Deutschen Kulturrat, dass Urheberinnen und Urheber angemessen vergütet werden.
[1] Siehe hierzu: https://www.kulturrat.de/positionen/kuenstliche-intelligenz-und-urheberrecht/
[2] Siehe hierzu: https://www.kulturrat.de/positionen/kuenstliche-intelligenz-und-urheberrecht/
[3] In der Zeitung Politik & Kultur des Deutschen Kulturrates wird im Jahr 2024 aus verschiedenen Berufsbereichen des Kunst-, Kultur- und Mediensektors beleuchtet, wie sich KI auf die Arbeit bzw. Verwertungsstrukturen auswirkt. Die Beiträge finden Sie hier.
[4] Siehe hierzu: https://www.kulturrat.de/positionen/zukunftsaufgabe-digitalisierung-und-digitalpolitik/