Diskussion über Umgang mit KI Diese Positionen haben wir aus euren Kommentaren abgeleitet

Wie können die Chancen von Künstlicher Intelligenz genutzt und zugleich kreativ arbeitende Menschen geschützt werden? Anfang April haben wir euch zur Diskussion über den Umgang mit KI aufgerufen – wir hoffen, ihr könnt euch in unserer Zusammenfassung der vielfältigen Positionen wiederfinden.

Vier Mitgliedsverbände der Bundesarbeitsgemeinschaft Selbstständigenverbände (BAGSV), der auch der VGSD angehört, haben das Positionspapier "KI, aber fair" erarbeitet. Zahlreiche weitere Berufsverbände zeichneten das Papier mit. Der VGSD entschied sich gegen eine Mitzeichnung, weil wir Zweifel an der Umsetzbarkeit einiger vorgeschlagener Maßnahmen hatten. In Absprache mit den Initiatoren stellten euch das Papier vor und riefen zur Diskussion darüber auf. Unter dem Text sind 89 Kommentare (Stand: 23. Mai) eingegangen. Vielen Dank an euch für den bereichernden und konstruktiven Austausch!

Ziel: Eine Position, die möglichst vielen Mitgliedern gerecht wird

Unter den VGSD-Mitgliedern sind viele Menschen, die im kreativen Bereich arbeiten und damit ein besonderes Interesse an Schutz von Urheberrechten haben, zugleich aber auch viele IT-Experten. Uns als Verband ist es wichtig eine Position zu entwickeln, die einen breiten Konsens ermöglicht und möglichst vielen unserer Mitglieder gerecht wird: Die Vorteile der neuen Technologie sollen allen Menschen offenstehen und genutzt werden. Zugleich sollen die Rechte von Urheberinnen und Urhebern geschützt werden. Wichtig ist uns dabei, technisch umsetzbare und politisch und wirtschaftlich sinnvolle Lösungsideen zu entwickeln. Auch ethische Aspekte spielen eine Rolle, wie eure Beiträge gezeigt haben.

Im Folgenden fassen wir den Stand der Diskussion zusammen.

Ausgangspunkt war das Positionspapier der Kreativverbände. Dieses fordert eine Vergütung für die kommerzielle Nutzung von Werken durch KI. Die Beweis- und Dokumentationspflicht über die verwendeten Daten soll bei den KI-Anbietern liegen und nur solche, die die Erlaubnis der Urheber nachweisen können, sollen zugelassen werden. KI-generierte Werke sollen kennzeichnungspflichtig sein. Dies soll auch helfen, die Gefahren von Fake News und Deepfakes einzugrenzen. Die Besonderheiten der menschlichen Kreativität sollen wertgeschätzt, geschützt und gefördert werden.

Öffentliche Auseinandersetzung über Umgang mit KI unverzichtbar

Auch wenn viele von euch die Forderungen für teilweise nicht umsetzbar halten, besteht weitgehende Einigkeit, dass eine öffentliche Auseinandersetzung darüber unbedingt nötig ist.

Eine wesentliche Forderung des Papiers ist die Nutzungsvergütung  – was viele Fragen aufwirft. Die Kreativen lassen offen, wie eine solche gestaltet werden soll. In der Diskussion wird immer wieder darauf hingewiesen, dass eine direkte Vergütung für Urheberinnen und Urheber nicht möglich ist, weil den KI-Ergebnissen nicht zugeordnet werden kann, welche Werke dafür von der KI "gelesen" wurden. KI-Modelle wie Chat-GPT haben quasi das gesamte Internet "gelesen".

Generiert die KI quasi wissenschaftliche Plagiate?

Einigen Diskussionsbeiträgen liegt die Annahme zugrunde, die KI übernehme Textpassagen und reihe diese ohne Quellenangabe aneinander, so wie das bei einem wissenschaftlichen Plagiat der Fall ist. Wenn dem so wäre, gälten die bestehenden Regeln, dass bei Zitaten Quellen anzugeben sind und bei längeren Passagen eine Erlaubnis einzuholen und unter Umständen eine Vergütung zu zahlen ist. Das bestehende Urheberrecht ist auch von KI-Anbietern einzuhalten.

Heutige Sprachmodelle übernehmen aber keine Textpassagen, sondern arbeiten mit der Summe des eingelesenen Materials. Wie beim Menschen, schreibt ein Nutzer, gelte sinngemäß: "Schreibt man von einem ab, ist es ein Plagiat, schreibt man von zahlreichen Menschen ab, ist es ein gelehrtes Werk." Die KI produziere tatsächlich "eigene" Inhalte, ähnlich wie ein Mensch, der im Laufe des Lebens sehr viel gelesen habe – ohne im Einzelnen benennen zu können, woher jeder einzelne Gedanke komme.

Die aktuellen Sprachmodelle sind sehr belesen

Es ist technisch unmöglich, den Anteil jedes einzelnen eingeflossenen Werks zu benennen. Wenn es möglich wäre, entstünde eine sehr lange Liste, und der Anteil jedes einzelnen Werks wäre extrem gering. Zugleich ist die Summe der für das Training der KI verwendeten Werke aber unzweifelhaft die Voraussetzung für das Trainieren der KI und für die Gewinne, die KI-Anbieter in Zukunft erzielen werden. Daraus entstand in der Diskussion die Idee, einen Teil dieser Gewinne über Verwertungsgesellschaften den Urhebern zugute kommen zu lassen, wobei sich hier die Frage stellt, nach welchen Kriterien die Erlöse dann aufgeteilt werden sollen.

Tatsache ist auch, dass schon das Lesen und Verarbeiten durch eine KI eine neue Nutzungsart ist, für die die Urheber weder den Verwerten und schon gleich gar nicht den KI-Anbietern eine Erlaubnis eingeräumt haben.

Bedingungsloses Grundeinkommen oder besser Weiterbildung?

Mehrere Diskussionsteilnehmer brachten in diesem Zusammenhang die Idee des bedingungslosen Grundeinkommens in den Austausch ein: Kreative, die womöglich durch den allgegenwärtigen Einsatz von KI nicht mehr genug eigenes Einkommen generieren, könnten damit ihre Existenz absichern. Durch die KI reduziere sich das Arbeitsvolumen, so die Annahme, und die freigewordene Arbeitskraft könnte als "konstruktive Kreativität" im Interesse der Gesellschaft eingesetzt werden.

Der Versuch, durch Regulierung bestimmte Berufe oder Tätigkeiten zu schützen, sei zum Scheitern verurteilt meinen viele. Besser sei es, die betroffenen Personen weiterzubilden. Bei den Betroffenen besteht jedoch große Sorge, einerseits davor, sich im fortgeschrittenen Lebensalter umstellen zu müssen und andererseits davor, dass die in Frage kommenden Berufe nicht attraktiv für sie sind.

Wettlauf mit der künstlichen Intelligenz macht Bildung wichtiger

Die Arbeit in Zeiten der KI erfordert Menschen, die "klüger" sind als die KI, was eine sehr gute (Aus-)Bildung und entsprechende individuelle und gesellschaftliche Investitionen voraussetzt. Zugleich kann KI die Produktivität solcher Menschen stark erhöhen und damit auch die Nachfrage nach entsprechenden Leistungen steigern, weil diese preisgünstiger werden. Wer jedoch von der KI überflügelt wird, dessen Arbeit könnte massiv entwertet werden. Optimistische Stimmen glauben, dass die KI den Menschen in mancher Hinsicht nie einholen wird: "Menschen werden weiter für Werke von Menschen zahlen, weil es Menschen sind bzw. bekannte Künstler."

Ausgiebig wurden Fragen der technischen Möglichkeiten diskutiert. Ein Vorschlag ist, Urhebern, deren Inhalte im Internet öffentlich verfügbar sind, mindestens die Möglichkeit eines Opt-outs durch "Nofollow"-Tags zu ermöglichen, wie sie in Bezug auf die Crawler von Suchmaschinen bereits im Einsatz sind. So könnte mindestens theoretisch eine Verwendung eigener Inhalte durch KIs verhindert werden. Dabei ist wichtig, zwischen einem "Nofollow" für die Verwendung von Suchmaschinen und einem für KI zu unterscheiden. Denn während meist ein hoher Anreiz besteht, von Suchmaschinen gefunden zu werden, dürfte der eigene Nutzen bei KI geringer sein.

Ist ein "Nofollow" durchsetzbar?

Allerdings weisen Beiträge darauf hin, dass selbst bestehende große Suchmaschinen "Nofollows" ignorieren. Wenn sich aber nicht alle Anbieter an diese Regel halten, könnte ein Wettbewerbsnachteil für die gesetzeskonform handelnden Anbieter entstehen. Fraglich ist auch, was mit den Inhalten geschieht, die bereits vor der Möglichkeit zum Einrichten von "Nofollow"-Tags gecrawlt wurden.

Mehrere Diskussionsteilnehmer vermuten, dass wirklich aufwändig recherchierte Inhalte verstärkt hinter Paywalls wandern werden, die mindestens eine kostenfreie Registrierung erfordern. Ob diese aber vor Crawlern sicher sind, ist zweifelhaft.

KI-Anbieter sollten Eigeninteresse an Win-win-Situation haben

Die KI-Anbieter sollten, meinen mehrere, ein Eigeninteresse daran haben, dass weiter finanzielle Anreize bestehen, dass Menschen Neues schaffen, da die KI sonst eines Tages nur noch bei sich selbst "abschreiben" würde. Bei den meisten bestehen Zweifel daran, dass eine KI zurzeit fähig ist, von sich aus Neues zu entwickeln. Dies könnte sich aber zum Beispiel durch einen verstärkten Einsatz von KI in der wissenschaftlichen Forschung ändern.

Aus Gründen der Fairness, aber auch aus Eigeninteresse heraus sollten KI-Anbieter da, wo keine direkte Zuordnung generierter Inhalte zu einzelnen Quellen möglich ist, eine Auswahl weiterführender Quellen angeben, ähnlich wie eine Suchmaschine, die ja für Urheber im Internet ein zentraler Traffic-Lieferant ist. Das könnte Teil der notwendigen Interessenabwägung (Schaffen einer Win-win-Situation) zwischen KI-Anbietern und Urhebern sein.

Wird sich Trend beschleunigen, Traffic für sich zu behalten?

Bei Suchmaschinen und anderen Webdiensten, die auf KI-Basis ihnen gestellte Fragen beantworten, ist es allerdings im Interesse der Anbieter, dass diese von der KI selbst möglichst abschließend beantwortet werden, weil dies die Nutzungszeit und damit die (Werbe-)Einnahmen erhöht. Dieser Trend, immer weniger Traffic "abzugeben" lässt sich gerade im Social-Media-Bereich beobachten.

Viele Diskussionsteilnehmer haben die Sorge, dass durch Verbote oder sehr strenge Regeln auf EU-Ebene zwar nicht die technische Entwicklung als solche aufgehalten würde, die europäischen Anbieter aber noch weiter zurückfallen würden. Zudem könnten Wettbewerbsnachteile nicht nur bei den KI-Anbietern selbst, sondern auch in den sie potenziell einsetzenden Unternehmen entstehen. Die Teilnehmer weisen mehrfach darauf hin, dass schon jetzt Open-source-Varianten von KI existieren. Die Verbreitung von KI lasse sich also durch staatliche Behörden gar nicht mehr kontrollieren.

Verbote und Marktzulassungsverfahren sind wahrscheinlich kontraproduktiv 

Ein Marktzulassungsverfahren von KI-Anbietern wird kritisch gesehen, weil es wie oft bei solchen EU-Regelungen kleine Unternehmen stärker als große behindern und damit dem Wettbewerb in der EU schaden würde. Zitat: "Ich bin jedoch für einen möglichst breiten und demokratischen Markt und dafür benötigt es dann eine Vielfalt von KI-Anbietern. Wenn wir nun hier alles kaputtregulieren, wird sich das nicht in unserem Interesse entwickeln, denn dann machen es die, die überhaupt keinen Anstand haben." Ohnehin hätten die großen Anbieter gegenüber kleinen einen erheblichen Wettbewerbsvorteil.

Viele Diskussionsteilnehmer finden eine Kennzeichnungspflicht für KI-Werke grundsätzlich sinnvoll, haben aber Zweifel an der Durchsetzbarkeit. Zudem stellt sich die Frage, ab wann von Menschen überarbeiteter, KI-generierter Inhalt noch kennzeichnungspflichtig wäre.

Kennzeichnungspflicht wünschenswert, aber wie durchsetzen?

Für Bilder und Videos wird der Vorschlag gemacht, diese mit einer Art Wasserzeichen zu versehen, auch eine Blockchain als Herkunftshinweis wird vorgeschlagen. Allerdings lässt sich dies wohl nur bei großen Anbietern durchsetzen und nicht für jede KI, insbesondere wenn Werke mit böser Absicht von Autokratien oder anderen Demokratiegegnern entwickelt werden.

Es besteht Einigkeit darüber, dass durch Fake News und Deepfakes eine große Gefahr für unsere Demokratien besteht und dringend wirksame Gegenmaßnahmen entwickelt werden müssen. Dass eine Kennzeichnungspflicht dafür nicht ausreicht, darin stimmen die Teilnehmer ebenfalls überein. Außerdem halten die Teilnehmer eine Kennzeichnungspflicht gerade in diesem Fall für nicht durchsetzbar, weil Deepfakes und Fake News ja von demokratiefeindlichen Staaten und Kräften eingesetzt werden. Zitat: "Genauso gut könnte man versuchen, sie einfach zu verbieten. Wer etwas Illegales macht, hält sich nicht an Regeln."

Ernst zu nehmende Gefahr, dass sich KI der menschlichen Kontrolle entzieht

In Bezug auf menschliche Kreativität, Werte und Emotionen ist unklar, ob KI diese eines Tages erreichen oder so simulieren wird, dass sie diesbezüglich nicht unterscheidbar von Menschen ist. Unklar ist auch, ob Menschen dauerhaft KI-generierte Inhalte überprüfen müssen.

Eine weitere Gefahr sehen Diskussionsteilnehmer darin, dass eine KI sich der menschlichen Kontrolle entziehen könnte, zum Beispiel, indem sie sich repliziert und unter Nutzung von Hackertricks verbreitet, dabei planerisch vorgeht – was anders als oft behauptet nicht die Bildung eines Bewusstseins voraussetzt. Die KI könnte in ein Wettbewerbsverhältnis zum Menschen geraten und ihm zugleich überlegen sein.

Viele sehen eine Gefahr auch darin, dass unter den KI-Anbietern ein Konzentrationsprozess auftreten wird, der wirtschaftlich und politisch eine Gefahr darstellen kann, auch weil sich viele Menschen auf die KI und ihre Antworten verlassen werden, ohne diese ausreichend zu hinterfragen. Mehrere erwähnen die von zahlreichen Expertinnen und Experten unterzeichnete Forderung nach einer Pause in der Weiterentwicklung von KI und sehen sie als Hinweis, der zu denken gibt.

"iPhone-Moment" im November 2022 und die Suche nach der richtigen Antwort

Einigkeit besteht, dass der Launch von GPT im November 2022 ein "iPhone-Moment" war. Der richtige Umgang mit KI, das Stellen der richtigen Fragen (Prompts) wird eine neue Kulturtechnik wie die Bedienung eines Smartphones, die Benutzung eines Browsers oder das Tippen auf einer Tastatur. Sich mit der Nutzung und dem Nutzen von KI nicht aktiv auseinanderzusetzen ist die eigentliche Gefahr für die eigene berufliche Zukunft.

Die angeregte und anregende Diskussion hat uns – wie erwartet – gezeigt, dass das Stimmungsbild zum Thema KI unter unseren Mitgliedern vielfältig ist und es keine einfachen Lösungen gibt. Wir werden weiter daran arbeiten, die Positionen zum Umgang mit KI zu schärfen. Diese Zusammenfassung ist ein Zwischenschritt auf diesem Weg. Siehst du darin die Diskussion gut wiedergegeben oder fehlen noch wichtige Aspekte?