Kürzlich erschien ein Artikel unter der Überschrift „Aufregung: Netflix verfälscht mit KI heimlich historische Bilder für Doku“. (1) Mit Einzug der Künstlichen Intelligenz (KI) ist die Verfälschung und sogar die Erfindung von dokumentarischen Fotos kaum noch eine Arbeit, die abschreckt. Was nicht passt, wird passend gemacht. Und das in Sekunden gegen kleines Geld über einen KI-Generator.
Dieser Beitrag befasst sich mit der Bildmanipulation der Wirklichkeit, den sogenannten Deepfakes, und der hierfür bestehenden Kennzeichnungspflicht in journalistischen Formaten.
Deepfakes sind realistisch wirkende Medieninhalte (Foto, Audio, Video), die durch Techniken der künstlichen Intelligenz abgeändert, erzeugt bzw. verfälscht worden sind. (2)
Bilder, die auf Grund der Vortäuschung oder Verfälschung der Wirklichkeit als Deepfakes bezeichnet werden, sind nicht aus sich heraus in der Herstellung und der Publikation rechtswidrig. Jedoch bestehen für derartige Bilder (Videos und Fotos) in journalistischen Formaten unter gleich mehreren Aspekten Kennzeichnungspflichten.
Kennzeichungspflicht auf Grund von Transparenzanforderungen gemäß KI-Verordnung
Auch auf Grund der nunmehr massenhaften Ausbreitung der fotorealistischen Manipulationen, schnell und einfach hergestellt mittels Generatoren der Künstlichen Intelligenz (KI), hat der europäische Gesetzgeber Regelungsbedarf zu täuschend echten Fotografien und Videos erkannt. Dieseser ist, neben vielen weiteren Regelungen zum Einsatz der KI, mit der „EU-Verordnung über den Einsatz von Künstlicher Intelligenz“ (nachfolgend „KI-Verordnung“ genannt) umgesetzt. (3)
Deepfakes sind als „KI-Systeme mit Transparenzanforderungen“ eingestuft. Die Transparenzanforderung wird durch Kennzeichnungspflicht sichergestellt. Die Pflicht trifft nicht nur Betreiber von KI-Diensten, sondern auch die Nutzenden der Dienste, die ein KI-Bild publizieren.
Art. 50 Absatz 3 Satz 1 KI-Verordnung bestimmt: „Wer ein KI-System einsetzt, das Bild-, Audio- oder Videoinhalte erzeugt oder manipuliert, die einen Deep Fake darstellen, muss offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.“
Art. 50 Absatz 3 Satz 4 KI-Verordnung manifestiert weiter eine grundsätzliche Kennzeichnungspflicht für textliche Informationen. „Wer ein KI-System einsetzt, das Text generiert oder manipuliert, der zu dem Zweck veröffentlicht wird, die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, muss offenlegen, dass der Text künstlich generiert oder manipuliert wurde.“ (4)
Es kann aus der Spezifikation der Kennzeichnungspflicht auf „Informationen, die sich an die Öffentlichkeit wenden und deren Inhalt von öffentlichen Interesse sind“, auch gefolgert werden, dass insbesondere für journalistische Publikationen die Kennzeichnungspflicht auch von Bildern (Videos und Fotos), die mittels einer KI generiert werden, besteht.
Hintergrund zur Regelung
Mit der KI-Verordnung hat der EU Gesetzgeber zunächst den Verbraucherschutz und die Wahrung der Grundfreiheiten der EU-Bürgerinnen und Bürger im Auge. Mit der Formulierung des Art. 50 Absatz 3 Satz 4 KI-Verordnung wird zusätzlich eine weitere Stoßrichtung deutlich. Obwohl nicht im „ureigensten“ Kompetenzbereich des EU-Rechts angesiedelt, mag der medienrechtliche Aspekt, dass mittels Deepfakes Fehlinformationen verbreitet werden können und damit die politische Willensbildung der EU-Bürgerinnen und Bürger durch fotorealistische Manipulationen beeinflusst werden kann, ein Hintergrund zur Kennzeichnungspflicht gemäß der Tranzparenzregelung des Art. 50 KI-Verordnung sein. (5)
Nationale Regelungen, aus denen sich die Offenlegung von Deepfakes schon jetzt ergibt
Neben der EU KI-Verordnung (die wahrscheinlich erst in der zweiten Häfte des Jahres 2024 in Kraft treten wird) ) ergeben sich aus nationalen Regelungen zum Medienrecht schon jetzt Kennzeichnungspflichten, die auch auf KI-generierte Bilder anwendbar sind.
Pressekodex des Presserates
Für die sich dem Reglement des Pressekodex des Presserates selbstverpflichtend unterstellten Verlage ergibt sich eine nicht (!) gesetzliche Kennzeichnungspflicht aus der Regelung zur Kennzeichnung von Fotomontagen und Symbolbildern nach dem Pressekodex „Ziffer 2.2 Symbolfotos„:
„Kann eine Illustration, insbesondere eine Fotografie, beim flüchtigen Lesen als dokumentarische Abbildung aufgefasst werden, obwohl es sich um ein Symbolfoto handelt, so ist eine entsprechende Klarstellung geboten. So sind
- Ersatz- oder Behelfsillustrationen (gleiches Motiv bei anderer Gelegenheit, anderes Motiv bei gleicher Gelegenheit etc.)
- symbolische Illustrationen (nachgestellte Szene, künstlich visualisierter Vorgang zum Text etc.)
- Fotomontagen oder sonstige Veränderung
deutlich wahrnehmbar in Bildlegende bzw. Bezugstext als solche erkennbar zu machen.“
Im Dezember 2023 rügte der Presserat die Zeitschrift „Lisa“ auf Grund einer Fotostrecke zu dem Artikel „99 Pasta-Rezepte zum Nachkochen“. Die Fotos waren mittels Software generiert worden und nicht als Manipulationen gekennzeichnet.
Auch wenn der Pressekodex als eine Selbstverpflichtung nicht den Rang eines Gesetzes erlangt, kann er dann herangezogen werden, wenn es um die Definition anerkannter journalistischer Grundsätze geht. Diese werden in dem rechtlich bindenden Medienstaatsverträgen und den Landespressegesetzen eingefordert.
Kennzeichnungspflicht als Folge der Sorgfaltspflichten aus dem Medienstaatsvertrag
Der Medienstaatsvertrag (MStV) bestimmt, dass im Netz publizierende Verlage und „andere geschäftsmäßig angebotene, journalistisch-redaktionell gestaltete Telemedien, in denen regelmäßig Nachrichten oder politische Informationen enthalten sind“ journalistische Standards einhalten müssen (§ 19 MStV).
Die verbindliche Pflicht zur Benennung von Quellen der Inhalte sowie die Kennzeichnung von symbolischen Illustrationen ergibt sich damit für Internet-Medien aus dem Medienstaatsvertrag. Einzubeziehen sind damit auch KI-generierte Bilder (Fotos und Videos), die einem Text zur Illustration beigestellt werden. Die Pflicht zur journalistischen Sorgfalt besteht mit dem seit 2020 geltenden Staatsvertrag auch für Blogs, mit denen regelmäßig journalistisch-redaktionell aufbereitete Inhalte zur Information der Allgemeinheit verbreitet werden.
Landespressegesetze
Traditionell galten die Landespressegesetze für Druckwerke. Inzwischen regeln Landespressegesetze in erster Linie die Rahmenbedingungen der Presse und definieren die Anforderungen an die Presse sowie auch deren Rechte im Allgemeinen. Auch hier werden journalistische Sorgfaltspflichten konstituiert. Beispiel Hamburgisches Pressegesetz:
„§ 6 Sorgfaltspflicht der Presse. Die Presse hat alle Nachrichten vor ihrer Verbreitung mit der nach den Umständen gebotenen Sorgfalt auf Wahrheit, Inhalt und Herkunft zu prüfen. Die Verpflichtung, Druckwerke von strafbarem Inhalt freizuhalten (§ 19), bleibt unberührt.“
Wie bereits dargelegt, umfasst die journalistische Sorgfalt die Kenntlichmachung von Bildern, die die Wirklichkeit verfremden, aber realistisch wirken. Ob diese Inhalte nun mittels KI, mittels Photoshop oder Klebstoff und Schere erstellt werden, ist für die Bewertung einer Kennzeichnungspflicht unerheblich. Es muss für die Leserschaft durch einen Hinweis, z. B. in der Bildunterschrift, deutlich werden, dass das gezeigte Motiv die Wirklichkeit vortäuscht, manipuliert oder lediglich als „Symbol-Illustration“ austauschbar einem Text hinzugefügt wurde.
Wettbewerbsrechtliche Aspekte zur Kennzeichnungspflicht von KI-generierten Inhalten
Denkbar ist es, die unterlassene Kennzeichnung von KI-generierten Inhalten von journalistischen Produkten als eine „unlautere geschäftliche Handlung“ im Sinne des § 1 des Gesetzes gegen den unlauteren Wettbewerb (UWG) zu behandeln.
Werden beispielsweise zahlungspflichtige Artikel und Bilder zur Information der Leserschaft seitens eines Zeitungsverlages angeboten und bestehen die Inhalte aus KI-generierten Beiträgen ohne eine Kennzeichnung, kann darin eine Täuschung der Leserschaft über die Qualität der jeweiligen Zeitung als ein journalistisches Produkt gesehen werden. So zum Beispiel im Falle der Fotostrecke zu den „99 Pasta-Rezepten zum Nachkochen“.
Christian W. Eggers – 25. April 2024 – eggers@nordbild.com (letzte Aktualisierung dieses Artikels am 26. April 2024)
- https://winfuture.de/news,142379.html
- https://de.wikipedia.org/wiki/Deepfake
- Stand zum Gesetzgebungsverfahren: Am 13. März 2024 hat das EU-Parlament der Verordnung zugestimmt. Nach der formellen Zustimmung der Mitgliedstaaten sowie der Übersetzung der Verordnung in alle Amtssprachen sowie der darauf folgenden Veröffentlichung im Amtsblatt der EU tritt die Verordnung mit dem Ablauf von 20 Tagen in Kraft. Es ist damit zu rechnen, dass die Verordnung noch im diesem Jahr 2024 in Kraft tritt.
- Im Gegensatz zur Publikation von KI-generierten Bildern besteht die Kennzeichnungspflicht für KI-Texte nicht, wenn sie redaktionell überprüft werden. Ein solche Regelung für „dokumentarische“ Bilder einer KI oder sonstigen Manipulation wäre sinnlos.
- Grundsätzlich ist das Medienrecht vorwiegend eine nationale Angelegenheit der Mitgliedstaaten. Die EU-Gesetzgebung im Bereich Medien ist darauf ausgerichtet, den freien Verkehr von audiovisuellen Diensten innerhalb des Binnenmarkts zu fördern und gemeinsame Standards festzulegen, die die Vielfalt und Qualität der Medien in Europa schützen sollen.