Max Maurischat über die neuen EU-Symbole für KI-generierte Inhalte

Im Interview: Max Maurischat, CEO der SQUAREVEST AG

SQUAREVEST Redaktion: Herr Maurischat, warum führt die EU Symbole für KI-generierte Inhalte ein?

Max Maurischat: KI-generierte Bilder, Stimmen und Videos sind oft kaum noch von echten Inhalten zu unterscheiden. Die Symbole sollen Nutzern zeigen, wenn ein Inhalt künstlich erzeugt oder wesentlich verändert wurde. Es geht nicht darum, KI negativ darzustellen. Es geht darum, Täuschung zu vermeiden und Vertrauen zu schaffen.

 
SQUAREVEST Redaktion: Sind die EU-Symbole verpflichtend?

Max Maurischat: Die Verwendung genau dieser Symbole ist freiwillig. Die Transparenzpflichten aus Artikel 50 des europäischen KI-Gesetzes sind in den betroffenen Fällen jedoch verbindlich.

Unternehmen können auch andere geeignete Kennzeichnungen verwenden. Sie müssen aber sicherstellen, dass der Hinweis klar, verständlich und rechtzeitig sichtbar ist. Ein EU-Symbol allein bedeutet deshalb noch nicht, dass eine Veröffentlichung vollständig rechtskonform ist.

 
SQUAREVEST Redaktion: Welche Inhalte müssen gekennzeichnet werden?

Max Maurischat: Im Mittelpunkt stehen sogenannte Deepfakes. Das sind KI-generierte oder manipulierte Bilder, Audio- oder Videoinhalte, die reale Personen, Orte oder Ereignisse so darstellen, dass sie fälschlicherweise echt wirken können.

Betroffen sein können auch KI-generierte Texte zu Themen von öffentlichem Interesse, wenn sie ohne menschliche Prüfung und ohne übernommene redaktionelle Verantwortung veröffentlicht werden. Nicht jeder Einsatz von KI führt deshalb automatisch zu einer Kennzeichnungspflicht.

 
SQUAREVEST Redaktion: Muss jedes KI-generierte Beitragsbild gekennzeichnet werden?

Max Maurischat: Nein, nicht automatisch. Ein erkennbar symbolisches oder illustratives Bild ist anders zu bewerten als eine realistisch wirkende Darstellung eines angeblich echten Ereignisses.

Trotzdem kann eine freiwillige Kennzeichnung sinnvoll sein. Gerade Medien und Unternehmen sollten offenlegen, wenn ein Bild vollständig mit KI erstellt oder wesentlich verändert wurde. Transparenz kann über die gesetzliche Mindestpflicht hinaus ein wichtiger Vertrauensfaktor sein.

 
SQUAREVEST Redaktion: Welche unterschiedlichen Kennzeichnungen gibt es?

Max Maurischat: Die EU unterscheidet im Wesentlichen zwischen einem allgemeinen KI-Symbol, einer Kennzeichnung für vollständig KI-generierte Inhalte und einer Kennzeichnung für teilweise KI-veränderte Inhalte.

Vollständig KI-generiert bedeutet, dass der eigentliche Inhalt komplett durch ein KI-System erstellt wurde. Teilweise verändert bedeutet, dass ein bestehendes Foto, Video oder eine Audiodatei nachträglich wesentlich mit KI bearbeitet wurde. Ein typisches Beispiel wäre der Austausch eines Gesichts in einem echten Foto.

 
SQUAREVEST Redaktion: Wo sollte die Kennzeichnung erscheinen?

Max Maurischat: Der Hinweis sollte bereits bei der ersten Wahrnehmung des Inhalts sichtbar sein. Nutzer dürfen nicht erst am Ende eines Videos oder nach mehreren Klicks erfahren, dass der Inhalt künstlich erzeugt wurde.

Die Kennzeichnung sollte möglichst direkt im Bild, Video oder Text eingebunden sein. Sie darf nicht verdeckt werden und sollte beim Teilen oder Herunterladen möglichst erhalten bleiben. Ein zusätzlicher verständlicher Hinweis wie „vollständig KI-generiert“ oder „mit KI verändert“ kann hilfreicher sein als ein Symbol ohne Erklärung.

 
SQUAREVEST Redaktion: Gibt es Ausnahmen für Kunst, Satire oder fiktionale Inhalte?

Max Maurischat: Ja. Bei offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werken darf die Kennzeichnung so gestaltet werden, dass sie die Wahrnehmung des Werkes nicht unnötig beeinträchtigt.

Das bedeutet aber nicht, dass solche Inhalte grundsätzlich nie gekennzeichnet werden müssen. Entscheidend sind der Kontext und die mögliche Täuschungswirkung. Ein klar erkennbarer satirischer Film ist anders zu bewerten als ein realistisches Video, das ohne Erklärung in sozialen Netzwerken verbreitet wird.

 
SQUAREVEST Redaktion: Welche Rolle spielt die menschliche Kontrolle bei KI-Texten?

Max Maurischat: Wird ein KI-generierter Text einer tatsächlichen menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen und übernimmt eine natürliche oder juristische Person die redaktionelle Verantwortung, greift die besondere Offenlegungspflicht für bestimmte Texte zu Angelegenheiten von öffentlichem Interesse grundsätzlich nicht.

Eine oberflächliche Kontrolle reicht aber nicht aus. Fakten, Quellen, Formulierungen und mögliche rechtliche Risiken müssen nachvollziehbar geprüft werden. Bei täuschend echten Bildern, Stimmen oder Videos ersetzt eine redaktionelle Prüfung die notwendige Transparenz dagegen nicht automatisch.

 
SQUAREVEST Redaktion: Was sollten Unternehmen und Redaktionen jetzt tun?

Max Maurischat: Sie sollten klare Regeln für den Einsatz von KI entwickeln. Vor jeder Veröffentlichung muss geklärt werden, ob ein Inhalt vollständig erzeugt, wesentlich verändert oder nur technisch optimiert wurde.

Außerdem sollte geprüft werden, ob reale Personen oder Ereignisse dargestellt werden und ob Nutzer den Inhalt fälschlicherweise für authentisch halten könnten.

Wichtig sind feste Zuständigkeiten, eine dokumentierte Prüfung und eine einheitliche Kennzeichnung.

 
SQUAREVEST Redaktion: Was ist Ihr wichtigster Rat?

Max Maurischat: Unternehmen sollten nicht nur fragen, ob eine Kennzeichnung rechtlich zwingend ist. Sie sollten auch überlegen, welche Information Nutzer benötigen, um einen Inhalt richtig einordnen zu können.

Wenn ein Bild, eine Stimme oder ein Video fälschlicherweise für echt gehalten werden könnte, sollte Transparenz Vorrang haben. KI kann Inhalte schneller erzeugen. Verantwortung für ihre Veröffentlichung bleibt aber beim Menschen.

 
SQUAREVEST Redaktion: Herr Maurischat, vielen Dank für das Interview.