Artikel 50 KIVO
Im August 2026 sind wichtige Transparenzpflichten des europäischen KI-Gesetzes in Kraft getreten. Seit dem 2. August gilt Artikel 50 des EU AI Act. Sein Grundgedanke ist einfach: Menschen sollen erkennen können, wenn sie mit einem KI-System interagieren oder wenn bestimmte Inhalte künstlich erzeugt oder verändert wurden.
Dabei geht es allerdings nicht darum, jede Nutzung von KI mit einem Warnhinweis zu versehen. Artikel 50 unterscheidet sehr genau danach, wie KI eingesetzt wird, welche Inhalte entstehen und wer für diese Inhalte verantwortlich ist.
KI-Hinweis beim Wetterbericht
Gleich der erste bewusst wahrgenommene Hinweis auf den Einsatz von KI hat mich dann doch sehr verwundet. Der Wetterbericht im Radio wies deutlich und eindeutig auf den Einsatz von KI hin.
Dass KI bei Wettervorhersagen eine Rolle spielt, ist zunächst wenig überraschend. Große Datenmengen müssen ausgewertet, Entwicklungen erkannt und Wahrscheinlichkeiten berechnet werden. Für solche Aufgaben können analytische und speziell für Wetterprognosen entwickelte KI-Modelle sehr sinnvoll sein.
Verwundert hat mich deshalb weniger der Einsatz von KI als die Kennzeichnung.
Kein Sprachmodell sollte darüber entscheiden, ob es morgen regnet oder wie wahrscheinlich ein Gewitter ist. Ein generatives Sprachmodell erzeugt Sprache auf Grundlage statistischer Zusammenhänge und Wahrscheinlichkeiten für mögliche Wortfolgen. Es ist kein meteorologisches Prognosemodell. Es kann aus vorliegenden Wetterdaten einen gut verständlichen Text formulieren – die eigentliche Prognose sollte aber aus meteorologischen Daten und dafür geeigneten Modellen stammen.
Damit stellt sich eine interessante Frage:
Bedeutet jeder Einsatz einer KI gleich Kennzeichnungspflicht?
Artikel 50 zeigt, dass die Antwort nicht automatisch „ja“ lautet.
Was Artikel 50 regelt:
Die Transparenzpflichten betreffen mehrere unterschiedliche Situationen.
1. Menschen müssen wissen, wenn sie mit einer KI sprechen
KI-Systeme, die direkt mit Menschen kommunizieren, müssen grundsätzlich darauf hinweisen, dass es sich um ein KI-System handelt. Ein Chatbot könnte beispielsweise ein Gespräch mit dem Hinweis beginnen: „Ich bin ein KI-Assistent.“
Eine Ausnahme besteht, wenn ohnehin offensichtlich ist, dass man mit KI interagiert – beispielsweise auf einer Seite mit der deutlich sichtbaren Überschrift „Frag den KI-Chatbot“.
2. KI-generierte Inhalte sollen technisch erkennbar sein
Anbieter von Systemen, die Texte, Bilder, Audio oder Videos synthetisch erzeugen oder verändern, müssen dafür sorgen, dass diese Inhalte möglichst maschinenlesbar gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind.
Das kann beispielsweise über Metadaten oder andere technische Kennzeichnungen erfolgen. Wichtig ist: Diese Verpflichtung richtet sich zunächst an die Anbieter der KI-Systeme. Maschinenlesbare Kennzeichnung bedeutet nicht automatisch, dass neben jedem KI-unterstützten Text für Menschen sichtbar „Dieser Text wurde mit KI erstellt“ stehen muss.
Auch hier gibt es eine wichtige Ausnahme: Unterstützt die KI lediglich eine übliche Bearbeitung und verändert weder die bereitgestellten Daten noch deren Bedeutung wesentlich, greift diese Pflicht nicht in gleicher Weise. Das kann etwa bei kleineren Bildkorrekturen oder anderen Standardbearbeitungen relevant sein.
3. Emotionserkennung und biometrische Kategorisierung müssen transparent sein
Wer KI-Systeme einsetzt, die Emotionen erkennen oder Menschen anhand biometrischer Merkmale kategorisieren, muss die betroffenen Personen darüber informieren.
Denkbar wäre beispielsweise ein System, das aus Stimme oder Mimik auf Emotionen schließen soll oder Menschen anhand körperlicher Merkmale bestimmten Kategorien zuordnet. So könnte es für Veranstalter z.B. interessant sein, ob eine an Frauen ausgerichtete Werbung die Zielgruppe erreicht hat.
Außer der Kennzeichnung der KI-Verwendung gelten hier selbstverständlich die jeweiligen Datenschutzvorschriften.
4. Für Deepfakes gelten besondere Regeln
Wer künstlich erzeugte oder manipulierte Bild-, Audio- oder Videoinhalte veröffentlicht, die authentisch wirken können, muss grundsätzlich offenlegen, dass es sich um einen Deepfake handelt.
Für Kunst, Satire, Fiktion und vergleichbare Werke sieht die Verordnung Erleichterungen vor. Der Hinweis kann hier so erfolgen, dass die Nutzung oder Wirkung des Werkes nicht unnötig beeinträchtigt wird. Ob da ein „Nicht alles so ernst nehmen, Genossen!“ beim Kanal der „DDR Mondbasis“ genügt?
Und was gilt für KI-generierte Texte?
Für den Wetterbericht besonders interessant ist eine weitere Regelung: KI-generierte oder KI-veränderte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen grundsätzlich als solche offengelegt werden.
Doch genau hier enthält Artikel 50 eine entscheidende Ausnahme.
Eine besondere Offenlegungspflicht besteht nicht, wenn der KI-generierte Text einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung übernimmt.
Das ist ein wichtiger Unterschied. Es macht etwas anderes, ob eine KI selbstständig einen Text erzeugt und dieser ungeprüft veröffentlicht wird oder ob sie lediglich Teil eines redaktionellen Arbeitsprozesses ist.
Eine Redaktion kann zum Beispiel Wetterdaten und eine meteorologische Prognose erhalten, daraus mit Hilfe eines Sprachmodells einen ersten Radiotext formulieren lassen und diesen anschließend fachlich und redaktionell prüfen. Verantwortlich für den ausgestrahlten Wetterbericht bleibt dann der Sender beziehungsweise die Redaktion.
Transparenz heißt also nicht: alles kennzeichnen
Artikel 50 verfolgt nicht das Ziel, überall dort ein KI-Schild anzubringen, wo irgendein Algorithmus beteiligt war.
Die Verordnung setzt vielmehr an Situationen an, in denen Menschen darüber getäuscht werden könnten, ob sie mit einer Maschine oder einem Menschen kommunizieren, beziehungsweise ob ein Inhalt authentisch oder künstlich erzeugt ist.
Hinweise müssen dabei klar, eindeutig, verständlich und barrierefrei zugänglich sein und grundsätzlich spätestens beim ersten Kontakt mit dem System oder Inhalt erfolgen.
Für Organisationen bedeutet das deshalb auch: Nicht nur fragen „Haben wir KI eingesetzt?“, sondern ein genauer Blick:
Welche KI wurde wofür verwendet? Hat sie lediglich Daten analysiert? Hat sie einen Inhalt erzeugt? Wurde dieser Inhalt fachlich geprüft? Und wer übernimmt am Ende die Verantwortung?
Zurück zum Wetterbericht
Damit komme ich wieder zu meinem Wetterbericht im Radio. Die redaktionelle Prüfung ist entscheidend. Werden Ausgangsdaten, Prognose und daraus erzeugter Text von Menschen kontrolliert und übernimmt eine Redaktion die Verantwortung, sieht Artikel 50 für KI-generierte Texte zu Themen von öffentlichem Interesse ausdrücklich eine Ausnahme von der besonderen Offenlegungspflicht vor.
Vielleicht war der Hinweis beim Wetterbericht freiwillig, vielleicht war er rechtlich nötig – etwa wegen einer synthetischen Stimme. Klar wurde das nicht. Genau das ist das Problem: Ein pauschaler Hinweis wie „KI wurde eingesetzt“ kann mehr Fragen aufwerfen, als er beantwortet. Ein Hinweis wofür KI konkret genutzt wurde, hätte deutlich mehr Transparenz geschaffen als das bloße Befolgen einer gesetzlichen Regelung.
Und genau diese Unterscheidung dürfte künftig wichtig werden: Nicht jeder KI-Einsatz braucht einen sichtbaren Hinweis. Entscheidend ist vielmehr, ob transparent bleibt, wie KI eingesetzt wurde und wer für das Ergebnis einsteht.
Hier also noch besonders transparent: bei der folgenden Infografik habe ich die Verordnung gekürzt, meine Fassung von NotebookLM in einfacher Sprache umwandeln lassen. Anschließend habe ich bei verschiedenen KI-Systemen getestet ob eine gute Infografik aus diesem Text entstehen kann. Ganz zufrieden war ich mit keiner Variante, ChatGPT lag aber vorn.
