KI-Kennzeichnungspflicht nach AI Act Art. 50 - technisch umsetzen

Die KI-Kennzeichnungspflicht steht in Artikel 50 der EU-KI-Verordnung (AI Act) und gilt seit dem 2. August 2026. Sie regelt, wann Menschen erfahren müssen, dass sie mit einer KI sprechen oder KI-erzeugte Inhalte vor sich haben. Der Digital Omnibus (VO (EU) 2026/1744) hat die Hochrisiko-Pflichten verschoben, Art. 50 aber nicht. Für generative Systeme, die schon vor dem 2. August 2026 auf dem Markt waren, gibt es eine Übergangsfrist von vier Monaten: Die maschinenlesbare Kennzeichnung muss bis zum 2. Dezember 2026 nachgerüstet sein.

Die vier Pflichten im Überblick

• Chatbots und Voicebots (Abs. 1): Wer mit einem KI-System interagiert, muss darüber informiert werden, sofern es nicht offensichtlich ist. Das betrifft Website-Chats, KI-Telefonassistenten und KI-Agenten, die mit Kunden schreiben.
• Generierte Inhalte (Abs. 2): Anbieter von Systemen, die Text, Bild, Audio oder Video erzeugen, müssen die Ausgaben maschinenlesbar als KI-erzeugt markieren. Die technische Lösung soll wirksam, interoperabel, belastbar und zuverlässig sein.
• Emotionserkennung und biometrische Kategorisierung (Abs. 3): Betroffene Personen müssen informiert werden.
• Deepfakes und Texte von öffentlichem Interesse (Abs. 4): Wer solche Inhalte veröffentlicht, muss offenlegen, dass sie KI-erzeugt oder manipuliert sind.

Die Information muss spätestens bei der ersten Interaktion klar und eindeutig erfolgen (Abs. 5). Ein festes Format schreibt die Verordnung nicht vor. Die Kommission hat am 20.07.2026 Leitlinien zu Art. 50 angenommen, dazu gibt es einen freiwilligen Code of Practice.

Was „maschinenlesbar kennzeichnen“ technisch heißt

• Metadaten nach C2PA (Content Credentials): Ein offener Standard, der Herkunft und Erzeugung einer Datei signiert in den Metadaten ablegt. Gut für Bilder, Video und Audio. Schwäche: Metadaten gehen beim Kopieren, Screenshot oder Neu-Encodieren leicht verloren.
• Unsichtbare Wasserzeichen: Eine Markierung direkt im Bild-, Audio- oder Videosignal, die Bearbeitung besser übersteht. In der Praxis werden Metadaten und Wasserzeichen kombiniert, weil keine Methode allein alle Fälle abdeckt.
• Text: Hier ist die Technik am wenigsten ausgereift. Üblich sind Kennzeichnung in Metadaten und Auslieferungsformat (z. B. HTML-Attribute, API-Felder) sowie ein Protokoll, welcher Text von welchem Modell stammt.
• Protokoll und Nachweis: Unabhängig vom Verfahren sollte dokumentiert sein, wo in der Pipeline markiert wird und wie das geprüft wird. Das gehört in dieselbe Beobachtung wie LLM-Observability.

Nachrüsten bis 2. Dezember 2026: typische Schritte

1. Inventar: Welche Systeme erzeugen Inhalte oder sprechen mit Menschen? Dazu gehören auch Automatisierungen, die Texte oder Bilder erzeugen und versenden. Ohne Inventar entsteht schnell Shadow AI.
2. Rolle klären: Die Pflicht nach Abs. 2 trifft Anbieter, die Pflichten nach Abs. 3 und 4 Betreiber. Wer ein fremdes Modell in ein eigenes Produkt einbaut, sollte prüfen lassen, welche Rolle er hat.
3. Chatbot-Hinweis einbauen: Ein klarer Satz beim ersten Kontakt, etwa „Sie schreiben mit einem KI-Assistenten“, im Chatfenster und in der Begrüßung von Voicebots.
4. Markierung in die Pipeline: Die Kennzeichnung an der Stelle einbauen, an der Inhalte erzeugt werden, nicht nachträglich von Hand. In Workflows mit n8n oder eigenen Backends ist das ein zusätzlicher Verarbeitungsschritt.
5. Prüfen und dokumentieren: Stichproben, ob die Markierung nach Export und Versand noch vorhanden ist. Ergebnisse festhalten.

Häufiges Missverständnis: die redaktionelle Ausnahme

Oft heißt es, die Kennzeichnung entfalle, sobald ein Mensch den Text geprüft hat. Das steht so nur in Abs. 4: Veröffentlichte KI-Texte zu Angelegenheiten von öffentlichem Interesse müssen nicht gekennzeichnet werden, wenn sie menschlich überprüft oder redaktionell kontrolliert wurden und eine Person die redaktionelle Verantwortung trägt. Die maschinenlesbare Markierung, die Anbieter generativer Systeme nach Abs. 2 einbauen müssen, bleibt davon unberührt.

Aufsicht und Bußgelder

In Deutschland ist die Bundesnetzagentur Marktüberwachungsbehörde für KI (KI-Marktüberwachungsgesetz, in Kraft seit 29.07.2026). Verstöße gegen Art. 50 können mit bis zu 15 Mio. Euro oder 3 % des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist. Für KMU gilt der niedrigere der beiden Werte (Art. 99).

Umsetzung mit Elasticbrains

Wir bauen den Chatbot-Hinweis, die Markierung in Ihre Content-Pipeline und die Prüfung ein, in bestehende Systeme und in neue. Ob und wie stark Ihr Unternehmen betroffen ist, zeigt der EU-AI-Act-Selbstcheck. Für eine vollständige Standortbestimmung: EU-AI-Act-Readiness-Audit. Dieser Eintrag ist eine technische Orientierung, keine Rechtsberatung.