EU AI Act

Was der EU AI Act für Websites bedeutet

Der EU AI Act, die europäische Verordnung über künstliche Intelligenz, regelt den Einsatz von KI-Systemen risikobasiert und stufenweise. Für die meisten Website-Betreiber ist dabei ein einzelner Artikel besonders relevant: Artikel 50 verpflichtet zu bestimmten Transparenz-Hinweisen, wenn KI-Systeme mit Menschen interagieren oder Inhalte erzeugen.

Konkret geht es um zwei Situationen: Erstens, wenn Nutzer mit einem KI-System kommunizieren, etwa einem Chatbot, ohne dass klar ist, dass sie es nicht mit einem Menschen zu tun haben. Zweitens, wenn Inhalte wie Bilder, Audio oder Video durch KI erzeugt oder wesentlich verändert wurden, insbesondere bei sogenannten Deepfakes.

Die Pflicht betrifft in erster Linie den Betreiber der Website, nicht den Hersteller des zugrunde liegenden KI-Modells. Wer ein Sprachmodell in seinen eigenen Chatbot einbindet oder KI-generierte Bilder veröffentlicht, ist selbst für die Kennzeichnung verantwortlich.

Die Rechtsgrundlage: Art. 50 EU AI Act

Der EU AI Act ist am 1. August 2024 in Kraft getreten und gilt seither stufenweise: Verbotene Praktiken waren ab Februar 2025 zu beachten, Pflichten für Allzweck-KI-Modelle ab August 2025. Die Transparenzpflichten aus Artikel 50, die für die meisten Websites relevant sind, werden zum 2. August 2026 anwendbar, also in Kürze.

Artikel 50 verlangt, dass Anbieter und Betreiber bestimmter KI-Systeme Nutzer klar und rechtzeitig informieren: über die Interaktion mit einem KI-System bei Chatbots, und über den künstlichen Ursprung bei generierten oder manipulierten Inhalten. Die genaue Ausgestaltung der Kennzeichnung überlässt die Verordnung teilweise den Mitgliedstaaten und ergänzenden Leitlinien.

Chatbots und generierte Inhalte: was konkret zu kennzeichnen ist

Bei einem Chatbot oder virtuellen Assistenten muss für den Nutzer erkennbar sein, dass er mit einem KI-System spricht, es sei denn, dies ist ohnehin offensichtlich, etwa weil der Kontext eindeutig ist. Ein unauffälliger Hinweis am Anfang des Gesprächs oder eine dauerhafte Kennzeichnung in der Chat-Oberfläche erfüllt diese Pflicht in der Regel.

Deepfakes und generierte Medien

Bei Bildern, Audio- oder Videoinhalten, die durch KI erzeugt oder wesentlich manipuliert wurden und eine reale Person, einen realen Ort oder ein reales Ereignis täuschend echt darstellen, verlangt Artikel 50 eine Kennzeichnung als künstlich erzeugt. Für offensichtlich künstlerische, satirische oder fiktionale Werke gelten Erleichterungen, die aber eng auszulegen sind: Die Kennzeichnung darf den Werkgenuss nicht wesentlich beeinträchtigen, ersetzt aber nicht die Pflicht bei täuschend echten Inhalten.

Der häufigste Irrtum: „Wir sind ja nur ein kleiner Betrieb“

Ein verbreiteter Irrtum ist die Annahme, die Transparenzpflichten aus Artikel 50 richten sich nur an große Tech-Unternehmen oder KI-Hersteller. Tatsächlich treffen sie jeden Betreiber, der ein KI-System einsetzt, unabhängig von Unternehmensgröße: Ein kleiner Onlineshop mit einem eingebundenen Chatbot-Plugin unterliegt derselben Kennzeichnungspflicht wie ein Großkonzern.

Ein zweiter Irrtum betrifft die Ausnahme für künstlerische Werke: Sie wird oft zu weit verstanden. Ein mit KI erstelltes Werbevideo, das eine reale Person imitiert, fällt nicht automatisch unter die Kunst- oder Satire-Ausnahme, nur weil es kreativ gestaltet ist.

Die Rechtslage: Art. 50 EU AI Act

Rechtlich verpflichtet Artikel 50 der Verordnung (EU) 2024/1689 zur Offenlegung, wenn Nutzer mit einem KI-System interagieren, und zur Kennzeichnung KI-generierter oder wesentlich veränderter Inhalte, sofern diese täuschend echt wirken. Die Pflicht wird zum 2. August 2026 anwendbar und betrifft den Betreiber der Website unabhängig von der Unternehmensgröße.

Für die Praxis kommt es auf zwei Fragen an: Setzt die Seite ein KI-System ein, das mit Menschen interagiert, und veröffentlicht sie generierte oder bearbeitete Medieninhalte, die als echt missverstanden werden könnten? Trifft eines von beidem zu, ist eine klare, rechtzeitige Kennzeichnung erforderlich.

So prüft der AppCore Audit die KI-Transparenz

Der AppCore Audit prüft mit der Lösung AIActGuard, ob auf einer Seite eingesetzte Chatbots und erkennbar generierte Inhalte über eine Kennzeichnung verfügen, und macht fehlende Hinweise als konkrete Befunde sichtbar. Die endgültige Einordnung, ob ein bestimmter Inhalt unter die Ausnahmen fällt, bleibt einer juristischen Bewertung vorbehalten.

Bußgeld und Aufsicht: die Folgen

Verstöße gegen die Transparenzpflichten des EU AI Act können von den zuständigen nationalen Marktüberwachungsbehörden geahndet werden. Der EU AI Act sieht ein gestuftes Bußgeld-System vor, dessen Obergrenzen sich nach der Schwere des Verstoßes richten; Verstöße gegen Transparenzpflichten wie Artikel 50 liegen unterhalb der Höchststufe für verbotene Praktiken, können aber dennoch empfindlich ausfallen.

Da die Pflichten aus Artikel 50 erst zum 2. August 2026 anwendbar werden, lohnt sich eine frühzeitige Prüfung: Wer seine Chatbots und generierten Inhalte schon jetzt kennzeichnet, vermeidet Hektik kurz vor dem Stichtag und zeigt zugleich Transparenz gegenüber den eigenen Nutzern.

Die eigene KI-Nutzung transparent machen

Die meisten Lücken bei der KI-Kennzeichnung entstehen, weil Tools nach und nach eingeführt wurden, ohne dass die Transparenzpflicht mitgedacht wurde. Drei Fragen helfen bei der Einordnung. Erstens: Erkennt ein Nutzer sofort, dass er mit einem KI-System spricht, wenn ein Chatbot antwortet? Zweitens: Sind KI-generierte oder bearbeitete Bilder, Audio- oder Videoinhalte klar als solche markiert? Drittens: Könnte einer dieser Inhalte täuschend echt für eine reale Person oder ein reales Ereignis gehalten werden?

Wer diese Fragen ehrlich beantwortet, findet die häufigsten Lücken selbst. Ein Chatbot ohne KI-Hinweis, unmarkierte generierte Bilder und eine zu weit verstandene Kunst-Ausnahme gehören zu den klassischen Fundstellen.

Für Seiten mit mehreren KI-Tools wird der Überblick schnell unübersichtlich, besonders wenn sie über die Zeit hinzugekommen sind. Genau hier setzt der AppCore Audit an: Er prüft die eingesetzten Chatbots und erkennbar generierten Inhalte und macht sichtbar, wo eine Kennzeichnung fehlt.

Transparente KI-Nutzung ist kein Nachteil, sondern stärkt das Vertrauen der eigenen Nutzer. Wer rechtzeitig vor dem 2. August 2026 kennzeichnet, senkt sein Compliance-Risiko und zeigt zugleich, dass er offen mit dem eigenen KI-Einsatz umgeht.