EU AI Act: Was bleibt, was ist neu, was verschiebt sich?
Veröffentlicht am 20.05.26
Liebe Leserin, lieber Leser,
der EU-Trilog hat sich am 7. Mai 2026 zum AI Omnibus geeinigt. Es standen einige Verschiebungen von Fristen im Raum, aber kurz vor knapp wurde dann doch einiges entschieden – allerdings anders als geplant.
Welchte Punkte sind für Bildungsinstitutionen relevant?
Schauen wir auf Artikel 50 des EU AI Act (KI-Verordnung), der die Transparenzpflichten regelt. Hier bleibt der 02. August maßgeblicher Stichtag, obwohl zwischendurch über eine Verschiebung diskutiert wurde.
Art. 50 der KI-VO regelt u.a. die Transparenzpflichten bei der Interaktion mit KI-Systemen. Wer einen Chatbot einsetzt – etwa als Lernassistent oder im Kundenkontakt –, muss Nutzerinnen und Nutzern deutlich machen, dass sie mit KI interagieren. Die Kennzeichnung muss erfolgen, bevor die betreffende Person mit dem KI-System interagiert oder das KI-generierte Ergebnis wahrnimmt. Die Form des Hinweises sollte dabei klar und unmissverständlich sein.
Außerdem gibt es strenge Vorgaben zur Emotionserkennung und biometrischen Kategorisierung, wobei zu beachten ist, dass die Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen ohnehin verboten ist, sofern sie nicht medizinischen oder sicherheitsrelevanten Zwecken dient.
Bei der Kennzeichnungspflicht gelten zwei Arten: für Maschinen und für Menschen
Die maschinenlesbare Kennzeichnung ist eine Art digitales Wasserzeichen, das in jedem KI-Output steckt. Es ist für Menschen unsichtbar, aber Computer können es auslesen, etwa um automatisch zu erkennen, dass ein Bild von Midjourney stammt. Dafür sind nach Art. 50 Abs. 2 die KI-Anbieter zuständig, also OpenAI, Midjourney und Co. Als Betreiber müssen Sie hier nichts einbauen. Der AI Omnibus hat für Tools, die bereits vor dem 2. August 2026 auf dem Markt waren, eine Übergangsfrist bis zum 2. Dezember 2026 eingeräumt.
Die sichtbare Kennzeichnung ist der Hinweis, den Nutzer und Nutzerinnen tatsächlich erkennen können, wie etwa ein „KI-generiert" unter einem Bild. Diese Pflicht trifft Betreiber, also Unternehmen, die KI einsetzen und nutzen, allerdings aber nur in zwei Konstellationen: bei Deepfakes und bei KI-Texten zu öffentlichen Themen.
Eine pauschale Pflicht, jeden KI-Output sichtbar zu kennzeichnen, kennt der AI Act nicht. Unabhängig davon kann eine freiwillige Kennzeichnung aber sinnvoll sein, etwa aus Gründen der eigenen Glaubwürdigkeit oder wegen Plattformregeln. Praktikabel sind kurze Vermerke wie „Dieser Beitrag wurde mit Unterstützung von KI erstellt", „Bild: KI-generiert (Midjourney)" oder ein gut sichtbarer Hashtag wie #KIgeneriert.
Bei Deepfakes müssen Betreiber offenlegen, dass Bild-, Ton- oder Videoinhalte künstlich erzeugt oder manipuliert wurden. Ein „Deepfake" ist ein durch KI erzeugter oder manipulierter Bild-, Audio- oder Videoinhalt, der existierenden Personen, Objekten, Orten, Einrichtungen oder Ereignissen ähnelt und fälschlicherweise als authentisch erscheinen würde. Eine Täuschungsabsicht ist dabei nicht erforderlich.
Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, gelten Ausnahmen.
Die Definition eines Deepfakes ist bewusst weit gefasst. Sie umfasst nicht nur die Darstellung realer Personen, sondern auch täuschend echt wirkende Bilder, Videos oder Audio-Aufnahmen von fiktiven Menschen, Geschehnissen und Orten, solange sie einer Person fälschlicherweise als echt erscheinen könnten. Der Gesetzgeber geht damit deutlich über den umgangssprachlichen Gebrauch des Begriffs hinaus, der eher vorsätzliche Verfälschungen meint.
Besonders bemerkenswert ist die Ausweitung auf Objekte, Orte und Ereignisse, die erst in der finalen Fassung des AI Act aufgenommen wurde. Damit erfasst die Regulierung gerade auch jene Fälle, in denen das Manipulationspotential KI-generierter Inhalte über die Darstellung von Personen hinausgeht. Ein illustratives Beispiel ist das KI-generierte Bild einer angeblichen Explosion in der Nähe des Pentagon, das im Mai 2023 kurzfristig zu Bewegungen an der New Yorker Börse führte.
Faustregel: Sieht etwas wie etwas Echtes aus, klingt der Inhalt wie etwas Echtes, dann ist er kennzeichnungspflichtig. Ein foto-realistisches Bild oder eine täuschend echte Stimme fallen darunter. Eine erkennbar künstliche Illustration, ein Cartoon-Avatar oder eine offensichtlich synthetische „Roboterstimme" dagegen nicht.
Die Kennzeichnungspflicht gilt auch für KI-generierten Text von öffentlichem Interesse
Muss ich jetzt jeden Text, den ich mit ChatGPT & Co. generiere, kennzeichnen?
Nein, diese Pflicht greift nur bei Texten, die der Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse dienen, also der Kommunikation nach außen.
Diese Pflicht entfällt allerdings, wenn die KI-generierten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und eine natürliche oder juristische Person die redaktionelle Verantwortung trägt. Interne Entwürfe oder Notizen sind ohnehin nicht betroffen. Auch unwesentliche KI-Unterstützung wie Rechtschreibkorrektur muss nicht gekennzeichnet werden.
Hochrisiko-KI: Verschiebung auf Dezember 2027
KI-Systeme, die ein hohes Risiko für Gesundheit, Sicherheit oder Grundrechte darstellen, unterliegen strengen Regeln. Diese sollten ursprünglich im August 2026 in Kraft treten und werden jetzt durch den AI Omnibus auf den 2. Dezember 2027 verschoben.
Für den Bildungsbereich besonders relevant: Als Hochrisiko gelten ggfs. KI-Systeme zur Bewertung von Lernergebnissen, zur Steuerung des Lernprozesses und zur Überwachung von Prüfungsbetrug. Auch im Bereich Personal (z. B. Analyse und Filterung von Bewerbungen) greifen die Hochrisiko-Regeln ebenfalls erst ab Dezember 2027.
Neue Verbote ab Dezember 2026
Ab dem 2. Dezember 26 wird der Umgang mit besonders missbräuchlichen KI-Anwendungen neu geregelt. Verboten werden KI-Systeme, die nicht-einvernehmliche intime Bilder erzeugen oder manipulieren, sowie KI-generiertes Kindesmissbrauchsmaterial.
Was ist jetzt zu tun?
Bis zum 2. August haben Sie noch Zeit, sorgfältig zu prüfen, welche Anforderungen der Transparenzpflicht nach dem EU AI Act für Ihre Einrichtung, Ihren Verband oder Ihre Organisation relevant sind. Vergessen Sie dabei nicht die KI-Agenten und Systeme, die Sie in den vergangenen Monaten oder Jahren gebaut und in Umlauf gebracht haben, und denken Sie auch an Freiberuflerinnen und Freiberufler, die in Ihrem Auftrag tätig sind: Auch sie müssen die relevanten Vorgaben im Blick haben.
Disclaimer: Wir haben den aktuellen Stand hier nach bestem Wissen zusammengefasst. Bitte beachten Sie jedoch, dass wir keine Rechtsberatung leisten und unsere Einschätzung eine juristische Prüfung nicht ersetzen kann. Für verbindliche Auskünfte verweisen wir auf die Veröffentlichungen der jeweils zuständigen nationalen Behörden, insbesondere die Bundesnetzagentur in Deutschland sowie das entsprechende Pendant in Österreich, Digital Austria oder auf den Originaltext zu Art. 50 KI-VO zu den Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme
Sprechen Sie uns an. Wir begleiten Sie mit Workshops, Keynotes, Moderation und Beratung.
Christiane Carstensen, David Röthler und Sonya Dase
von Milenu und Dase & Carstensen
Empfehlen Sie uns gerne weiter …
Den vollständigen Infobrief zu KI für Fach- und Führungskräfte in der Erwachsenenbildung erhalten Sie hier.