KI-Kennzeichnungspflicht

Regeln für Hochrisiko-Systeme ab 2027

Seit 2. August 2026 müssen bestimmte Inhalte, die mit künstlicher Intelligenz (KI) generiert werden, gekennzeichnet werden. Grundlage dafür ist die europäische KI-Verordnung ("Artificial Intelligence Act" – AI Act), die bereits am 2. August 2024 in Kraft getreten ist und schrittweise umgesetzt wird. Verbote und Pflichten zur Mitarbeiterschulung gelten bereits seit dem Jahr 2025.

Der AI Act verpflichtet Player im privaten (z.B. Unternehmen) und öffentlichen Sektor (z.B. Behörden) und unterscheidet bei den Pflichten zwischen Anbietern, Betreibern/Anwendern, Importeuren und Distributoren. Je nach Risikoeinstufung geht es aktuell darum, Transparenzanforderungen zu erfüllen.

Auch KMU betroffen

Damit sind auch kleine und mittlere Unternehmen (KMU) vom AI Act betroffen, sobald sie KI z.B. bei Chatbots im unmittelbaren Kundenkontakt oder bei der Erstellung bestimmter Inhalte ("begrenztes Risiko") oder (ab 2. Dezember 2027) in sensiblen Anwendungsbereichen, z.B. bei KI-Systemen für Recruiting oder Bonitätsprüfungen ("hohes Risiko") einsetzen.

Das muss jetzt gekennzeichnet werden

Bei begrenztem Risiko gelten Offenlegungs- Kennzeichnungs- und Transparenzpflichten (→ RTR) für

• Deepfakes: "täuschend echt" wirkende, KI-generierte/-manipulierte Bild-, Audio- oder Videoinhalte, die z.B. echten Personen oder Orten ähneln und Usern fälschlicherweise "echt" erscheinen könnten 
• Texte über Themen von öffentlichem Interesse ("KI-Nachrichten"):
  KI-generierte oder -manipulierte Texte, mit dem Ziel, die Öffentlichkeit zu informieren z.B. Nachrichten – sofern diese nicht von Menschen überprüft werden
• KI-Systeme zur unmittelbaren Interaktion mit natürlichen Personen z.B. Chatbots
• Emotionserkennungs- und biometrische Kategorisierungssysteme (soweit nicht verboten)

Das bleibt weiterhin ohne Kennzeichnung

Keine Kennzeichnungspflicht besteht für Inhalte, die mithilfe von KI erstellt werden, etwa für Marketing, z.B. Social Media, oder Websites, solange es sich dabei nicht um bestimmte Inhalte ("begrenztes Risiko") handelt (oder Verbote). Weiterhin erlaubt ist auch, KI-Tools ohne Kennzeichnungspflicht für betriebliche Prozesse wie z.B. Terminplanung, Angebotserstellung einzusetzen.

Risikoeinstufung – Was gilt wann?

KI-Anwendungen werden durch den AI ACT je nach Risikopotenzial in unterschiedliche Risikokategorien eingestuft. Daraus ergeben sich zeitlich gestaffelt (→ RTR) Pflichten, Auflagen oder Verbote:

• begrenztes Risiko
  Kennzeichnungspflicht seit 2. August 2026 (z.B. bei KI-Chatbots oder bestimmten KI-generierten Inhalten)
• hohes Risiko
  strenge Auflagen (insbesondere umfassendes Risikomanagement, Datenqualitätsprüfung und Kontrolle). 
  • für eigenständige KI-Systeme ab 2. Dezember 2027 (z.B. bei Ranking-Tools von Lebensläufen in Bewerbungsverfahren) und 
  • für in Produkte eingebettete Hochrisiko-KI-Systeme ab 2. August 2028 (z.B. Maschinen, Medizinprodukte)
• inakzeptables Risiko
  Verbote bereits seit 2. Februar 2025, für Systeme wie z.B. biometrische Kategorisierungssysteme, die sensible Merkmale wie politische oder religiöse Überzeugungen, sexuelle Orientierung oder ethnische Zugehörigkeit ableiten

Weiterführende Links

• AI Act – Die KI-Verordnung der EU (→ WKO)
• WU-Report "Austrias AI workforce 2026": Österreichs KI-Stärke kommt nicht in den heimischen Unternehmen an (→ WU)