
KI
KI
Der EU AI Act ist die KI-Verordnung der EU, und für einen Betrieb, der Chatbot, WhatsApp-KI oder Telefon-KI einsetzt, zählen heute vor allem zwei Pflichten. Seit Februar 2025 gilt die Pflicht zur KI-Kompetenz deiner Leute, seit Juli 2026 in einer milderen Fassung, seit dem 2. August 2026 muss ein KI-System von Anfang an sagen, dass es eine KI ist, und seitdem wird beides kontrolliert. Die strengen Regeln für Hochrisiko-KI nach Anhang III kommen nach der Änderung vom Juli 2026 erst ab dem 2. Dezember 2027.

Wer in seinem Betrieb Anfragen über WhatsApp, Website-Chat oder Telefon von einer KI beantworten lässt, hat mit dem EU AI Act an ein paar ziemlich handfesten Stellen zu tun. Dazu gehören der Hinweis, dass eine KI spricht, die KI-Kennzeichnungspflicht für Bilder und die KI-Kompetenz deiner Leute. Was davon dich trifft, hängt davon ab, welche Rolle du nach der Verordnung hast und welche Frist gerade läuft. Diese Übersicht hat den Stand vom 21. November 2026. Sie ist meine Einordnung als Praktiker, der solche Systeme baut, und ersetzt keine Rechtsberatung.
Die KI-Verordnung arbeitet nach Risiko. Laut Bundesregierung gelten bei geringem Risiko nur eingeschränkte Transparenz- und Informationspflichten, bei hohem Risiko strenge Vorgaben. Die Daten in der Tabelle stammen aus dem Zeitplan der EU-Kommission, in dem die Änderung vom Juli 2026 schon eingearbeitet ist.
| Seit bzw. ab | Was gilt | Was das für einen Betrieb mit Kunden-KI heißt |
|---|---|---|
| 2. Februar 2025 | Begriffsbestimmungen, KI-Kompetenz (Art. 4), Verbote (Art. 5) | Du förderst das KI-Wissen der Leute, die mit der KI arbeiten |
| 2. August 2026 | Transparenzpflichten (Art. 50), Behörden setzen Verbote, Transparenz und KI-Kompetenz durch | Ab hier kann eine Aufsicht prüfen, ob dein Chatbot sich als KI zu erkennen gibt, eine Übergangsfrist gibt es dafür nicht |
| 2. Dezember 2026 | weitere Verbote nach Art. 5, Frist nach Art. 50 Abs. 2 für ältere KI-Generatoren von Bild, Ton, Video und Text | die Frist gilt nur für Anbieter von Systemen, die schon vor dem 2. August 2026 auf dem Markt waren, für später gestartete Systeme gilt Abs. 2 seit dem 2. August 2026 |
| 2. Dezember 2027 | Regeln für Hochrisiko-KI nach Anhang III | kann dich betreffen, wenn KI bei Bewerbern oder Beschäftigten mitentscheidet, Beschäftigung nennt die Bundesregierung als Beispiel für hohes Risiko |
| 2. August 2028 | Regeln für Hochrisiko-KI in regulierten Produkten nach Anhang I | Hersteller von Produkten wie Spielzeug oder Aufzügen |
In Deutschland ist seit dem 29. Juli 2026 die Bundesnetzagentur Marktüberwachungsbehörde und zentrale Anlaufstelle. Grundlage ist das Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz, das an diesem Tag in Kraft trat. In voll harmonisierten Produktbereichen bleiben die bisherigen Fachaufsichten zuständig, etwa die BaFin für Finanzen. Laut Pressemitteilung richtet die Behörde einen KI-Service-Desk mit einem Online-Werkzeug für eine erste Risikoeinstufung ein, weitere Informationen stehen auf bundesnetzagentur.de/ki.
Mit der Verordnung (EU) 2026/1744 vom 8. Juli 2026, offiziell Digital-Omnibus-Verordnung zur KI, hat die EU ihre eigene KI-Verordnung nachgebessert. Laut EU-Kommission ist die Änderung seit dem 27. Juli 2026 in Kraft. Neben den neuen Hochrisiko-Daten aus der Tabelle betreffen einen Mittelständler zwei Punkte direkt.
Die Verordnung verteilt die Pflichten nach Rollen. Anbieter ist laut Kommission, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in der EU in Verkehr bringt oder in Betrieb nimmt. Betreiber ist, wer ein KI-System unter seiner Aufsicht beruflich einsetzt.
Eine Firma bleibt Betreiber, auch wenn Dienstleister das System in ihrem Auftrag und unter ihrer Verantwortung und Kontrolle betreuen, und die einzelnen Mitarbeiter gelten nicht als eigene Betreiber.
Wer sich einen Chatbot bauen lässt und ihn unter dem eigenen Firmennamen auf die Website stellt, fällt nach dem Wortlaut der Definition unter “entwickeln lassen” und “unter eigenem Namen in Betrieb nehmen” und kann damit selbst als Anbieter gelten. Ob das bei dir so ist, klärt im Zweifel ein Anwalt. Als Anbieter bist du dann selbst dafür verantwortlich, dass der KI-Hinweis eingebaut ist und dass die Inhalte, die das System erzeugt, maschinenlesbar als KI-Inhalte markiert sind.
Artikel 50 Absatz 1 verlangt, dass Menschen erfahren, wenn sie direkt mit einem KI-System sprechen, es sei denn, das ist offensichtlich. Laut Kommission muss der Hinweis von Beginn der ersten Interaktion an kommen, klar erkennbar und barrierefrei. Die Ausnahme “offensichtlich” soll eng ausgelegt werden, gemessen an einer durchschnittlich informierten, aufmerksamen Person.
Die Pflicht gilt für WhatsApp, Telefon und Website gleich, denn die Kommission fragt, ob die KI selbst in einem echten Hin und Her direkt mit einem Menschen kommuniziert. In meinem Anfrage-System stellt sich die KI deshalb zu Beginn auf WhatsApp als KI vor, und mein KI-Telefonassistent sagt es gleich am Anfang des Anrufs. Bei einem KI-Chatbot auf der Website gehört der Satz in die erste Nachricht im Chatfenster, bevor jemand etwas schreibt. Systeme, die nur im Hintergrund arbeiten und keinen direkten Kontakt mit Menschen haben, fallen nicht unter diese Pflicht, zum Beispiel eine Automatisierung, die Rechnungen an die Buchhaltung schickt.
Bei Verstößen gegen Artikel 50 sind laut den Fragen und Antworten der Kommission von 2026 Geldbußen bis 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes möglich.
Für Bilder, Videos und Ton gilt die Kennzeichnung nach Artikel 50 Absatz 4 bei Deepfakes. Die Verordnung meint damit KI-Inhalte, die echten Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlich als echt erscheinen würden. Laut Kommission reicht es dabei, wenn das Dargestellte plausibel existieren könnte, also kann auch ein realistisches Foto ausgedachter Mitarbeiter darunterfallen. Ein KI-Foto, das aussieht wie dein Team vor deiner Werkstatt, braucht den Hinweis, sichtbar oder hörbar und spätestens dann, wenn jemand den Inhalt zum ersten Mal sieht. Die maschinenlesbare Markierung, die der Bildgenerator mitliefert, reicht dafür laut Kommission nicht. Erwartet das Publikum gar nicht, dass ein Inhalt echt ist, wirkt er laut Kommission womöglich nicht fälschlich echt. Bei einer erkennbar gezeichneten Illustration würde ich das so sehen.
Bei Texten ist der Kreis enger. Kennzeichnen musst du KI-Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, sofern niemand sie vor der Veröffentlichung prüft und redaktionell verantwortet. Die Kommission zählt zu diesen Angelegenheiten unter anderem Politik, öffentliche Gesundheit, Umweltschutz und Verbrauchersicherheit. Liest du KI-Entwürfe für Newsletter oder Ratgeber vor dem Veröffentlichen selbst und stehst dafür gerade, dürfte diese Ausnahme greifen. Was genau als menschliche Prüfung zählt, erklärt die Kommission in ihren Fragen und Antworten zu Artikel 50.
Nach der neuen Fassung von Artikel 4 ergreifen Anbieter und Betreiber Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals und anderer Personen zu unterstützen, die in ihrem Auftrag mit den Systemen arbeiten, das können zum Beispiel Freelancer sein. Maßstab sind die Kenntnisse und die Erfahrung der Leute, ihre Ausbildung, der Einsatzkontext und die Menschen, bei denen die KI eingesetzt wird. Kommission und Mitgliedstaaten sollen gerade kleine und mittlere Unternehmen dabei unterstützen. Wer am Telefon die Rückrufe der KI übernimmt, braucht anderes Wissen als jemand, der Marketingtexte mit ChatGPT vorschreibt.
Bei der Einführung zeige ich den Leuten an ihren eigenen Abläufen, was die KI erledigt, wo sie danebenliegen kann und wann ein Mensch übernimmt.
Bevor ich etwas automatisiere, nehme ich bei jedem Kunden den Ablauf auf, und mit genau so einer Aufnahme würde ich auch beim AI Act anfangen. Ich würde die KI-Stellen in deinem Betrieb dabei in drei Gruppen sortieren, solche, die mit Kunden sprechen, solche, die Bilder oder Texte für die Öffentlichkeit erzeugen, und solche, an denen über Menschen entschieden wird. Die ersten beiden Gruppen kannst du mit der Liste oben selbst abarbeiten. Für die dritte ist die Aufnahme die Unterlage, die du zur rechtlichen Prüfung mitnimmst.
Er ist schon in Kraft und wird Stufe für Stufe anwendbar. Laut Zeitplan der EU-Kommission trat er am 1. August 2024 in Kraft, welche Stufe ab wann gilt, steht in der Tabelle im Artikel.
Für jedes Unternehmen, das ein KI-System anbietet oder beruflich einsetzt, egal wie groß es ist, denn die Rollen Anbieter und Betreiber kennen keine Mindestgröße. Ausgenommen ist zum Beispiel die rein private Nutzung, etwa wenn du privat mit einem KI-Bildprogramm Urlaubsfotos bearbeitest.
Verboten sind bestimmte Praktiken aus Artikel 5, laut Bundesregierung zum Beispiel KI zur gezielten Manipulation von Menschen und sogenanntes Social Scoring. Mit dem KI-Omnibus kommen Verbote für KI dazu, die sexuelle Deepfakes echter Personen ohne deren Zustimmung oder Darstellungen von Kindesmissbrauch erzeugt.
Nein. Inhalte, die vor dem 2. August 2026 entstanden sind, müssen laut Kommission nicht rückwirkend gekennzeichnet werden. Die Kommission bittet Betreiber aber, es nach Möglichkeit trotzdem zu tun.
Nein, ein Zertifikat nennt Artikel 4 nicht. Die Kommission will dafür auf ihrer zentralen Informationsplattform praktische Beispiele veröffentlichen, wie Betriebe die Pflicht erfüllen.