Zum Inhalt springen
Erstgespräch

KI

EU AI Act im Betrieb, welche Pflichten heute gelten und welche noch kommen

Der EU AI Act ist die KI-Verordnung der EU, und für einen Betrieb, der Chatbot, WhatsApp-KI oder Telefon-KI einsetzt, zählen heute vor allem zwei Pflichten. Seit Februar 2025 gilt die Pflicht zur KI-Kompetenz deiner Leute, seit Juli 2026 in einer milderen Fassung, seit dem 2. August 2026 muss ein KI-System von Anfang an sagen, dass es eine KI ist, und seitdem wird beides kontrolliert. Die strengen Regeln für Hochrisiko-KI nach Anhang III kommen nach der Änderung vom Juli 2026 erst ab dem 2. Dezember 2027.

Michael FeikeVeröffentlicht aktualisiert 9 Minuten Lesezeit

Grafik einer lila Sprechblase, an der ein oranges Etikett hängt, als Bild für den Hinweis, dass eine KI spricht.

Wer in seinem Betrieb Anfragen über WhatsApp, Website-Chat oder Telefon von einer KI beantworten lässt, hat mit dem EU AI Act an ein paar ziemlich handfesten Stellen zu tun. Dazu gehören der Hinweis, dass eine KI spricht, die KI-Kennzeichnungspflicht für Bilder und die KI-Kompetenz deiner Leute. Was davon dich trifft, hängt davon ab, welche Rolle du nach der Verordnung hast und welche Frist gerade läuft. Diese Übersicht hat den Stand vom 21. November 2026. Sie ist meine Einordnung als Praktiker, der solche Systeme baut, und ersetzt keine Rechtsberatung.

Welche Frist seit wann gilt

Die KI-Verordnung arbeitet nach Risiko. Laut Bundesregierung gelten bei geringem Risiko nur eingeschränkte Transparenz- und Informationspflichten, bei hohem Risiko strenge Vorgaben. Die Daten in der Tabelle stammen aus dem Zeitplan der EU-Kommission, in dem die Änderung vom Juli 2026 schon eingearbeitet ist.

Seit bzw. ab Was gilt Was das für einen Betrieb mit Kunden-KI heißt
2. Februar 2025 Begriffsbestimmungen, KI-Kompetenz (Art. 4), Verbote (Art. 5) Du förderst das KI-Wissen der Leute, die mit der KI arbeiten
2. August 2026 Transparenzpflichten (Art. 50), Behörden setzen Verbote, Transparenz und KI-Kompetenz durch Ab hier kann eine Aufsicht prüfen, ob dein Chatbot sich als KI zu erkennen gibt, eine Übergangsfrist gibt es dafür nicht
2. Dezember 2026 weitere Verbote nach Art. 5, Frist nach Art. 50 Abs. 2 für ältere KI-Generatoren von Bild, Ton, Video und Text die Frist gilt nur für Anbieter von Systemen, die schon vor dem 2. August 2026 auf dem Markt waren, für später gestartete Systeme gilt Abs. 2 seit dem 2. August 2026
2. Dezember 2027 Regeln für Hochrisiko-KI nach Anhang III kann dich betreffen, wenn KI bei Bewerbern oder Beschäftigten mitentscheidet, Beschäftigung nennt die Bundesregierung als Beispiel für hohes Risiko
2. August 2028 Regeln für Hochrisiko-KI in regulierten Produkten nach Anhang I Hersteller von Produkten wie Spielzeug oder Aufzügen

In Deutschland ist seit dem 29. Juli 2026 die Bundesnetzagentur Marktüberwachungsbehörde und zentrale Anlaufstelle. Grundlage ist das Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz, das an diesem Tag in Kraft trat. In voll harmonisierten Produktbereichen bleiben die bisherigen Fachaufsichten zuständig, etwa die BaFin für Finanzen. Laut Pressemitteilung richtet die Behörde einen KI-Service-Desk mit einem Online-Werkzeug für eine erste Risikoeinstufung ein, weitere Informationen stehen auf bundesnetzagentur.de/ki.

Was der KI-Omnibus im Juli 2026 geändert hat

Mit der Verordnung (EU) 2026/1744 vom 8. Juli 2026, offiziell Digital-Omnibus-Verordnung zur KI, hat die EU ihre eigene KI-Verordnung nachgebessert. Laut EU-Kommission ist die Änderung seit dem 27. Juli 2026 in Kraft. Neben den neuen Hochrisiko-Daten aus der Tabelle betreffen einen Mittelständler zwei Punkte direkt.

  • Artikel 4 zur KI-Kompetenz hat eine neue Fassung. Sie sagt ausdrücklich, dass Anbieter und Betreiber kein bestimmtes Niveau an KI-Kompetenz garantieren müssen.
  • Bei Bußgeldern zählt die Größe. Bei Sanktionen nennt die neue Fassung neben KMU und Start-ups jetzt auch kleine Midcaps, deren Interessen und wirtschaftliches Überleben die Mitgliedstaaten berücksichtigen (Art. 99 Abs. 1). Für kleine Midcaps, eine Größenklasse aus einer EU-Empfehlung von 2025, gilt bei Bußgeldern nach Art. 99 Abs. 4 und 5 außerdem der niedrigere Wert aus fester Summe und Umsatzanteil (Art. 99 Abs. 6a).

Anbieter oder Betreiber, welche Rolle du hast

Die Verordnung verteilt die Pflichten nach Rollen. Anbieter ist laut Kommission, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in der EU in Verkehr bringt oder in Betrieb nimmt. Betreiber ist, wer ein KI-System unter seiner Aufsicht beruflich einsetzt.

Eine Firma bleibt Betreiber, auch wenn Dienstleister das System in ihrem Auftrag und unter ihrer Verantwortung und Kontrolle betreuen, und die einzelnen Mitarbeiter gelten nicht als eigene Betreiber.

Der Anbieter baut das KI-System oder lässt es bauen und baut den KI-Hinweis ein und markiert KI-Inhalte maschinenlesbar, der Betreiber setzt es im Betrieb ein und kennzeichnet Deepfakes, beide fördern die KI-Kompetenz ihrer Leute.

Wer sich einen Chatbot bauen lässt und ihn unter dem eigenen Firmennamen auf die Website stellt, fällt nach dem Wortlaut der Definition unter “entwickeln lassen” und “unter eigenem Namen in Betrieb nehmen” und kann damit selbst als Anbieter gelten. Ob das bei dir so ist, klärt im Zweifel ein Anwalt. Als Anbieter bist du dann selbst dafür verantwortlich, dass der KI-Hinweis eingebaut ist und dass die Inhalte, die das System erzeugt, maschinenlesbar als KI-Inhalte markiert sind.

Der KI-Hinweis bei Chatbot, WhatsApp und Telefon

Artikel 50 Absatz 1 verlangt, dass Menschen erfahren, wenn sie direkt mit einem KI-System sprechen, es sei denn, das ist offensichtlich. Laut Kommission muss der Hinweis von Beginn der ersten Interaktion an kommen, klar erkennbar und barrierefrei. Die Ausnahme “offensichtlich” soll eng ausgelegt werden, gemessen an einer durchschnittlich informierten, aufmerksamen Person.

Animation eines Chats, die erste Nachricht sagt, dass eine KI antwortet, danach folgen Frage und Antwort.

Die Pflicht gilt für WhatsApp, Telefon und Website gleich, denn die Kommission fragt, ob die KI selbst in einem echten Hin und Her direkt mit einem Menschen kommuniziert. In meinem Anfrage-System stellt sich die KI deshalb zu Beginn auf WhatsApp als KI vor, und mein KI-Telefonassistent sagt es gleich am Anfang des Anrufs. Bei einem KI-Chatbot auf der Website gehört der Satz in die erste Nachricht im Chatfenster, bevor jemand etwas schreibt. Systeme, die nur im Hintergrund arbeiten und keinen direkten Kontakt mit Menschen haben, fallen nicht unter diese Pflicht, zum Beispiel eine Automatisierung, die Rechnungen an die Buchhaltung schickt.

Bei Verstößen gegen Artikel 50 sind laut den Fragen und Antworten der Kommission von 2026 Geldbußen bis 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes möglich.

KI-Kennzeichnungspflicht, wann ein Bild oder Text einen Hinweis braucht

Für Bilder, Videos und Ton gilt die Kennzeichnung nach Artikel 50 Absatz 4 bei Deepfakes. Die Verordnung meint damit KI-Inhalte, die echten Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlich als echt erscheinen würden. Laut Kommission reicht es dabei, wenn das Dargestellte plausibel existieren könnte, also kann auch ein realistisches Foto ausgedachter Mitarbeiter darunterfallen. Ein KI-Foto, das aussieht wie dein Team vor deiner Werkstatt, braucht den Hinweis, sichtbar oder hörbar und spätestens dann, wenn jemand den Inhalt zum ersten Mal sieht. Die maschinenlesbare Markierung, die der Bildgenerator mitliefert, reicht dafür laut Kommission nicht. Erwartet das Publikum gar nicht, dass ein Inhalt echt ist, wirkt er laut Kommission womöglich nicht fälschlich echt. Bei einer erkennbar gezeichneten Illustration würde ich das so sehen.

Bei Texten ist der Kreis enger. Kennzeichnen musst du KI-Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, sofern niemand sie vor der Veröffentlichung prüft und redaktionell verantwortet. Die Kommission zählt zu diesen Angelegenheiten unter anderem Politik, öffentliche Gesundheit, Umweltschutz und Verbrauchersicherheit. Liest du KI-Entwürfe für Newsletter oder Ratgeber vor dem Veröffentlichen selbst und stehst dafür gerade, dürfte diese Ausnahme greifen. Was genau als menschliche Prüfung zählt, erklärt die Kommission in ihren Fragen und Antworten zu Artikel 50.

KI-Kompetenz im Team, was Artikel 4 heute verlangt

Nach der neuen Fassung von Artikel 4 ergreifen Anbieter und Betreiber Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals und anderer Personen zu unterstützen, die in ihrem Auftrag mit den Systemen arbeiten, das können zum Beispiel Freelancer sein. Maßstab sind die Kenntnisse und die Erfahrung der Leute, ihre Ausbildung, der Einsatzkontext und die Menschen, bei denen die KI eingesetzt wird. Kommission und Mitgliedstaaten sollen gerade kleine und mittlere Unternehmen dabei unterstützen. Wer am Telefon die Rückrufe der KI übernimmt, braucht anderes Wissen als jemand, der Marketingtexte mit ChatGPT vorschreibt.

Bei der Einführung zeige ich den Leuten an ihren eigenen Abläufen, was die KI erledigt, wo sie danebenliegen kann und wann ein Mensch übernimmt.

Was du jetzt tun kannst

  1. Liste aufstellen. Schreib auf, wo in deinem Betrieb KI läuft, auch ChatGPT im Vertrieb oder ein Übersetzungswerkzeug, und wer sie nutzt.
  2. Rolle klären. Notier bei jedem System, ob du es gekauft, bauen lassen oder selbst gebaut hast und unter wessen Namen es läuft.
  3. Erste Nachricht prüfen. Öffne deinen eigenen Chatbot, ruf deine eigene Nummer an und schau, ob der KI-Hinweis kommt, bevor du selbst etwas sagst.
  4. Bilder und Texte durchgehen. Prüf KI-Bilder auf Website und Social Media, ob jemand sie für ein echtes Foto halten könnte, und kennzeichne diese. Bei KI-Texten für die Öffentlichkeit legst du fest, wer sie vor dem Veröffentlichen liest.
  5. Einweisungen festhalten. Notier, wer im Team zu welchem System wann eingewiesen wurde und worum es ging, dann kannst du bei einer Nachfrage zeigen, was du getan hast.
  6. Hochrisiko vormerken. Trifft die Zeile zum 2. Dezember 2027 auf dich zu, lass das rechtlich prüfen, bevor die Regeln gelten.

Was der AI Act offen lässt und wo meine Systeme Grenzen haben

  • Datenschutz läuft extra. Neben dem KI-Hinweis gehört ein Website-Chatbot in die Datenschutzerklärung, sobald jemand dort personenbezogene Daten eingibt, den genauen Text prüft dein Datenschutzbeauftragter oder Anwalt. Kundendaten würde ich nicht ungeprüft in ChatGPT geben, mit personenbezogenen Daten nur mit Auftragsverarbeitungsvertrag, das klärt ebenfalls dein Datenschutzbeauftragter oder Anwalt. Wo die Daten bei meinen Systemen liegen, hängt vom Setup ab und wird im Projekt vertraglich festgehalten.
  • Das Gespräch über den Auftrag führt ein Mensch. Im Anfrage-System läuft die KI bis zum Termin, ab dann redet ein Mensch. Beim Telefonassistenten bleiben komplizierte Anliegen, Beratung und Fälle mit Fingerspitzengefühl beim Team, und geht ein Anliegen über seine Möglichkeiten, verbindet er weiter oder vereinbart einen Rückruf.
  • Falsche Antworten bleiben möglich. Ganz ausschließen lassen sie sich auch bei meinen Chatbots nicht. Ich stelle die KI so ein, dass sie bei Unsicherheit ans Team abgibt, und passe die Vorgaben an, wenn eine falsche Antwort auffällt.

Wo ich beim AI Act anfangen würde

Bevor ich etwas automatisiere, nehme ich bei jedem Kunden den Ablauf auf, und mit genau so einer Aufnahme würde ich auch beim AI Act anfangen. Ich würde die KI-Stellen in deinem Betrieb dabei in drei Gruppen sortieren, solche, die mit Kunden sprechen, solche, die Bilder oder Texte für die Öffentlichkeit erzeugen, und solche, an denen über Menschen entschieden wird. Die ersten beiden Gruppen kannst du mit der Liste oben selbst abarbeiten. Für die dritte ist die Aufnahme die Unterlage, die du zur rechtlichen Prüfung mitnimmst.

Quellen

Häufige Fragen

Wann tritt der EU AI Act in Kraft?

Er ist schon in Kraft und wird Stufe für Stufe anwendbar. Laut Zeitplan der EU-Kommission trat er am 1. August 2024 in Kraft, welche Stufe ab wann gilt, steht in der Tabelle im Artikel.

Für welche Unternehmen gilt der EU AI Act?

Für jedes Unternehmen, das ein KI-System anbietet oder beruflich einsetzt, egal wie groß es ist, denn die Rollen Anbieter und Betreiber kennen keine Mindestgröße. Ausgenommen ist zum Beispiel die rein private Nutzung, etwa wenn du privat mit einem KI-Bildprogramm Urlaubsfotos bearbeitest.

Was ist laut EU AI Act verboten?

Verboten sind bestimmte Praktiken aus Artikel 5, laut Bundesregierung zum Beispiel KI zur gezielten Manipulation von Menschen und sogenanntes Social Scoring. Mit dem KI-Omnibus kommen Verbote für KI dazu, die sexuelle Deepfakes echter Personen ohne deren Zustimmung oder Darstellungen von Kindesmissbrauch erzeugt.

Muss ich ältere KI-Inhalte nachträglich kennzeichnen?

Nein. Inhalte, die vor dem 2. August 2026 entstanden sind, müssen laut Kommission nicht rückwirkend gekennzeichnet werden. Die Kommission bittet Betreiber aber, es nach Möglichkeit trotzdem zu tun.

Brauche ich für die KI-Kompetenz ein Zertifikat?

Nein, ein Zertifikat nennt Artikel 4 nicht. Die Kommission will dafür auf ihrer zentralen Informationsplattform praktische Beispiele veröffentlichen, wie Betriebe die Pflicht erfüllen.

Passende Artikel