KI im Unternehmen 9 Min.

AI Act und DSGVO: Was ein KMU tun muss, das KI nutzt

Ein KMU, das KI nutzt, ist im Sinne des AI Act in der Regel „Betreiber“. Seit 2025 sind ihm bestimmte Anwendungen verboten, und es muss für die KI-Kompetenz seiner Teams sorgen; seit August 2026 muss sich ein Chatbot als solcher zu erkennen geben, sofern das nicht offensichtlich ist. Die DSGVO gilt für alle personenbezogenen Daten, die einem Modell anvertraut werden.

Inhalt11
  1. 01Sind Sie „Betreiber“ oder „Anbieter“ im Sinne des AI Act?
  2. 02Was gilt, und seit wann?
  3. 03Welche KI-Anwendungen sind seit 2025 verboten?
  4. 04Wann wird eine KI-Anwendung „hochriskant“?
  5. 05Muss ein Chatbot sagen, dass er eine KI ist?
  6. 06Was bedeutet „KI-Kompetenz“ für Ihre Teams?
  7. 07Was verlangt die DSGVO bereits, wenn Sie KI nutzen?
  8. 08Die acht Schritte, um KI regelkonform zu nutzen
  9. 09Was riskiert ein KMU, das nichts tut?
  10. 10Wo Sie anfangen
  11. 11Häufige Fragen

Der AI Act richtet sich nicht nur an die Anbieter von Modellen. Ein KMU, das seine Angebote von ChatGPT verfassen lässt oder sein CRM Interessenten bewerten lässt, nutzt KI, und die europäische Verordnung wie die DSGVO erlegen ihm bereits Pflichten auf, meist einige organisatorische Handgriffe.

Dieser Leitfaden aus unserer Rubrik Unternehmens-KI, privat und zum fairen Preis gibt den Stand im Oktober 2026 wieder, auf Grundlage des im Juli 2026 überarbeiteten Textes. Diese Pflichten gehören zu den Regeln, die festzulegen sind, der letzten der fünf Fragen unseres Leitfadens zur Einführung von KI im Unternehmen. Es handelt sich nicht um eine Rechtsberatung: Lassen Sie bei einer sensiblen Anwendung Ihren Fall von Ihrem Datenschutzbeauftragten oder einem Anwalt prüfen.

Kurz gesagt

  • Ihre Pflichten hängen von Ihrer Rolle ab: Wer einen Assistenten entwickeln lässt und unter eigenem Namen betreibt, wird Anbieter, mit zusätzlichen Pflichten.
  • Der Zeitplan: der 2. Februar 2025 für die Verbote und die KI-Kompetenz, der 2. August 2026 für die Transparenz, der 2. Dezember 2027 für das hohe Risiko (Einstellung, Personal, Kredit).
  • Die DSGVO kommt hinzu: Vertrag mit jedem Dienstleister, Verzeichnis, Folgenabschätzung bei hohem Risiko.
  • Ausgangspunkt ist die Bestandsaufnahme Ihrer Anwendungen, einschließlich der Konten, die die Teams selbst eröffnet haben.

Sind Sie „Betreiber“ oder „Anbieter“ im Sinne des AI Act?

Ihre Pflichten hängen von Ihrer Rolle ab. Nach Artikel 3 der KI-Verordnung verwendet der Betreiber ein KI-System in eigener Verantwortung, im beruflichen Rahmen. Ein KMU, das seinen Teams Konten für ChatGPT oder Copilot einrichtet oder die KI seines CRM aktiviert, ist Betreiber.

Der Anbieter entwickelt ein KI-System oder lässt es entwickeln und bringt es unter seinem Namen oder seiner Marke in Verkehr oder nimmt es in Betrieb, ob entgeltlich oder unentgeltlich. Ein KMU, das einen Assistenten entwickeln lässt und unter seinem Namen betreibt, wird damit zu dessen Anbieter, mit zusätzlichen Pflichten.

Ein häufiger Fall ist das Nachtrainieren eines Modells auf Ihren eigenen Daten (Fine-Tuning): Nach den Fragen und Antworten der CNIL, der französischen Datenschutzbehörde, zu generativer KI macht es Sie dafür verantwortlich, auch als Anbieter im Sinne der KI-Verordnung, allerdings nur für dieses Nachtrainieren.

Was gilt, und seit wann?

Die Verordnung (EU) 2024/1689 gilt schrittweise, nach Artikel 113, in der durch die Verordnung (EU) 2026/1744 vom 8. Juli 2026 überarbeiteten Fassung, die die Regeln für das hohe Risiko verschoben hat:

  1. 1. August 2024

    Inkrafttreten der Verordnung.

  2. 2. Februar 2025

    Verbotene Praktiken (Artikel 5) und KI-Kompetenz (Artikel 4), für jedes Unternehmen, das KI nutzt.

  3. 2. August 2025

    Anwendung der Sanktionen.

  4. 2. August 2026

    Transparenz (Artikel 50) von Chatbots, Deepfakes und bestimmten generierten Texten, für ihre Anbieter und Betreiber.

  5. 2. Dezember 2026

    Zwei durch die Überarbeitung hinzugefügte Verbote, zu ohne Einwilligung generierten intimen Bildern und zu Darstellungen sexuellen Kindesmissbrauchs.

  6. 2. Dezember 2027

    Regeln für Hochrisiko-Systeme nach Anhang III, darunter Artikel 26, für Einstellung, Personalverwaltung und Kredit.

  7. 2. August 2028

    Regeln für Hochrisiko-Systeme, die in bereits regulierte Produkte eingebaut sind (Anhang I).

Welche KI-Anwendungen sind seit 2025 verboten?

Artikel 5 listet die verbotenen Praktiken auf. Drei können ein KMU betreffen:

  • die Emotionen seiner Mitarbeitenden am Arbeitsplatz ableiten, außer aus medizinischen oder Sicherheitsgründen: Ein Werkzeug, das die Stimmung Ihrer Vertriebsleute aus ihrer Stimme oder ihrem Gesicht in der Videokonferenz liest, ist verboten;
  • Personen nach ihrem sozialen Verhalten oder ihrer Persönlichkeit bewerten, wenn diese Bewertung dazu führt, dass sie außerhalb des Kontexts, in dem die Daten erhoben wurden, oder unverhältnismäßig benachteiligt werden;
  • eine Person manipulieren oder eine Schwäche aufgrund ihres Alters, einer Behinderung oder ihrer sozialen oder wirtschaftlichen Lage so ausnutzen, dass ihr ein erheblicher Schaden entsteht.

Ein Werkzeug, das eines davon tut, muss abgeschaltet werden, unabhängig von der Größe des Unternehmens.

Wann wird eine KI-Anwendung „hochriskant“?

Das hohe Risiko hängt von der Anwendung ab, nicht vom Werkzeug. Unter den Bereichen in Anhang III der Verordnung betreffen vier ein KMU:

  • die Einstellung: gezielte Stellenanzeigen, Sichtung von Bewerbungen, Bewertung von Bewerbern;
  • die Personalverwaltung: Beförderung, Kündigung, Aufgabenzuweisung, Leistungsüberwachung;
  • die Kreditwürdigkeit oder Bonitätsbewertung einer Person, außer zur Betrugserkennung;
  • die Preisgestaltung von Lebens- und Krankenversicherungen.

Achtung

Artikel 6 sieht Ausnahmen vor, zum Beispiel für eine eng gefasste Verfahrensaufgabe oder eine vorbereitende Aufgabe, aber ein System nach Anhang III, das Profiling von Personen betreibt, gilt immer als hochriskant.

Ab dem 2. Dezember 2027 muss der Betreiber eines Hochrisiko-Systems nach Artikel 26:

  1. es entsprechend seiner Gebrauchsanweisung verwenden;
  2. die menschliche Aufsicht Personen übertragen, die über die nötige Kompetenz, Ausbildung und Befugnis verfügen;
  3. es überwachen, bei Risiken aussetzen und schwerwiegende Vorfälle melden;
  4. die Protokolle des Systems mindestens sechs Monate aufbewahren;
  5. die betroffenen Mitarbeitenden und ihre Vertretungen vor der Nutzung am Arbeitsplatz informieren;
  6. die Personen informieren, die von einer Entscheidung betroffen sind, die es trifft oder zu treffen hilft.

Für Kredit und Versicherung fügt Artikel 27 eine Grundrechte-Folgenabschätzung hinzu. Ein System, das vor diesem Datum in Betrieb ist, ist nur betroffen, wenn seine Konzeption danach erheblich geändert wird (Artikel 111). Die DSGVO regelt diese Entscheidungen bereits durch ihren Artikel 22, der weiter unten vorgestellt wird.

Muss ein Chatbot sagen, dass er eine KI ist?

Ja, seit dem 2. August 2026. Artikel 50 verlangt, dass Personen spätestens bei der ersten Interaktion wissen, dass sie mit einem KI-System interagieren, es sei denn, das ist für eine angemessen informierte, aufmerksame und verständige Person offensichtlich.

Der Text weist diese Pflicht dem Anbieter zu: Wurde Ihr Chatbot für Sie entwickelt und läuft er unter Ihrem Namen, liegt sie bei Ihnen. Beim Werkzeug eines Softwareherstellers ist sie zunächst dessen Pflicht, aber Sie entscheiden, was Ihre Besucher sehen, und eine erste Nachricht, die einen automatischen Assistenten ankündigt, regelt die Frage.

Derselbe Artikel verlangt, dass Deepfakes und bestimmte generierte Texte, die zur Information der Öffentlichkeit veröffentlicht werden, gekennzeichnet werden, außer bei menschlicher Prüfung unter redaktioneller Verantwortung.

Was bedeutet „KI-Kompetenz“ für Ihre Teams?

Das ist die Pflicht, die die meisten KMU betrifft. In seiner im Juli 2026 neu gefassten Version verlangt Artikel 4, Maßnahmen zu ergreifen, um den Aufbau von KI-Kompetenz beim Personal und bei denen zu fördern, die diese Systeme für das Unternehmen nutzen, ohne Verpflichtung, ein bestimmtes Kompetenzniveau einer einzelnen Person zu garantieren. Es ist eine Bemühenspflicht: kein Abschluss, den man verlangen müsste, aber ein Vorgehen, das Sie nachweisen können, und die Kommission soll praktische Beispiele für die Umsetzung veröffentlichen.

Die CNIL erinnert daran, wer dafür einsteht:

Im Allgemeinen ist es die nutzende Organisation, die bei einer falschen Nutzung der KI durch ihr Personal rechtlich haftet.

CNIL, Fragen und Antworten zur Nutzung eines generativen KI-Systems, aus dem Französischen übersetzt

Eine nützliche Schulung umfasst drei Punkte:

  • Ein generatives Modell ist keine Wissensdatenbank: Es erzeugt die wahrscheinlichste Antwort, nicht unbedingt die wahre;
  • bestimmte Daten gehören niemals in einen Dienst für die breite Öffentlichkeit: personenbezogene Daten, Geschäftsgeheimnisse;
  • jede Antwort wird geprüft und nicht unverändert übernommen.

Was verlangt die DSGVO bereits, wenn Sie KI nutzen?

Sobald ein Modell ein personenbezogenes Datum erhält, ist das eine Verarbeitung im Sinne der DSGVO. Drei Artikel aus ihrem Kapitel IV zählen hier:

  • Artikel 28: ein Vertrag mit jedem Dienstleister, der Daten für Sie verarbeitet, einschließlich des Modellanbieters, der auch die Übermittlungen regelt;
  • Artikel 30: ein Eintrag in Ihrem Verzeichnis der Verarbeitungstätigkeiten;
  • Artikel 35: eine Datenschutz-Folgenabschätzung vor jeder Verarbeitung mit hohem Risiko für die Betroffenen.

Artikel 22 regelt zusätzlich die ausschließlich auf einer automatisierten Verarbeitung beruhende Entscheidung, und Kapitel V die Übermittlungen außerhalb der Union.

Die CNIL stellt klar, dass ein Unternehmen, das ein Modell an seine eigene Wissensdatenbank anbindet (RAG), für diese Verarbeitung verantwortlich ist, wenn die Datenbank personenbezogene Daten enthält. Die Funktionsweise wird in RAG für die Dokumente eines Unternehmens erklärt.

Die acht Schritte, um KI regelkonform zu nutzen

  1. Erfassen Sie Ihre Anwendungen

    Vergessen Sie nicht die Konten, die Ihre Teams selbst eröffnet haben, und notieren Sie für jede die Daten, die sie erhält.

  2. Klassifizieren Sie Ihre Daten

    Was zu einem Anbieter gehen darf, was bei Ihnen bleibt. Die Optionen werden in den vier Stufen privater KI verglichen.

  3. Schreiben Sie eine Nutzungsrichtlinie

    Die CNIL empfiehlt eine Richtlinie, die erlaubte und verbotene Nutzungen klar festlegt. Unser Leitfaden zur KI-Governance bietet eine an, die KI-Richtlinie für Unternehmen in fünf Zeilen.

  4. Schulen Sie die Teams

    Halten Sie fest, wer wann geschult wurde.

  5. Regeln Sie Ihre Dienstleister

    Vertrag, Übermittlungen und deaktivierte Weiterverwendung Ihrer Daten, wenn das Angebot es erlaubt.

  6. Führen Sie das Verzeichnis

    Führen Sie auch die Folgenabschätzung durch, wenn sie erforderlich ist, mit Ihrem Datenschutzbeauftragten, falls Sie einen haben.

  7. Informieren Sie die Betroffenen

    Die Besucher Ihres Chatbots und, bei einem am Arbeitsplatz genutzten Hochrisiko-Werkzeug, die Mitarbeitenden und ihre Vertretungen.

  8. Ziehen Sie regelmäßig Bilanz

    Zum Beispiel einmal im Jahr; fragen Sie die Nutzer nach Nutzen und Grenzen des Systems: Die CNIL empfiehlt, ihre Meinung in den ersten Monaten und Jahren der Nutzung einzuholen.

Was riskiert ein KMU, das nichts tut?

Die Sanktionen nach Artikel 99 gelten seit dem 2. August 2025, und ihre Obergrenze hängt vom Verstoß ab:

7 %

des weltweiten Jahresumsatzes oder 35 Millionen Euro: die Obergrenze für eine verbotene Praktik

3 %

des weltweiten Jahresumsatzes oder 15 Millionen Euro: die Obergrenze für einen Verstoß gegen die Pflichten des Betreibers oder die Transparenzpflichten

Quelle: Europäische KI-Verordnung, Artikel 99

Für jeden Verstoß gilt in der Regel der höhere der beiden Beträge, für ein KMU der niedrigere. Der Text sieht auch Verwarnungen und nicht finanzielle Maßnahmen vor, und die Staaten berücksichtigen die Interessen der KMU und ihre wirtschaftliche Lebensfähigkeit.

Die DSGVO hat ihre eigenen Sanktionen, in Frankreich verhängt von der CNIL. Das häufigste Risiko bleibt das, was man nicht sieht: eine Kundendatei, die in ein Konto für die breite Öffentlichkeit eingefügt wird, eine Entscheidung über einen Mitarbeiter, die niemand erklären kann.

Wo Sie anfangen

Die Bestandsaufnahme und die Klassifizierung der Daten kommen zuerst: Sie speisen das Verzeichnis, zeigen, ob sich eine Anwendung dem hohen Risiko nähert, und bereiten die Richtlinie vor. Für Frankreich bündelt die CNIL auf ihrer Seite generative KI in Kleinst- und mittleren Unternehmen nutzen die vier Praxisblätter von France Num, entwickelt mit dem französischen Mittelstandsverband CPME und der CNIL.

Für eine schriftliche Übersicht, was zu welchem Anbieter gehen darf, und an Ihren eigenen Inhalten getestete Modelle sehen Sie sich unser Angebot KI zum fairen Preis an. Bei einer Hochrisiko-Anwendung hat Ihr Datenschutzbeauftragter oder ein Anwalt das letzte Wort.

Häufige Fragen

Ist ein KMU, das nur ChatGPT nutzt, vom AI Act betroffen?

Ja, als Betreiber: Es muss für die KI-Kompetenz der Personen sorgen, die es nutzen, und darf es nicht für eine verbotene Praktik einsetzen. Die Regeln für das hohe Risiko betreffen es nur, wenn es KI zur Einstellung, zur Personalverwaltung oder zur Bonitätsbewertung nutzt. Die DSGVO gilt, sobald ein personenbezogenes Datum eingegeben wird.

Was ändert sich am 2. August 2026?

Die Verordnung wird mit wenigen Ausnahmen insgesamt anwendbar. Für ein KMU ist die Transparenz neu: Ein Chatbot muss sich als solcher zu erkennen geben, sofern das nicht offensichtlich ist, und Deepfakes werden gekennzeichnet. Die Überarbeitung vom Juli 2026 hat dagegen die Regeln für das hohe Risiko nach Anhang III auf den 2. Dezember 2027 verschoben.

Darf man Kundendaten in ChatGPT eingeben?

Nicht mit einem Konto für die breite Öffentlichkeit. Mit einem professionellen Angebot braucht es einen Auftragsverarbeitungsvertrag, geregelte Übermittlungen und, wo möglich, eine deaktivierte Weiterverwendung Ihrer Daten. Die CNIL rät, so weit wie möglich keine personenbezogenen Daten an einen per API genutzten Dienst zu senden, und schreibt, dass ein Betrieb auf eigenen Servern für diese Daten und sensible Dokumente im Allgemeinen sicherer erscheint.

Braucht man eine Datenschutz-Folgenabschätzung, um KI zu nutzen?

Nicht systematisch. Die DSGVO verlangt sie vor einer Verarbeitung mit hohem Risiko, zum Beispiel einer systematischen und umfassenden Bewertung von Personen auf Grundlage einer automatisierten Verarbeitung, die als Basis für Entscheidungen dient, die sie erheblich beeinträchtigen. Ihr Datenschutzbeauftragter, falls vorhanden, muss angehört werden, und bei einem Hochrisiko-System helfen die Informationen des Anbieters bei der Durchführung.

Quellen

  1. Artikel 3 der KI-Verordnung (neuer Tab)ai-act-service-desk.ec.europa.eu
  2. Den Fragen und Antworten der CNIL, der französischen Datenschutzbehörde, zu generativer KI (neuer Tab)cnil.fr
  3. Artikel 113 (neuer Tab)ai-act-service-desk.ec.europa.eu
  4. Artikel 5 (neuer Tab)ai-act-service-desk.ec.europa.eu
  5. Anhang III der Verordnung (neuer Tab)ai-act-service-desk.ec.europa.eu
  6. Artikel 6 (neuer Tab)ai-act-service-desk.ec.europa.eu
  7. Artikel 26 (neuer Tab)ai-act-service-desk.ec.europa.eu
  8. Artikel 50 (neuer Tab)ai-act-service-desk.ec.europa.eu
  9. Artikel 4 (neuer Tab)ai-act-service-desk.ec.europa.eu
  10. Kapitel IV (neuer Tab)cnil.fr
  11. Artikel 22 (neuer Tab)cnil.fr
  12. Kapitel V (neuer Tab)cnil.fr
  13. Artikel 99 (neuer Tab)ai-act-service-desk.ec.europa.eu
  14. Generative KI in Kleinst- und mittleren Unternehmen nutzen (neuer Tab)cnil.fr
Quelle 2

Den Fragen und Antworten der CNIL, der französischen Datenschutzbehörde, zu generativer KI

Auf cnil.fr lesen(neuer Tab)
Quelle 10

Kapitel IV

Auf cnil.fr lesen(neuer Tab)
Quelle 11

Artikel 22

Auf cnil.fr lesen(neuer Tab)
Quelle 14

Generative KI in Kleinst- und mittleren Unternehmen nutzen

Auf cnil.fr lesen(neuer Tab)

Jim · Gründer von Brain Plus AI

Ebenfalls lesenswert zu ki im unternehmen

  • Auswählen und kalkulieren9 Min.

    Private KI im Unternehmen: die vier Stufen der Kontrolle

    Eine „private“ KI ist kein Produkt, sondern ein Grad an Kontrolle über Ihre Daten. Wir unterscheiden vier Stufen, von der unveränderten API bis zum Modell in Ihren eigenen Räumen, und eine einfache Methode, Aufgabe für Aufgabe zu wählen.

  • Einordnen7 Min.

    Automatisierte Entscheidung: Darf KI allein entscheiden?

    Der Algorithmus wäre konsequenter als ein gehetzter Vorgesetzter, doch eine Entscheidung, die ein Leben berührt, muss erklärt und angefochten werden können. Das Recht neigt deutlich zu einer Seite: die beiden Positionen, unsere Meinung und die Regel, die man einführen sollte, ohne auf 2027 zu warten.

  • Verstehen7 Min.

    AI Office: Europa kann KI-Modelle sanktionieren

    Seit dem 2. August 2026 kann die Europäische Kommission von Anbietern von KI-Modellen mit allgemeinem Verwendungszweck Unterlagen verlangen, ihre Modelle bewerten und Geldbußen verhängen. Was diese Befugnisse ändern und was ein Unternehmen, das KI einkauft, von seinem Anbieter verlangen kann.

WhatsApp