Kostenlos testen

Startseite › Magazin › KI-Verordnung und DSGVO: Was seit der Änderung vom Juli 2026 gilt

KI-Verordnung und DSGVO: Was seit der Änderung vom Juli 2026 gilt

· 8 Minuten Lesezeit · Stand: 8. Oktober 2026

Kurz gesagt: Die KI-Verordnung regelt KI-Systeme nach ihrem Risiko, die DSGVO die Verarbeitung personenbezogener Daten. Beide gelten nebeneinander. Die Pflichten für Hochrisiko-Systeme wurden im Juli 2026 auf Dezember 2027 und August 2028 verschoben. Heute einschlägig sind für die meisten Unternehmen die verbotenen Praktiken, die Förderung der KI-Kompetenz und die Transparenzpflichten. Wer mit KI personenbezogene Daten verarbeitet, muss die DSGVO unabhängig von diesen Fristen schon jetzt vollständig einhalten.

Zwei Gesetze, zwei Fragen

Die KI-Verordnung fragt, was ein KI-System tut und wie riskant das ist. Die DSGVO fragt, ob personenbezogene Daten verarbeitet werden und ob das rechtmäßig geschieht. Ein Sprachmodell, das Kundenanfragen beantwortet, fällt unter beide.

Das Verhältnis ist im Gesetz geregelt: Das Datenschutzrecht der Union gilt für die Verarbeitung personenbezogener Daten im Zusammenhang mit den Rechten und Pflichten der KI-Verordnung, und die KI-Verordnung berührt die DSGVO nicht.⁠[1] Wer die KI-Verordnung einhält, hat damit die DSGVO noch nicht erfüllt, und umgekehrt.

Für die Pflichten kommt es auf die Rolle an. Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt. Betreiber ist, wer ein KI-System in eigener Verantwortung verwendet, außer bei rein persönlicher, nicht beruflicher Tätigkeit.⁠[2] Ein Unternehmen, das einen KI-Dienst für seine Arbeit einsetzt, ist danach Betreiber.

Was die Änderung vom Juli 2026 gebracht hat

Mit der Verordnung (EU) 2026/1744 vom 8. Juli 2026 haben Parlament und Rat die KI-Verordnung geändert.⁠[3] Die Änderung trat am dritten Tag nach der Veröffentlichung im Amtsblatt vom 24. Juli 2026 in Kraft.⁠[4] Die wichtigsten Punkte:

  • Hochrisiko-Pflichten später: Sie gelten für Systeme nach Anhang III ab dem 2. Dezember 2027 und für Systeme nach Anhang I ab dem 2. August 2028.⁠[5]
  • KI-Kompetenz neu gefasst: Anbieter und Betreiber müssen Maßnahmen ergreifen, die die Entwicklung der KI-Kompetenz ihres Personals unterstützen. Ein bestimmtes Niveau müssen sie nicht garantieren.⁠[6]
  • Zwei neue Verbote: KI-Systeme, die realistische Darstellungen intimer Körperteile oder sexueller Handlungen einer bestimmbaren Person ohne deren ausdrückliche Zustimmung erzeugen, und solche, die Darstellungen von sexuellem Missbrauch von Kindern erzeugen.⁠[7]⁠[8] Diese Verbote gelten ab dem 2. Dezember 2026.⁠[9]
  • Besondere Kategorien für die Erkennung von Verzerrungen: Ein neuer Artikel erlaubt die Verarbeitung solcher Daten ausnahmsweise und unter engen Bedingungen (dazu unten).⁠[10]
  • Übergangsfrist für die Kennzeichnung: Anbieter generativer Systeme, die vor dem 2. August 2026 in Verkehr waren, müssen die maschinenlesbare Kennzeichnung ihrer Ausgaben bis zum 2. Dezember 2026 umsetzen.⁠[11]
  • Geldbußen für kleine Midcap-Unternehmen: Für sie gilt bei den mittleren und unteren Bußgeldrahmen der jeweils niedrigere Betrag.⁠[12]

Der Zeitplan

Seit oder abWas giltFundstelle
2. Februar 2025Allgemeine Bestimmungen und verbotene Praktiken, darunter die Pflicht zur KI-KompetenzArt. 113 Abs. 3 Buchst. a⁠[9]
2. August 2025Pflichten für KI-Modelle mit allgemeinem Verwendungszweck, Aufsichtsstruktur, SanktionenArt. 113 Abs. 3 Buchst. b⁠[13]
2. August 2026Allgemeiner Geltungsbeginn, darunter die TransparenzpflichtenArt. 113 Abs. 2⁠[14]
2. Dezember 2026Neue Verbote; Ende der Übergangsfrist für die Kennzeichnung bei älteren generativen SystemenArt. 113 Abs. 3 Buchst. a, Art. 111 Abs. 4
2. Dezember 2027Pflichten für Hochrisiko-Systeme nach Anhang IIIArt. 113 Abs. 3 Buchst. c
2. August 2028Pflichten für Hochrisiko-Systeme nach Anhang IArt. 113 Abs. 3 Buchst. c

Was Betreiber heute trifft

Verbotene Praktiken

Einige Verwendungen sind ganz untersagt. Für Unternehmen sind vor allem drei Verbote von Belang: KI-Systeme, die Menschen mit unterschwelligen oder absichtlich manipulativen Techniken beeinflussen, die Bewertung von Personen anhand ihres sozialen Verhaltens und die Ableitung von Emotionen am Arbeitsplatz und in Bildungseinrichtungen.⁠[15] Jedes dieser Verbote hat eigene Voraussetzungen und zum Teil Ausnahmen; maßgeblich ist der Wortlaut. Verstöße können mit Geldbußen bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes geahndet werden.⁠[16]

KI-Kompetenz

KI-Kompetenz meint die Fähigkeiten, die Kenntnisse und das Verständnis, um KI-Systeme sachkundig einzusetzen und sich ihrer Chancen und Risiken bewusst zu sein.⁠[17] Die Pflicht, ihre Entwicklung beim Personal zu unterstützen, trifft jeden Betreiber, unabhängig vom Risiko des Systems.⁠[6] Unter den Bestimmungen, für deren Verletzung die Verordnung eigene Bußgeldrahmen festlegt, ist diese Vorschrift nicht aufgeführt.⁠[18] Die deutschen Datenschutzaufsichtsbehörden empfehlen unabhängig davon, Beschäftigte durch Schulungen und Leitfäden für den Umgang mit KI-Anwendungen zu sensibilisieren.⁠[19]

Transparenz

Seit dem 2. August 2026 gelten die Transparenzpflichten. Wer ein System anbietet, das direkt mit Menschen interagiert, muss sicherstellen, dass diese darüber informiert werden, sofern es nicht offensichtlich ist.⁠[20] Betreiber müssen offenlegen, wenn Bild-, Ton- oder Videoinhalte ein Deepfake sind. Dasselbe gilt für KI-erzeugte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Diese Pflicht entfällt, wenn der Text von Menschen überprüft oder redaktionell kontrolliert wurde und jemand die redaktionelle Verantwortung trägt.⁠[21] Die Information ist spätestens bei der ersten Interaktion zu geben.⁠[22] Verstöße gegen die Transparenzpflichten fallen in den Bußgeldrahmen bis 15 Millionen Euro oder 3 Prozent des Umsatzes.⁠[23]

Was ab Dezember 2027 hinzukommt

Als Hochrisiko-KI-Systeme gelten unter anderem die in Anhang III genannten Systeme.⁠[24] Für Unternehmen außerhalb regulierter Branchen sind zwei Bereiche besonders häufig: Systeme, die Bewerbungen sichten, filtern oder bewerten oder Entscheidungen über Arbeitsverhältnisse beeinflussen⁠[25], und Systeme zur Kreditwürdigkeitsprüfung natürlicher Personen.⁠[26]

Ein in Anhang III genanntes System gilt nicht als hochriskant, wenn es kein erhebliches Risiko birgt, etwa weil es nur eine eng gefasste Verfahrensaufgabe erledigt oder eine Bewertung vorbereitet. Nimmt es ein Profiling natürlicher Personen vor, gilt es immer als hochriskant.⁠[27]

Betreiber solcher Systeme müssen dann unter anderem:⁠[28]

  • das System nach der Betriebsanleitung verwenden,
  • die menschliche Aufsicht Personen übertragen, die dafür kompetent, ausgebildet und befugt sind,
  • dafür sorgen, dass die Eingabedaten der Zweckbestimmung entsprechen, soweit sie ihrer Kontrolle unterliegen,
  • die automatisch erzeugten Protokolle aufbewahren,
  • als Arbeitgeber die Arbeitnehmervertreter und die betroffenen Arbeitnehmer vorab informieren,
  • Menschen informieren, über die das System Entscheidungen trifft oder vorbereitet.

Für Systeme, die vor dem Geltungsbeginn in Verkehr gebracht oder in Betrieb genommen wurden, gelten diese Regeln nur, wenn sie danach in ihrer Konzeption erheblich verändert werden.⁠[29] Verstöße gegen die Betreiberpflichten fallen in den Rahmen bis 15 Millionen Euro oder 3 Prozent des Umsatzes; bei kleinen und mittleren Unternehmen gilt der jeweils niedrigere Betrag.⁠[30]

Wo die DSGVO schon heute strenger ist

Die Verschiebung betrifft nur die KI-Verordnung. Wer mit einem KI-System personenbezogene Daten verarbeitet, braucht nach der DSGVO schon heute eine Rechtsgrundlage, muss die Betroffenen informieren und die Risiken bewerten. Drei Punkte fallen bei den künftigen Hochrisiko-Fällen besonders ins Gewicht:

  • Keine ausschließlich automatisierte Entscheidung. Entscheidungen mit rechtlicher Wirkung oder ähnlich erheblicher Beeinträchtigung dürfen grundsätzlich nicht allein auf automatisierter Verarbeitung beruhen (Automatisierte Entscheidung im Einzelfall).⁠[31] Eine nur formale Beteiligung eines Menschen genügt nach Auffassung der Datenschutzkonferenz (DSK) nicht.⁠[32]
  • Folgenabschätzung. Die Datenschutz-Folgenabschätzung ist bei voraussichtlich hohem Risiko Pflicht, und die Liste der DSK nennt den Einsatz von KI zur Bewertung persönlicher Aspekte ausdrücklich.⁠[33] Die KI-Verordnung knüpft daran an: Betreiber von Hochrisiko-Systemen nutzen die Informationen des Anbieters für ihre Folgenabschätzung.⁠[34] Mehr dazu im Artikel Datenschutz-Folgenabschätzung für KI-Anwendungen: Wann sie Pflicht ist und wie sie abläuft.
  • Besondere Kategorien. Gesundheitsdaten und andere besondere Kategorien dürfen nur unter den Ausnahmen des Art. 9 Abs. 2 DSGVO verarbeitet werden; das gilt für Eingaben wie für Ausgaben.⁠[35]

Was die DSGVO für den Einsatz von Cloud-KI im Einzelnen verlangt, steht im Artikel Cloud-KI im Unternehmen: Was die DSGVO verlangt.

Besondere Kategorien zur Erkennung von Verzerrungen

Um Verzerrungen in einem System zu erkennen und zu korrigieren, kann es nötig sein, gerade die Merkmale zu verarbeiten, nach denen nicht unterschieden werden soll. Der neue Art. 4a erlaubt das ausnahmsweise, soweit es unbedingt erforderlich ist. Er gilt für Anbieter von Hochrisiko-Systemen und unter zusätzlichen Voraussetzungen auch für Anbieter und Betreiber anderer KI-Systeme.⁠[36] Sechs Bedingungen müssen zusammen erfüllt sein, zusätzlich zu den Anforderungen der DSGVO:⁠[37]

  1. Das Ziel lässt sich mit anderen Daten, auch synthetischen oder anonymisierten, nicht wirksam erreichen.
  2. Die Daten unterliegen technischen Beschränkungen der Weiterverwendung und modernsten Schutzmaßnahmen, einschließlich Pseudonymisierung.
  3. Der Zugriff ist streng kontrolliert und dokumentiert.
  4. Die Daten werden nicht an Dritte weitergegeben.
  5. Sie werden gelöscht, sobald die Verzerrung korrigiert ist oder die Speicherfrist endet.
  6. Das Verzeichnis der Verarbeitungstätigkeiten hält fest, warum die Verarbeitung unbedingt erforderlich war.

Für Betreiber und für Anbieter anderer KI-Systeme begründet die Vorschrift keine Pflicht, Verzerrungen auf diesem Weg zu erkennen und zu korrigieren.⁠[38]

Wer in Deutschland zuständig ist

Deutschland hat die Zuständigkeiten mit dem Gesetz zur Durchführung der KI-Verordnung vom 22. Juli 2026 geregelt. Marktüberwachungsbehörde ist die Bundesnetzagentur, soweit das Gesetz nichts anderes bestimmt; für KI-Systeme im Zusammenhang mit regulierten Finanztätigkeiten ist es die Bundesanstalt für Finanzdienstleistungsaufsicht.⁠[39] Für die Einhaltung der DSGVO bleiben die Datenschutzaufsichtsbehörden zuständig; die KI-Verordnung lässt die DSGVO unberührt.⁠[1] Ein Unternehmen kann es bei demselben KI-Einsatz also mit zwei Behörden zu tun haben.

Fünf Schritte für kleine Unternehmen

  1. Bestand aufnehmen. Welche KI-Anwendungen werden genutzt, auch ohne offizielle Freigabe, und wofür?
  2. Verbote ausschließen. Keine der Anwendungen darf unter die verbotenen Praktiken fallen.
  3. Kompetenz fördern und festhalten. Einweisung, Regeln für Eingaben und Ansprechpartner benennen; aufschreiben, was getan wurde.
  4. Transparenz prüfen. Wo treten Kunden mit einem KI-System in Kontakt, wo werden KI-erzeugte Inhalte veröffentlicht?
  5. Datenschutz jetzt, Hochrisiko rechtzeitig. Die Pflichten der DSGVO sofort erfüllen. Für Personalauswahl und Bonitätsprüfung bis Dezember 2027 klären, ob das eingesetzte System als hochriskant gilt.

Die Schritte sind eine Arbeitshilfe und keine Aufzählung gesetzlicher Pflichten; diese ergeben sich aus den genannten Vorschriften.

Was offen ist

  • Für die Kennzeichnung künstlich erzeugter Inhalte fördert die Kommission Praxisleitfäden; hält sie diese nicht für ausreichend, kann sie gemeinsame Vorschriften erlassen.⁠[40]
  • Die Kommission hat im November 2025 vorgeschlagen, in die DSGVO eine eigene Ausnahme für die Verarbeitung besonderer Kategorien bei Entwicklung und Betrieb von KI-Systemen aufzunehmen.⁠[41] Der Vorschlag ist nicht verabschiedet (Stand Oktober 2026).⁠[42]

Begriffe in diesem Artikel

Quellen

  1. Art. 2 Abs. 7 KI-Verordnung eur-lex.europa.eu
  2. Art. 3 Nr. 3 und 4 KI-Verordnung eur-lex.europa.eu
  3. Verordnung (EU) 2026/1744 vom 8. Juli 2026 (Digital-Omnibus-Verordnung zur KI), ABl. L, 2026/1744, 24.7.2026 eur-lex.europa.eu
  4. Verordnung (EU) 2026/1744 vom 8. Juli 2026 (Digital-Omnibus-Verordnung zur KI), ABl. L, 2026/1744, 24.7.2026, Art. 4 eur-lex.europa.eu
  5. Art. 113 Abs. 3 Buchst. c KI-Verordnung eur-lex.europa.eu
  6. Art. 4 Abs. 1 KI-Verordnung eur-lex.europa.eu
  7. Art. 5 Abs. 1 Buchst. ba und bb KI-Verordnung eur-lex.europa.eu
  8. Verordnung (EU) 2026/1744 vom 8. Juli 2026 (Digital-Omnibus-Verordnung zur KI), ABl. L, 2026/1744, 24.7.2026, Erwägungsgrund 10 eur-lex.europa.eu
  9. Art. 113 Abs. 3 Buchst. a KI-Verordnung eur-lex.europa.eu
  10. Art. 4a KI-Verordnung eur-lex.europa.eu
  11. Art. 111 Abs. 4 KI-Verordnung eur-lex.europa.eu
  12. Art. 99 Abs. 6a KI-Verordnung eur-lex.europa.eu
  13. Art. 113 Abs. 3 Buchst. b KI-Verordnung eur-lex.europa.eu
  14. Art. 113 Abs. 2 KI-Verordnung eur-lex.europa.eu
  15. Art. 5 Abs. 1 Buchst. a, c und f KI-Verordnung eur-lex.europa.eu
  16. Art. 99 Abs. 3 KI-Verordnung eur-lex.europa.eu
  17. Art. 3 Nr. 56 KI-Verordnung eur-lex.europa.eu
  18. Art. 99 Abs. 3 bis 5 KI-Verordnung eur-lex.europa.eu
  19. DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 2.7 datenschutzkonferenz-online.de
  20. Art. 50 Abs. 1 KI-Verordnung eur-lex.europa.eu
  21. Art. 50 Abs. 4 KI-Verordnung eur-lex.europa.eu
  22. Art. 50 Abs. 5 KI-Verordnung eur-lex.europa.eu
  23. Art. 99 Abs. 4 Buchst. g KI-Verordnung eur-lex.europa.eu
  24. Art. 6 Abs. 2 KI-Verordnung eur-lex.europa.eu
  25. Anhang III Nr. 4 KI-Verordnung eur-lex.europa.eu
  26. Anhang III Nr. 5 Buchst. b KI-Verordnung eur-lex.europa.eu
  27. Art. 6 Abs. 3 KI-Verordnung eur-lex.europa.eu
  28. Art. 26 Abs. 1, 2, 4, 6, 7 und 11 KI-Verordnung eur-lex.europa.eu
  29. Art. 111 Abs. 2 KI-Verordnung eur-lex.europa.eu
  30. Art. 99 Abs. 4 Buchst. e und Abs. 6 KI-Verordnung eur-lex.europa.eu
  31. Art. 22 Abs. 1 DSGVO eur-lex.europa.eu
  32. DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 1.6 datenschutzkonferenz-online.de
  33. DSK, Liste der Verarbeitungstätigkeiten, für die eine Datenschutz-Folgenabschätzung durchzuführen ist, Version 1.1 vom 17. Oktober 2018, Nr. 11 datenschutzkonferenz-online.de
  34. Art. 26 Abs. 9 KI-Verordnung eur-lex.europa.eu
  35. DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024, Abschnitt 3.2 datenschutzkonferenz-online.de
  36. Art. 4a Abs. 1 und 2 KI-Verordnung eur-lex.europa.eu
  37. Art. 4a Abs. 1 Buchst. a bis f KI-Verordnung eur-lex.europa.eu
  38. Art. 4a Abs. 2 KI-Verordnung eur-lex.europa.eu
  39. Gesetz zur Durchführung der Verordnung über künstliche Intelligenz vom 22. Juli 2026, BGBl. 2026 I Nr. 223 (Art. 1: KI-Marktüberwachungs- und Innovationsförderungsgesetz), Art. 1 § 2 Abs. 1 und 3 recht.bund.de
  40. Art. 50 Abs. 7 KI-Verordnung eur-lex.europa.eu
  41. Europäische Kommission, Vorschlag für eine Digital-Omnibus-Verordnung, COM(2025) 837 final vom 19. November 2025, Art. 3 Nr. 3 eur-lex.europa.eu
  42. Europäisches Parlament, Legislative Observatory, Verfahren 2025/0360(COD), abgerufen am 8. Oktober 2026 (englisch) oeil.europarl.europa.eu

Weitere Artikel