DSGVO & KI

„Datenschutz geht hier nicht” – der teuerste Satz im Mittelstand

Das ist selten eine Rechtsauskunft, meistens ein Diskussions-Stopper. Und er kostet doppelt: Du verlierst die Produktivität, die KI bringen würde – und das eigentliche Risiko wächst trotzdem weiter, nur unsichtbar.

Denn wer KI offiziell verbietet, schafft sie nicht ab. Bis zu 30 % der Mitarbeitenden in KMU nutzen KI längst über private Gratis-Accounts für die Arbeit – ohne Vertrag, ohne Kontrolle, oft mit echten Kundendaten. Das ist Schatten-KI, und sie ist das deutlich größere Datenschutzproblem als der sauber eingeführte Business-Zugang. Faustregel: Ist das Tool kostenlos, bist Du das Produkt – Free-Accounts haben keinen AVV und trainieren standardmäßig mit Deinen Eingaben.

Die richtige erste Frage ist deshalb nicht „Dürfen wir KI?”, sondern:

• Welche Daten gehen rein? (Ampel-Logik, siehe unten)
• Welcher Zweck – und nutzt der Anbieter sie für eigene Zwecke?
• Welcher Vertrag (AVV) liegt vor?
• Welche Rolle darf was sehen?
• Wer trägt die Verantwortung für das Ergebnis?

Das ist Risikosteuerung statt Schwarz-Weiß-Verbot – und genau so sieht es der Datenschutz selbst. Der Datenschutzanwalt Dr. Sebastian Kraska (IITR) bringt es auf den Punkt: Das Datenschutzrecht steht dem KI-Einsatz nicht entgegen; die Aufsichtsbehörden benennen selbst die Bedingungen, unter denen er zulässig ist. Datenschutz ist kein Verhinderer – er ist das Regelwerk, mit dem Du KI kontrolliert, dokumentiert und verantwortbar einsetzt.

Die saubere Alternative zur Schatten-KI ist ein geprüfter Business-Tenant. Welche Tarife einen AVV haben und welche nicht, steht in der Tool-Compliance-Matrix →.

Was Du wirklich brauchst

• VVT (Verzeichnis von Verarbeitungstätigkeiten) – Pflicht, ohne Schwellwert in der Praxis (Art. 30 Abs. 5 reicht KMU selten als Ausnahme)
• AVV mit jedem KI-Anbieter, der personenbezogene Daten sieht – Art. 28 DSGVO. Free-Tier ≠ AVV – auch nicht mit Opt-out
• DSB (Datenschutzbeauftragter) – Pflicht ab 20 Personen mit regelmäßiger automatisierter Verarbeitung, oder bei Art. 9-/10-Daten unabhängig von der Größe
• EU-Hosting wo möglich, sonst Standardvertragsklauseln + dokumentierte Risiko-Bewertung (TIA bei US-Anbietern, CLOUD-Act-Exposition)

Die drei formalen Pflichten

„Aber der Server steht in Frankfurt” – warum das wenig schützt

Der Serverstandort ist ein beliebtes Beruhigungsargument – datenschutzrechtlich oft eher Psychologie als Schutz. Bei einem US-Anbieter greift der CLOUD Act ortsunabhängig: Ob das Datum in Frankfurt oder Virginia liegt, ändert wenig, solange der Mutterkonzern US-Recht unterliegt.

Der Standort ist ein Zusatzkriterium – sinnvoll für Datensouveränität und aus politischen Gründen, aber nicht der Schutz selbst. Den liefern drei andere Dinge: ein AVV mit Trainings-Ausschluss, kein Fremd-Training auf Deinen Daten – und Dein Rollen- und Rechtekonzept (nächster Punkt). EU-Hosting, wo möglich: ja. Aber zusätzlich zu den Hausaufgaben, nicht an ihrer Stelle.

Drei-Ampel-Modell für KI-Prompts

Für Ampel 1 gibt es neben „AVV abschließen” noch einen technischen Weg: die Daten so aufbereiten, dass der Anbieter sie gar nicht erst zu sehen bekommt. Wie das aufgebaut ist, wie gut es tatsächlich erkennt und wo es versagt, steht unter Pseudonymisierung & Anonymisierung →. Er ersetzt den AVV nicht, er senkt das Risiko dahinter.

Das wichtigste KI-Prinzip: Die KI erbt Deine Rechte – sie hebelt sie nicht aus

Datenschutz bei KI ist zu großen Teilen das kleine Einmaleins, das Du ohnehin kennst. Der zentrale Satz: Ein KI-System darf nur sehen, was der jeweilige Nutzer ohnehin sehen darf. Das Erforderlichkeitsprinzip und Dein Rollen-/Rechtekonzept gelten weiter – eine Wissensbasis oder ein Agent erbt die Berechtigungen des Nutzers, er umgeht sie nicht.

Bei agentischen Systemen behandelst Du das System wie einen neuen Mitarbeitenden: klare Leitplanken, was es darf (lesen, schreiben, löschen, duplizieren), nachvollziehbare Protokolle – und der Mensch behält die Letztentscheidung. Bei Entscheidungen über Personen ist das sogar Pflicht: Art. 22 DSGVO verbietet die rein automatische Einzelentscheidung mit erheblicher Wirkung. Eine KI, die Bewerbungen selbst absagt, ist die rote Linie; eine KI, die vorsortiert und ein Mensch entscheidet, ist sauber – aber nur, wenn der Mensch wirklich prüft. Wer 500 Vorschläge pro Stunde „durchklickt”, ist kein menschliches Korrektiv im Rechtssinn.

Wie das in Architektur übersetzt wird, steht unter Wissensbasis & RAG → und Automatisierung & Agenten →.

RAG als risikomindernde Maßnahme

Die Datenschutzkonferenz hat RAG im Oktober 2025 ausdrücklich als „risikomindernde Maßnahme” anerkannt (Bezug EDSA 28/2024): kein Training mit Kundendaten, lokaler Betrieb möglich, Quellenangaben, kontrollierbare Zugriffsrechte. Siehe Wissensbasis & RAG.

Reformdebatte 2026 – was sich gerade bewegt, und was nicht

Acht Jahre nach Inkrafttreten ist die Reformdebatte so laut wie nie. Bitkom 2025: 81 % der Unternehmen finden die DSGVO komplizierend, 71 % fordern Lockerungen, 44 % halten Abschaffung für richtig (n=603, ab 20 MA). Politisch gibt es Bewegung: Der Digital Omnibus zur KI-Verordnung wurde am 7. Mai 2026 von Rat und Parlament beschlossen (u. a. Hochrisiko-Fristen auf Dezember 2027 verschoben) – der separate DSGVO-Teil des Digital Omnibus ist dagegen noch nicht abgeschlossen, die Verhandlungen zwischen Mitgliedstaaten und Kommission laufen weiter (Stand 07/2026). Aber:

Was beschlossen wurde, gilt. Was diskutiert wird, gilt nicht.

Solange keine konkrete DSGVO-Reform im Bundesgesetzblatt bzw. EU-Amtsblatt steht, sind VVT, AVV, DSB-Pflichten und alle anderen Vorgaben unverändert anwendbar. Wer auf den „DSGVO-Reset” wartet, fährt ohne Sicherheit. Aktueller Stand der Debatte auf Anfrage im Chat oder direkt zu Lutz.

Datenpanne passiert? Die Stoppuhr läuft

Ein Datenleck mit personenbezogenen Daten ist innerhalb von 72 Stunden an die zuständige Aufsichtsbehörde zu melden (Art. 33). Für KI-Tools relevant: falsch konfigurierter RAG-Index, der Mandantendaten exposiert; Prompt-Logs eines ungeeigneten Tarifs, der im Drittstaat liegt; Mitarbeitende, die versehentlich besondere Kategorien in ein Free-Tier-Tool gestellt haben. Vorbereitung jetzt – nicht erst beim Vorfall: Meldeweg, Rollen, Eskalationskette, Beweissicherungs- Checklist.

Berufsgeheimnis (§ 203 StGB) als rote Linie

Ärzte, Anwälte, Steuerberater, Geistliche, Sozialarbeiter, Berufspsychologen – für sie ist Berufsgeheimnis Strafrecht, nicht nur DSGVO. Ein Verstoß bleibt strafbar, auch wenn ein AVV unterschrieben wurde. Für KI heißt das: nur Self-Hosting oder zertifizierte Branchen-Spezialanbieter (DATEV-KI, medatixx, CGM, Aleph Alpha). Generische US-Hosted-Tools sind hier ausgeschlossen, unabhängig vom Tarif.

Was Du nicht brauchst

Eine „DSGVO-Compliance-Strategie 2027”. Eine Cookie-Banner-Choreografie. Einen 30-seitigen Audit-Bericht mit Schmuck-Lochung. Pragmatisch und schriftlich beim Datenschutzbeauftragten = gut.

Die eigentliche Chance

Das Rennen um die besten KI-Modelle ist entschieden – das gewinnen ein paar Konzerne in Kalifornien. Das Rennen um die saubere Implementierung ist offen, und genau hier ist der deutsche Mittelstand stark: nicht das beste Modell bauen, sondern es am kontrolliertesten und verantwortbarsten einsetzen. Datenschutz ist dabei kein Bremsklotz, sondern Dein Bauplan dafür.