KI-Agenten und DSGVO: Was Unternehmen jetzt prüfen sollten
KI-Agenten handeln selbstständig, führen Datenquellen zusammen und lösen Aktionen aus. Damit verschiebt sich die datenschutzrechtliche Prüfung, und die Aufsicht richtet 2027 ihren Blick gezielt auf diese Systeme.

Was die Aufsicht zu KI-Agenten ankündigt
Das Bayerische Landesamt für Datenschutzaufsicht (BayLDA) will den Einsatz von KI-Agenten im Jahr 2027 zu einem Schwerpunkt seiner Arbeit machen und dazu eine thematische Prüfreihe durchführen. Die Behörde beschreibt, dass solche Systeme im Unterschied zu klassischen KI-Anwendungen zunehmend eigenständig Informationen verarbeiten, verschiedene Datenquellen zusammenführen und Handlungen ausführen. Die Einordnung dazu hat Dr. Datenschutz veröffentlicht.
Ein eigenes Datenschutzrecht für KI-Agenten gibt es bislang nicht. Es gilt die DSGVO, daneben steht die KI-Verordnung als Produkt- und Marktregulierung, die den Datenschutz nicht ersetzt. Die Fragen der Aufsicht sind vertraut: Zweckbindung, Transparenz, Zugriffsberechtigungen und wirksame menschliche Kontrolle. Den größten Aufwand verursacht die genaue Aufklärung des Sachverhalts.
Warum Agenten die Prüfung verändern
Ein klassisches System beantwortet eine Anfrage und ist damit fertig. Ein Agent zerlegt ein Ziel in Teilschritte, wählt Werkzeuge, ruft Schnittstellen auf, liest Dokumente und schreibt in Systeme. Der Mensch erteilt den Auftrag, überblickt aber nicht mehr jeden einzelnen Verarbeitungsschritt.
Bei herkömmlicher Software lässt sich jeder Datenfluss vorab beschreiben. Bei Agenten entsteht der konkrete Ablauf erst zur Laufzeit, abhängig vom gewählten Weg. Rechtlich muss daher der mögliche Handlungsraum beschrieben werden: welche Datenquellen und Systeme der Agent erreichen kann, welche Berechtigungen er hat und wo seine Grenzen technisch verankert sind.
Welche DSGVO-Pflichten greifen bei KI-Agenten?
Die wesentlichen Prüfpunkte lassen sich ordnen. Die Rechtslage im Einzelfall bleibt Sache der Rechtsberatung. Hier geht es um das, was Unternehmen üblicherweise klären.
- Rollen: Wer über Zweck und Mittel entscheidet, ist Verantwortlicher. Modellanbieter, Plattformbetreiber und einsetzendes Unternehmen können unterschiedliche Rollen haben, auch nebeneinander.
- Zweckbindung: Ein pauschaler Zweck wie Prozessunterstützung genügt nicht, wenn der Agent faktisch Bewerbungen vorsortiert oder Vertragsdaten zusammenführt.
- Rechtsgrundlage: Bei Beschäftigtendaten und besonderen Kategorien personenbezogener Daten ist die Hürde erkennbar höher.
- Transparenz und Betroffenenrechte: Auskunft, Löschung und Berichtigung müssen über alle beteiligten Komponenten umsetzbar sein, auch wenn Daten aus mehreren Quellen stammen.
Besondere Aufmerksamkeit verdient Art. 22 DSGVO. Ein Agent, der Vorschläge erzeugt, bleibt unkritisch, solange eine inhaltliche menschliche Prüfung stattfindet. Werden Entwürfe bei hoher Fallzahl nur noch durchgewinkt, liegt die Entscheidung faktisch beim System, auch wenn formal ein Mensch bestätigt.
Was Unternehmen jetzt prüfen und einrichten sollten
Die typischen Schwachstellen liegen weniger im Modell als in seiner Anbindung. Agenten erben oft die Rechte eines technischen Nutzers und sehen dadurch mehr, als der auftraggebende Mensch sehen dürfte. Gespeicherte Zwischenergebnisse und Vektorindizes sind eigene Verarbeitungen mit eigener Löschfrist, und Protokolle enthalten häufig genau die Daten, die sonst minimiert werden sollen.
- Legen Sie für jeden Agenten Zweck, erlaubte Werkzeuge und Datenquellen schriftlich fest, ebenso was er ausdrücklich nicht tun darf.
- Vergeben Sie ein eng gefasstes Rechtepaket und behandeln Sie den Agenten wie eine Rolle mit zuständiger Fachabteilung und regelmäßiger Überprüfung.
- Klären Sie Speicherorte und Löschfristen für Gedächtnis, Kontext und Protokolle.
- Prüfen Sie jeden Aufruf eines Drittdienstes daraufhin, ob er eine Übermittlung darstellt.
- Behandeln Sie Inhalte aus E-Mails, Dokumenten und Webseiten als mögliche Fremdanweisungen und begrenzen Sie, was der Agent daraufhin tun darf.
- Bewerten Sie die Risiken im Zusammenspiel, denn ein weit berechtigter Agent mit Gedächtnis und Zugriff nach außen legt eine Datenschutz-Folgenabschätzung nahe.
Verzeichnis der Verarbeitungstätigkeiten, Auftragsverarbeitungsverträge und technische Konfiguration müssen dasselbe Bild ergeben. Weichen sie voneinander ab, ist in der Regel die Konfiguration maßgeblich. Mehr zu den Grundlagen finden Sie auf unserer Seite zu DSGVO und KI.
Menschliche Freigaben so einbauen, dass sie wirken
Eine Freigabe schützt nur, wenn sie im Arbeitsalltag leistbar bleibt. Sie sollte an den Stellen stehen, an denen ein Agent in ein System schreibt oder etwas nach außen sendet. Prüfen Sie außerdem, ob die Prüfenden genug Zeit und Information haben, um Vorschläge zu ändern oder abzulehnen, und ob das tatsächlich vorkommt.
Bei souveraen.ai bereiten Agenten und Automationen Aufgaben vor, und alles, was in ein System schreibt, wartet auf eine Freigabe. Die Anbindungen wie SharePoint oder Fileserver arbeiten nur lesend und mit den bestehenden Rechten. Die Plattform gibt es als On Demand mit Hosting in Deutschland oder als On-Premise-Lösung. Ob ein Einsatz Ihre Pflichten erfüllt, bleibt eine Bewertung Ihres Einzelfalls.
Beginnen Sie mit einem Agenten und einem klar umrissenen Zweck, bevor Sie weitere ausrollen. So entsteht die Dokumentation, die eine Prüfung ab 2027 verlangen dürfte, schon im laufenden Betrieb.
Quellen
- KI-Agenten und Datenschutz: Was die DSGVO verlangt, Dr. Datenschutz


