KI-Agenten und DSGVO: Was Unternehmen jetzt prüfen sollten

KI-Agenten handeln selbstständig, führen Datenquellen zusammen und lösen Aktionen aus. Damit verschiebt sich die datenschutzrechtliche Prüfung, und die Aufsicht richtet 2027 ihren Blick gezielt auf diese Systeme.

Klaus Bauer4 Min. Lesezeit

Illustration: Ein aufziehbarer Spielzeugwagen mit Werkzeugkasten rollt auf eine Schranke zu, die ein Hebel neben dem Gleis öffnen kann.

Was die Aufsicht zu KI-Agenten ankündigt

Das Bayerische Landesamt für Datenschutzaufsicht (BayLDA) will den Einsatz von KI-Agenten im Jahr 2027 zu einem Schwerpunkt seiner Arbeit machen und dazu eine thematische Prüfreihe durchführen. Die Behörde beschreibt, dass solche Systeme im Unterschied zu klassischen KI-Anwendungen zunehmend eigenständig Informationen verarbeiten, verschiedene Datenquellen zusammenführen und Handlungen ausführen. Die Einordnung dazu hat Dr. Datenschutz veröffentlicht.

Ein eigenes Datenschutzrecht für KI-Agenten gibt es bislang nicht. Es gilt die DSGVO, daneben steht die KI-Verordnung als Produkt- und Marktregulierung, die den Datenschutz nicht ersetzt. Die Fragen der Aufsicht sind vertraut: Zweckbindung, Transparenz, Zugriffsberechtigungen und wirksame menschliche Kontrolle. Den größten Aufwand verursacht die genaue Aufklärung des Sachverhalts.

Warum Agenten die Prüfung verändern

Ein klassisches System beantwortet eine Anfrage und ist damit fertig. Ein Agent zerlegt ein Ziel in Teilschritte, wählt Werkzeuge, ruft Schnittstellen auf, liest Dokumente und schreibt in Systeme. Der Mensch erteilt den Auftrag, überblickt aber nicht mehr jeden einzelnen Verarbeitungsschritt.

Bei herkömmlicher Software lässt sich jeder Datenfluss vorab beschreiben. Bei Agenten entsteht der konkrete Ablauf erst zur Laufzeit, abhängig vom gewählten Weg. Rechtlich muss daher der mögliche Handlungsraum beschrieben werden: welche Datenquellen und Systeme der Agent erreichen kann, welche Berechtigungen er hat und wo seine Grenzen technisch verankert sind.

Welche DSGVO-Pflichten greifen bei KI-Agenten?

Die wesentlichen Prüfpunkte lassen sich ordnen. Die Rechtslage im Einzelfall bleibt Sache der Rechtsberatung. Hier geht es um das, was Unternehmen üblicherweise klären.

  • Rollen: Wer über Zweck und Mittel entscheidet, ist Verantwortlicher. Modellanbieter, Plattformbetreiber und einsetzendes Unternehmen können unterschiedliche Rollen haben, auch nebeneinander.
  • Zweckbindung: Ein pauschaler Zweck wie Prozessunterstützung genügt nicht, wenn der Agent faktisch Bewerbungen vorsortiert oder Vertragsdaten zusammenführt.
  • Rechtsgrundlage: Bei Beschäftigtendaten und besonderen Kategorien personenbezogener Daten ist die Hürde erkennbar höher.
  • Transparenz und Betroffenenrechte: Auskunft, Löschung und Berichtigung müssen über alle beteiligten Komponenten umsetzbar sein, auch wenn Daten aus mehreren Quellen stammen.

Besondere Aufmerksamkeit verdient Art. 22 DSGVO. Ein Agent, der Vorschläge erzeugt, bleibt unkritisch, solange eine inhaltliche menschliche Prüfung stattfindet. Werden Entwürfe bei hoher Fallzahl nur noch durchgewinkt, liegt die Entscheidung faktisch beim System, auch wenn formal ein Mensch bestätigt.

Was Unternehmen jetzt prüfen und einrichten sollten

Die typischen Schwachstellen liegen weniger im Modell als in seiner Anbindung. Agenten erben oft die Rechte eines technischen Nutzers und sehen dadurch mehr, als der auftraggebende Mensch sehen dürfte. Gespeicherte Zwischenergebnisse und Vektorindizes sind eigene Verarbeitungen mit eigener Löschfrist, und Protokolle enthalten häufig genau die Daten, die sonst minimiert werden sollen.

  1. Legen Sie für jeden Agenten Zweck, erlaubte Werkzeuge und Datenquellen schriftlich fest, ebenso was er ausdrücklich nicht tun darf.
  2. Vergeben Sie ein eng gefasstes Rechtepaket und behandeln Sie den Agenten wie eine Rolle mit zuständiger Fachabteilung und regelmäßiger Überprüfung.
  3. Klären Sie Speicherorte und Löschfristen für Gedächtnis, Kontext und Protokolle.
  4. Prüfen Sie jeden Aufruf eines Drittdienstes daraufhin, ob er eine Übermittlung darstellt.
  5. Behandeln Sie Inhalte aus E-Mails, Dokumenten und Webseiten als mögliche Fremdanweisungen und begrenzen Sie, was der Agent daraufhin tun darf.
  6. Bewerten Sie die Risiken im Zusammenspiel, denn ein weit berechtigter Agent mit Gedächtnis und Zugriff nach außen legt eine Datenschutz-Folgenabschätzung nahe.

Verzeichnis der Verarbeitungstätigkeiten, Auftragsverarbeitungsverträge und technische Konfiguration müssen dasselbe Bild ergeben. Weichen sie voneinander ab, ist in der Regel die Konfiguration maßgeblich. Mehr zu den Grundlagen finden Sie auf unserer Seite zu DSGVO und KI.

Menschliche Freigaben so einbauen, dass sie wirken

Eine Freigabe schützt nur, wenn sie im Arbeitsalltag leistbar bleibt. Sie sollte an den Stellen stehen, an denen ein Agent in ein System schreibt oder etwas nach außen sendet. Prüfen Sie außerdem, ob die Prüfenden genug Zeit und Information haben, um Vorschläge zu ändern oder abzulehnen, und ob das tatsächlich vorkommt.

Bei souveraen.ai bereiten Agenten und Automationen Aufgaben vor, und alles, was in ein System schreibt, wartet auf eine Freigabe. Die Anbindungen wie SharePoint oder Fileserver arbeiten nur lesend und mit den bestehenden Rechten. Die Plattform gibt es als On Demand mit Hosting in Deutschland oder als On-Premise-Lösung. Ob ein Einsatz Ihre Pflichten erfüllt, bleibt eine Bewertung Ihres Einzelfalls.

Beginnen Sie mit einem Agenten und einem klar umrissenen Zweck, bevor Sie weitere ausrollen. So entsteht die Dokumentation, die eine Prüfung ab 2027 verlangen dürfte, schon im laufenden Betrieb.

Quellen

Weitere Beiträge

Alle Beiträge

KI-API-Zugänge bei Resellern: Was die Dragos-Tests zeigen

Sicherheitsforscher von Dragos haben mit rund zwei Millionen Testanfragen gezeigt, dass Zwischenhändler und kompromittierte Anbieter Anfragen an KI-Modelle mitlesen. Wer KI per Schnittstelle nutzt, sollte daher klären, über wen die eigenen Daten tatsächlich laufen.

Datenschutz4 Min.

Text Generation Inference mit Docker selbst betreiben

Mit Text Generation Inference betreiben Sie ein offenes Sprachmodell als Container auf einem eigenen Server. Anfragen bleiben im Firmennetz, sodass keine Texte an einen Cloud-Anbieter gehen.

Anleitung4 Min.

Haftung bei Cloud-Ausfall: Wer trägt das Risiko?

Der Ausfall von Exchange Online und Outlook am 12. November 2026 dauerte etwa 36 Stunden und traf viele Betriebe. Wer dafür einstehen muss, betrifft jede Firma, die Cloud- und KI-Dienste nutzt.

Regulierung4 Min.

Testen Sie es mit Ihren eigenen Dokumenten.

3 Tage kostenlos, danach ab 24,90 € je Nutzer und Monat. Monatlich kündbar.

3 Tage kostenlos, danach ab 24,90 € je Nutzer und Monat.3 Tage kostenlos
3 Tage kostenlos testen