Anleitung
KI-Agenten im Unternehmen: DSGVO und KI-Verordnung der EU
Was DSGVO und KI-Verordnung der EU von einem Unternehmen verlangen, das KI-Agenten betreibt, was jetzt gilt und was 2027 kommt, wohin Ihre Daten gehen und wie Sie einen Agenten bauen, der leichter regelkonform bleibt.
Aktualisiert 2026-09-15
Ein KI-Agent liest Ihre E-Mails, Ihre Tickets und die Nachrichten Ihrer Kunden. Er ruft Ihre Systeme auf und handelt manchmal selbstständig. In der Europäischen Union kommen damit zwei Gesetze ins Spiel: die DSGVO, die bereits vollständig gilt, und die KI-Verordnung, die schrittweise in Kraft tritt.
Dieser Leitfaden zeigt, was beide von einem Unternehmen verlangen, das Agents betreibt, und wie Sie einen Agenten bauen, der leichter mit beiden im Einklang bleibt.
Die KI-Verordnung: was jetzt gilt
Geprüft im September 2026. Dies ist ein praktischer Überblick, keine Rechtsberatung. Bei wichtigen Entscheidungen sprechen Sie mit einem Anwalt oder Ihrem Datenschutzbeauftragten.
Die KI-Verordnung ist 2024 in Kraft getreten und gilt schrittweise. Im Juli 2026 hat der Digital-Omnibus zur KI (Verordnung (EU) 2026/1744) die Fristen für Hochrisiko-Systeme nach hinten verschoben. Der Zeitplan heute:
| Seit bzw. ab | Was gilt |
|---|---|
| Februar 2025 | Verbotene Praktiken im KI-Bereich sind untersagt |
| August 2025 | Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck |
| 2. August 2026 | Transparenzpflichten (Artikel 50) |
| 2. Dezember 2026 | Kennzeichnung KI-generierter Inhalte, für Systeme, die schon vor August 2026 auf dem Markt waren |
| 2. Dezember 2027 | Pflichten für Hochrisiko-KI-Systeme (Anhang III) |
| 2. August 2028 | Pflichten für KI in Produkten, die unter das EU-Produktsicherheitsrecht fallen (Anhang I) |
Transparenz: Das gilt für Sie schon heute
Wenn Menschen mit Ihrem Agenten sprechen, müssen sie wissen, dass sie mit einer KI sprechen, außer es ist offensichtlich. Ein Support-Bot auf Ihrer Website, ein Assistent in WhatsApp, ein Agent, der E-Mails beantwortet: Jeder sollte sagen, was er ist.
Für Inhalte, die Ihr Agent erzeugt, etwa synthetisches Audio, Bilder oder Videos und in manchen Fällen Texte, die zur Information der Öffentlichkeit veröffentlicht werden, gelten eigene Kennzeichnungspflichten.
Ist Ihr Agent ein Hochrisiko-System?
Die meisten geschäftlichen Agents sind es nicht. Ein Agent, der Support-Tickets sortiert, Ihre Tests ausführt, Berichte entwirft oder Fragen zu Ihrem Produkt beantwortet, steht nicht auf der Hochrisiko-Liste.
Das ändert sich, wenn der Agent an Entscheidungen mitwirkt, die das Leben von Menschen prägen. Zu den Hochrisiko-Bereichen gehören:
- Beschäftigung: Lebensläufe sichten, Bewerber einstufen, Leistung bewerten, über Beförderungen oder Kündigungen entscheiden
- Kredit: prüfen, ob eine Person kreditwürdig ist
- Versicherung: Preisgestaltung oder Risikobewertung bei Lebens- und Krankenversicherungen
- Bildung: Zulassung, Benotung, Überwachung von Lernenden bei Prüfungen
- Grundlegende Dienste: Entscheidung über den Zugang zu öffentlichen Leistungen und ähnlichen Diensten
Wenn Ihr Agent in einem dieser Bereiche arbeitet, planen Sie jetzt für Dezember 2027. Risikomanagement, Data Governance, technische Dokumentation, Protokollierung, menschliche Aufsicht und Genauigkeitsanforderungen brauchen alle Zeit für den Aufbau.
Die DSGVO: Ihr Agent verarbeitet personenbezogene Daten
Nichts an einem Agenten ist von der DSGVO ausgenommen. Liest er einen Namen, eine E-Mail-Adresse, eine Telefonnummer oder einen Kundendatensatz, verarbeitet er personenbezogene Daten, und es gelten die üblichen Regeln.
Was das für einen Agenten bedeutet
- Eine Rechtsgrundlage für jede Nutzung. Der Grund, aus dem Sie Kundendaten haben, deckt nicht automatisch ab, sie für einen neuen Zweck an ein KI-Modell zu geben.
- Nur die Daten, die die Aufgabe braucht. Ein Agent, der Fragen zu Rechnungen beantwortet, braucht nicht in jedem Prompt die gesamte Historie des Kunden.
- Ein Auftragsverarbeitungsvertrag (AVV) mit jedem Auftragsverarbeiter. Ihr KI-Modell-Anbieter, Ihr Hosting-Anbieter und Ihre Messaging-Plattform verarbeiten jeweils personenbezogene Daten in Ihrem Auftrag.
- Übermittlungen außerhalb der EU. Erreicht eine Anfrage einen Modell-Anbieter außerhalb der EU, ist das eine internationale Übermittlung und braucht eine gültige Grundlage.
- Eine DSFA bei hohem Risiko. Neue Technologie in großem Umfang, sensible Daten oder systematische Überwachung erfordern in der Regel eine Datenschutz-Folgenabschätzung.
- Menschen bei wichtigen Entscheidungen. Betroffene Personen haben das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung beruhenden Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt.
- Aufbewahrungsregeln für Transkripte und Gedächtnis. Agents speichern Gesprächsprotokolle und Gedächtnisdateien. Diese brauchen eine Aufbewahrungsfrist wie jeder andere Datensatz.
- Betroffenenrechte schließen den Agenten ein. Verlangt jemand Auskunft über seine Daten oder deren Löschung, gehören die Protokolle und das Gedächtnis des Agenten zur Antwort.
Folgen Sie den Daten
Zeichnen Sie zuerst auf, welchen Weg eine einzelne Anfrage nimmt. Für einen Agenten, der Kunden auf WhatsApp antwortet, könnte das so aussehen:
One request, end to end
- The customer sends a messageAnother company
The messaging platform
- It reaches the agentYour hosting, EU
The machine the agent runs on
- A routine request is handled locallyNobody else
A local model on the same machine
- A hard request goes to a cloud modelMay leave the EU
The provider's servers
- The agent acts in your applicationYou
Your application and database
- The conversation is storedNeeds a retention period
Logs and agent memory
Every step with another company in it needs a processing agreement. Every step that can leave the EU needs a transfer basis.
Jede Zeile mit einem anderen Unternehmen braucht einen Auftragsverarbeitungsvertrag (AVV). Jede Zeile außerhalb der EU braucht eine Grundlage für die Übermittlung. Jede Zeile, die Daten speichert, braucht eine Aufbewahrungsfrist.
Designentscheidungen, die Compliance erleichtern
- Lassen Sie zuerst ein lokales Modell die personenbezogenen Daten sehen. Ein kleines Modell auf Ihrem eigenen Rechner kann Anfragen klassifizieren, Felder extrahieren und Namen oder Ausweisnummern entfernen, bevor etwas an ein Cloud-Modell geht.
- Hosten Sie den Agenten in der EU. Der Rechner mit Transkripten, Gedächtnis und Zugangsdaten bleibt unter EU-Recht.
- Wählen Sie API-Bedingungen, die zu Geschäftsdaten passen. Prüfen Sie bei jedem Anbieter die Bedingungen zu Datenspeicherung und Training für die API-Nutzung und ob eine Datenverarbeitung in der EU verfügbar ist.
- Verlangen Sie eine Freigabe für Aktionen mit Folgen. Eine Rechnung senden, einen Datensatz ändern, auf eine Beschwerde antworten: Der Agent bereitet vor, ein Mensch bestätigt.
- Führen Sie einen Audit-Trail. Für jede Aktion: welche Anfrage sie ausgelöst hat, was der Agent entschieden hat, welches Tool er aufgerufen hat, was sich geändert hat und wer sie freigegeben hat.
- Geben Sie dem Agenten beschränkte Zugangsdaten. Wo möglich nur Lesezugriff, begrenzt auf die Systeme, die die Aufgabe braucht, leicht zu widerrufen.
- Lokale KI-Modelle auf dem Mac mini: was bei welcher Speichergröße läuft, zum ersten dieser Punkte
Checkliste
KI-Verordnung
- Nutzer erfahren, wenn sie mit dem Agenten interagieren
- KI-generierte Inhalte sind gekennzeichnet, wo vorgeschrieben
- Sie haben geprüft, ob eine Nutzung in einen Hochrisiko-Bereich fällt
- Falls ja, haben Sie einen Plan für Dezember 2027
GDPR
- Sie wissen, welche personenbezogenen Daten der Agent liest, speichert und sendet
- Jede Nutzung hat eine Rechtsgrundlage
- Mit jedem Auftragsverarbeiter ist ein Auftragsverarbeitungsvertrag (AVV) geschlossen
- Übermittlungen außerhalb der EU sind abgesichert
- Wo das Risiko es erfordert, ist eine DSFA durchgeführt
- Bei Entscheidungen mit erheblichen Auswirkungen ist ein Mensch beteiligt
- Transkripte und Gedächtnis haben eine Aufbewahrungsfrist
- Auskunfts- und Löschanfragen umfassen die Daten des Agenten
Betrieb
- Jede Aktion des Agenten wird protokolliert
- Aktionen mit Folgen brauchen eine Freigabe
- Zugangsdaten sind beschränkt und widerrufbar
- Ihre Datenschutzerklärung nennt die KI-Anbieter, die Sie nutzen
Warum MacDuty
- Gehostet in der EU. Ihr Mac und alles darauf bleiben in der Europäischen Union, betrieben von einem EU-Unternehmen.
- Ein Auftragsverarbeitungsvertrag (AVV) auf Anfrage.
- Ein Kunde pro Mac. Transkripte, Gedächtnis und Zugangsdaten Ihres Agenten liegen auf Hardware, die sonst niemand nutzt.
- Lokale Modelle auf demselben Rechner. Halten Sie Routineanfragen und die personenbezogenen Daten darin von KI-Diensten Dritter fern.
Quellen
Heute auf Lager
Diese stehen jetzt im Rack. Wählen Sie einen, sehen Sie, was dazugehört, und legen Sie Ihr Konto erst bei der Bestellung an.
Racks werden geprüft
Ein eigener Mac mini
Wählen Sie eine Konfiguration. Wenn eine nicht vorrätig ist, hinterlassen Sie Ihre E-Mail, und wir schreiben Ihnen an dem Tag, an dem sie ins Rack kommt.
Jährlich: mindestens 19 % günstiger als monatlich
Als Nächstes