01
Einordnung
Was „DSGVO-konform“ bei einem Chatbot bedeutet
Die Datenschutz-Grundverordnung bewertet keine Produktkategorie pauschal. Die einsetzende Organisation muss den konkreten Zweck, die Rechtsgrundlage, die erforderlichen Daten und die Risiken ihres Einsatzes bestimmen.
Regelmäßig legt die einsetzende Organisation Zweck und Einsatz fest und bleibt Verantwortliche. SQUIRREL & NUTS digital verarbeitet die für civolve beauftragten Daten nach dokumentierten Weisungen auf Grundlage eines AVV. Abweichende Rollen müssen für den konkreten Prozess gesondert geprüft werden.
Prüfrahmen
Die 12-Punkte-Checkliste
Jeder Punkt braucht eine verantwortliche Person und einen belastbaren Nachweis.
- 01
Zweck, Zielgruppe und Rechtsgrundlage des konkreten Chatbot-Einsatzes bestimmen.
- 02
Verantwortliche, Auftragsverarbeiter und Weisungsgrenzen eindeutig festlegen.
- 03
Datenarten einschließlich besonderer Kategorien und vermeidbarer Freitextdaten erfassen.
- 04
AVV, TOM, Subprozessoren und tatsächliche Verarbeitungsstandorte prüfen.
- 05
Den kompletten Datenfluss für Anfrage, Quellen, Antwort, Logs und Backups nachvollziehen.
- 06
Trainingsnutzung, Moderationsausnahmen und Aufbewahrung bei KI-Diensten vertraglich klären.
- 07
Quellenfreigabe, Grenzen der Quellenauswahl und Verhalten bei fehlenden Belegen testen.
- 08
KI-Hinweis, menschliche Kontrolle und Eskalationsweg passend zum Einsatz gestalten.
- 09
Rollen, Rechte, Mandantentrennung und administrative Zugriffe prüfen.
- 10
Transport-, Speicher-, Protokollierungs- und Incident-Maßnahmen belegen.
- 11
Export, aktive Löschung, Backup-Rotation und gesetzliche Aufbewahrung trennen.
- 12
Vor dem Start einen realen Abnahmetest durchführen und Änderungen regelmäßig neu prüfen.
Rollenmodell
Verantwortung folgt der tatsächlichen Entscheidung
Verantwortliche Organisation
Bestimmt Zweck, Zielgruppe, Rechtsgrundlage, Quellen, Einsatzgrenzen und Freigabe des Chatbots. Sie prüft außerdem, ob eine Datenschutz-Folgenabschätzung erforderlich ist.
Auftragsverarbeitung
Im beschriebenen Rollenmodell verarbeitet SQUIRREL & NUTS digital beauftragte Daten für civolve nach Weisung. AVV, TOM, Subprozessoren sowie Lösch- und Exportwege müssen vor dem produktiven Einsatz prüfbar sein.
Unterauftragsverarbeiter
Jeder tatsächlich genutzte Dienst braucht einen belegten Zweck, Datenumfang, Standort, Vertrag, Aufbewahrungsweg und ein aktuelles Prüfdatum. Marketingaussagen des Anbieters allein genügen nicht.
Datenfluss
Vom freigegebenen Wissen zur belegten Antwort
- 1
Eine Organisation gibt Wissensquellen für einen bestimmten Chatbot frei.
- 2
Eine Person stellt eine Anfrage; civolve ordnet sie dem richtigen Mandanten und Chatbot zu.
- 3
civolve wählt passende Auszüge aus den freigegebenen Quellen aus.
- 4
Kund:innen-Inhalte und Chatbot-Anfragen werden innerhalb der EU verarbeitet: Hosting in Deutschland, Sprachmodell-Verarbeitung über Mistral in Paris.
- 5
Die Antwort wird mit Quellenbezug ausgegeben. Fehlende Belege werden nicht durch erfundene Quellen ersetzt.
- 6
Notwendige Betriebs-, Sicherheits- und Abrechnungsdaten folgen dokumentierten Rollen und Fristen.
Der Ablauf zeigt die Verarbeitung vom freigegebenen Wissensbestand bis zur quellengebundenen Antwort.
Anbieterprüfung
Zehn Fragen vor jeder Freigabe
- Welcher Rechtsträger verarbeitet welche Daten zu welchem Zweck?
- Wo finden Verarbeitung, Speicherung, Replikation, Failover und Support tatsächlich statt?
- Deckt der AVV alle genutzten Funktionen und Modelle ab?
- Welche Subprozessoren sind für den konkreten Dienst aktiv?
- Sind Drittlandzugriffe technisch und vertraglich ausgeschlossen oder rechtlich bewertet?
- Sind Training, Modellverbesserung, Feedback, Moderation und Support getrennt geregelt?
- Welche Eingaben, Ausgaben und Metadaten werden wie lange gespeichert?
- Wie funktionieren aktive Löschung, Backup-Rotation und Legal Hold?
- Welche Schutzmaßnahmen gelten für Transport, Speicherung, Rollen und Vorfälle?
- Wann wurden Vertrag, Konfiguration und realer Datenfluss zuletzt geprüft?
Stand
Verarbeitungspartner und Standorte
Stand: Juli 2026.
| Anbieter | Zweck und Daten | Ort und Beleg |
|---|---|---|
| Hetzner | Anwendung, Datenbank und Suchindex in der selbst betriebenen Docker-Umgebung Konten, Konfiguration, Kund:innen-Inhalte und Suchindex | Deutschland Datenschutz bei HetznerGeprüft am 20.07.2026 |
| Hetzner Object Storage | Aktive Dokumentobjekte Freigegebene Dokumente und zugehörige Objektmetadaten | Deutschland Datenschutz bei HetznerGeprüft am 20.07.2026 |
| IONOS Object Storage | Verschlüsselte unabhängige Offsite-Sicherungen Verschlüsselte Backup-Objekte | Berlin, eu-central-3 IONOS Regionen und Object StorageGeprüft am 20.07.2026 |
| Mistral AI | Verarbeitung von Anfrage und ausgewählten Quellen-Auszügen für KI-Funktionen Anfrage, ausgewählte Auszüge sowie erforderliche technische Metadaten | Paris, EU Regionale Inferenz bei MistralGeprüft am 20.07.2026 |
| rapidmail | Transaktions- und Produktkommunikation Empfängeradresse, Versandinhalt und technische Zustelldaten | Deutschland Standort- und ISO-Hinweis von rapidmailGeprüft am 20.07.2026 |
Löschung und Aufbewahrung
Fristen werden nach Datenklasse und Zweck getrennt
Aktive Daten
Export und aktive Löschung folgen dem versionierten Lösch- und Exportkonzept.
Offsite-Backups
Clientseitig verschlüsselte Sicherungen werden mit 35 Tagen Compliance Object Lock geschützt und anschließend per Lifecycle-Regel gelöscht.
Sicherheits- und Audit-Ereignisse
Sicherheits- und Audit-Ereignisse werden ereignisbezogen höchstens 365 Tage aufbewahrt. Danach wird gelöscht, sofern keine dokumentierte gesetzliche Aufbewahrung oder ein Legal Hold greift.
Missbrauchsprüfung
Automatisch erkannter Missbrauchsvolltext ist auf autorisierte Prüfung und höchstens 90 Tage begrenzt, vom Training ausgeschlossen und danach zu löschen.
Quellenkontrolle
Quellengebundene Antworten mit sichtbaren Belegen
civolve baut Antworten aus den freigegebenen Wissensquellen auf, macht verwendete Belege sichtbar und kennzeichnet fehlende Grundlagen.
Quellenauswahl, Mandantentrennung, Zitationen und Lückenverhalten werden im Produktpfad kontrolliert. Das ist keine Garantie, dass jede generierte Formulierung sachlich oder rechtlich richtig ist.
EU-KI-Verordnung
Transparenz und menschliche Kontrolle hängen vom Einsatz ab
Menschen müssen klar erkennen, wenn sie mit einem civolve-Chatbot interagieren. Der Hinweis erfolgt spätestens bei der ersten Interaktion und ersetzt weder Datenschutzinformationen noch die inhaltliche Verantwortung der einsetzenden Organisation.
Beim Anfrage-Agenten erstellt civolve einen Entwurf; die Organisation prüft und gibt ihn frei. Öffentliche Chatbots geben Antworten direkt aus. Neue oder geänderte öffentliche Einsätze brauchen deshalb getestete Quellen, Grenzen, Eskalation, Transparenz und Betriebsregeln.
Art. 50 AI Act gilt grundsätzlich ab dem 2. August 2026. Weitere Pflichten hängen vom System, der Rolle und dem konkreten Einsatz ab. Dieser Leitfaden nimmt keine pauschale Risikoklassifizierung vor.
FAQ
Häufige Fragen zum DSGVO-konformen Chatbot
Ist ein Chatbot allein durch EU-Hosting DSGVO-konform?
Nein. Der Standort ist ein wichtiger Prüfpunkt, ersetzt aber weder Rechtsgrundlage, Rollenverteilung, Datenminimierung, AVV und TOM, Subprozessorenprüfung, Schutzmaßnahmen noch Lösch- und Kontrollprozesse.
Wer ist beim Einsatz von civolve verantwortlich?
Regelmäßig bestimmt die einsetzende Organisation Zweck und Einsatz und ist damit Verantwortliche. SQUIRREL & NUTS digital verarbeitet beauftragte Daten für civolve nach Weisung. Der konkrete Prozess muss diese Rollen bestätigen.
Werden Kund:innen-Inhalte für das Training von KI-Modellen verwendet?
Kund:innen-Inhalte werden nicht für das Training von KI-Modellen verwendet; das ist vertraglich ausgeschlossen.
Wo werden Inhalte und Anfragen verarbeitet?
Kund:innen-Inhalte und Chatbot-Anfragen werden innerhalb der EU verarbeitet: Hosting in Deutschland, Sprachmodell-Verarbeitung über Mistral in Paris.
Welche Unterlagen können Datenschutzbeauftragte prüfen?
civolve stellt AVV, TOM, Subprozessorenliste, Lösch- und Exportkonzept sowie eine DSFA-Vorlage als versioniertes Datenschutz-Paket bereit.
Antwortet civolve nur aus freigegebenen Quellen?
civolve baut Antworten aus den freigegebenen Wissensquellen auf, macht verwendete Belege sichtbar und kennzeichnet fehlende Grundlagen.
Wird jede Antwort vor der Ausgabe von einem Menschen geprüft?
Nein. Beim Anfrage-Agenten erstellt civolve einen Entwurf, den die Organisation prüft und freigibt; öffentliche Chatbots geben Antworten direkt aus. Neue oder geänderte Einsätze werden mit Quellen-, Transparenz-, Eskalations- und Betriebstests geprüft.
Was verlangt die EU-KI-Verordnung bei einem Chatbot?
Ab dem 2. August 2026 müssen Menschen nach Art. 50 Abs. 1 AI Act grundsätzlich klar erkennen, dass sie mit einem KI-System interagieren, sofern dies nicht ohnehin offensichtlich ist. Weitere Pflichten hängen vom System, der Rolle und dem konkreten Einsatz ab.
Autor
Carsten Wawer
Carsten Wawer ist Geschäftsführer der SQUIRREL & NUTS digital GmbH und entwickelt seit über 25 Jahren digitale Lösungen für politische Organisationen und den öffentlichen Sektor.
Mehr über Unternehmen und TeamÖffentliche Quellen
Recht und Anbieterangaben selbst prüfen
- Datenschutz-GrundverordnungArt. 5, 24, 25, 28, 32 und 35
- EDPB Guidelines 07/2020Verantwortliche und Auftragsverarbeiter
- Verordnung (EU) 2024/1689Transparenzpflichten nach Art. 50
- Hetzner DatenschutzAnbieter- und Standortprüfung
- Mistral regionale InferenzTechnischer EU-Verarbeitungsweg
- IONOS Object LockBackup-Aufbewahrung und Löschung
Vertrauensgrundlagen
Was der Leitfaden zusagt und begrenzt
- Keine pauschale Rechtsgarantie für den konkreten Einsatz
- civolve baut Antworten aus den freigegebenen Wissensquellen auf, macht verwendete Belege sichtbar und kennzeichnet fehlende Grundlagen.
- civolve stellt AVV, TOM, Subprozessorenliste, Lösch- und Exportkonzept sowie eine DSFA-Vorlage als versioniertes Datenschutz-Paket bereit.
- Anfrage-Agent und direkt antwortender Chatbot werden getrennt bewertet
Nächster Schritt
