Die Auswahl an KI-Tools wächst täglich. Für die öffentliche Verwaltung sind jedoch nicht alle geeignet. Die kritischen Unterscheidungsmerkmale: Datenschutz, Transparenz, Server-Standort und Vertragsgestaltung.
Vor der Einführung eines neuen KI-Tools sollten Sie diese fünf Dimensionen prüfen:
Die Entscheidung, wo KI-Modelle laufen, ist für Behörden existenziell. Jede Variante hat Vor- und Nachteile:
Für sensitive Daten (personenbezogen, vertraulich): On-Premise oder gehostete EU-Cloud mit AVV. Für allgemeine Verwaltungstexte (Beschwerden, Alltagskorrespondenz): Cloud-Lösungen mit DSGVO-Garantie sind akzeptabel. Dokumentieren Sie die Entscheidung.
Bevor eine Behörde ein KI-Tool beschafft, sind fünf Fragen an den Anbieter zwingend zu stellen und schriftlich zu dokumentieren:
1. Wo werden die Daten verarbeitet und gespeichert? (EU-Server oder Drittstaatentransfer?)
2. Stellen Sie einen AVV gemäß Art. 28 DSGVO aus? (Ohne AVV: keine personenbezogenen Daten eingeben)
3. Wie lange werden meine Eingaben gespeichert? (Für Training, Logging, Support?)
4. Welche Subunternehmer verarbeiten die Daten? (Sub-AVV erforderlich)
5. Wie wird das Tool abgeschaltet und werden Daten gelöscht? (Exit-Strategie und Datenlöschung)
Kein Anbieter, der diese fünf Fragen nicht schriftlich beantwortet, ist für personenbezogene Daten in der öffentlichen Verwaltung geeignet. Die Antworten gehören in die Vergabeakte.
Ein Bezirksamt plant einen Chatbot für Bürgeranfragen. Die Entscheidung: Keine Cloud-KI mit personenbezogenen Daten, sondern ein self-hosted Modell (z.B. Mistral) mit vorgefilterten Antworten. Bei nicht-beantwortbaren Fragen: Weiterleitung an menschliche Sachbearbeiter. Ergebnis: 40% der Anfragen werden automatisch beantwortet, keine Daten verlassen das Haus.
Ein Anbieter hat auf die fünf Pflichtfragen geantwortet. Auszug aus seiner Mail:
Unsere Server stehen in Frankfurt und Dublin. Einen AVV stellen wir gerne bereit, das Muster finden Sie in unserem Trust Center. Eingaben speichern wir 30 Tage zu Supportzwecken, danach werden sie automatisch gelöscht. Für das Modelltraining nutzen wir Ihre Daten selbstverständlich nicht. Wir arbeiten mit einem führenden US-Hyperscaler als Infrastrukturpartner. Bei Vertragsende exportieren wir Ihre Daten auf Anfrage.
Markieren Sie die drei Stellen, an denen Sie nachfassen, und schreiben Sie zu jeder die Nachfrage aus, die Sie stellen wollen. Entscheiden Sie danach in einem Satz, ob dieses Werkzeug bis zur Klärung personenbezogene Daten sehen darf.
Ihre Eingaben bleiben in diesem Browserfenster. Sie werden nicht gespeichert und nicht übertragen, ein Neuladen der Seite verwirft sie.
„Ein führender US-Hyperscaler“ ist kein Name. Zu fragen ist, welches Unternehmen das ist, ob ein Vertrag über die Unterauftragsverarbeitung nach Art. 28 Abs. 4 DSGVO besteht und ob im Supportfall ein Zugriff aus einem Drittland möglich ist. Ein Serverstandort in der EU schließt einen Zugriff von außerhalb nicht aus.
Dreißig Tage Supportspeicherung heißt, dass jede Eingabe dreißig Tage beim Anbieter liegt. Zu fragen ist, wer in dieser Zeit hineinsehen kann, ob sich die Speicherung abschalten lässt und wie der Anbieter mit einer behördlichen Anordnung im Sitzstaat des Infrastrukturpartners umgeht.
„Auf Anfrage exportieren“ sagt nichts über Format, Frist und Löschung. Zu fragen ist, in welchem Format der Export kommt, innerhalb welcher Frist er erfolgt und wann die Daten beim Anbieter und bei allen Unterauftragnehmern nachweislich gelöscht sind.
Bis diese drei Punkte schriftlich geklärt sind und der Auftragsverarbeitungsvertrag gezeichnet ist, gehen keine personenbezogenen Daten in das Werkzeug. Eine Erprobung mit erfundenen Musterfällen bleibt möglich und ist auch sinnvoll, weil sich nur so zeigt, ob das Werkzeug die Aufgabe überhaupt löst.
Serverstandort und Zugriffsort sind zwei verschiedene Dinge. Daten können in Frankfurt liegen und von einem Supportteam außerhalb der EU eingesehen werden. Was tatsächlich gilt, steht im Vertrag und in den technischen Maßnahmen.
Ein Auftragsverarbeitungsvertrag ist keine Freigabe für alles. Er regelt, wie der Anbieter im Auftrag verarbeitet. Ob die Behörde überhaupt verarbeiten darf, entscheidet die Rechtsgrundlage nach Art. 6 DSGVO. Beides wird getrennt geprüft.
Wie nutzen Sie KI in Ihrer Behörde zu diesem Thema? Teilen Sie Erfahrungen, stellen Sie Fragen — anonym oder mit E-Mail. Kommentare liegen auf eigenen Servern (DSGVO-konform).