Ein KI-Werkzeug benutzen, ohne Schaden anzurichten
Das Lernziel dieser Einheit
Nach dieser Einheit können Sie ein KI-Werkzeug benutzen, das Ihre Behörde freigegeben hat. Sie richten damit keinen Schaden an. Mehr lernen Sie hier nicht. Das ist Absicht. Sie können sofort anfangen. Sie müssen sich nicht anmelden und nichts installieren. Vorwissen brauchen Sie nicht.
Am Ende beantworten Sie fünf Fragen. Wenn vier Antworten richtig sind, haben Sie das KI-Pferdchen geschafft.
Was dieses Abzeichen bedeutet
Das KI-Pferdchen ist ein Anfang. Ihre Behörde ergreift Maßnahmen, damit Sie lernen, KI sicher zu nutzen. Eine Einheit von 20 bis 30 Minuten ist dafür zu kurz.
Das Abzeichen Bronze kann zu diesen Maßnahmen gehören. Es hat sieben Kernmodule und am Ende eine Prüfung. Ihre Behörde kann damit dokumentieren, was sie für die KI-Kompetenz ihrer Beschäftigten tut. Diese Einheit zeigt Ihnen vorher, worum es geht.
Beim Schwimmen ist es genauso. Der Name dieser Einheit kommt vom Seepferdchen. Das Seepferdchen zeigt nur, dass ein Kind sich über Wasser hält. Als sicherer Schwimmer gilt erst das Abzeichen Bronze. Nach der Prüfungsordnung heißt es bis heute auch Freischwimmer. Deshalb heißt die zweite Stufe hier auch Bronze.
1. Was das Werkzeug tut
Im Dienst treffen Sie zwei Arten von KI. Wer sie verwechselt, erwartet oft das Falsche.
Die erste Art erkennt und sortiert. Ein Spamfilter trennt Werbung von der übrigen Post. Ein anderes Programm ordnet einen Antrag der richtigen Antragsart zu. Diese Programme haben aus vielen alten Beispielen gelernt, welche Merkmale zu welcher Gruppe gehören. Sie können genau eine Aufgabe. Alles andere können sie nicht.
Die zweite Art schreibt Text. ChatGPT, Copilot und Gemini sind Beispiele. Sie rechnen Wort für Wort aus, was nach einem Satz wahrscheinlich folgt. Dafür nutzen sie die Texte, aus denen sie gelernt haben. Das Ergebnis sieht aus wie eine Auskunft. Die KI schlägt aber nichts nach. Sie rechnet die Antwort aus.
Keine der beiden Arten versteht, was sie tut. Die KI kennt das Sozialrecht nicht. Sie hat keine Akte vor sich. Sie kann nicht abwägen. Die Maschine aus den Filmen, die wie ein Mensch denkt, gibt es heute nicht. Alles, was in einer Behörde läuft, gehört zu einer der beiden Arten.
Der Fall aus dem Amt
Eine Kollegin aus der Poststelle fragt: Die neue Software sortiert Anträge nach Antragsart. Entscheidet sie jetzt auch über die Anträge? Die Antwort ist nein. Das Programm sortiert nur. Ob jemand Anspruch auf eine Leistung hat, sagt die Sortierung nicht. Das entscheidet weiter die Sachbearbeitung.
2. Warum eine falsche Antwort richtig klingt
Ein Sprachmodell gibt immer eine Antwort. Das gilt auch, wenn es die Sache nicht kennt. Fehlt ihm eine Information, füllt es die Lücke mit etwas, das an dieser Stelle üblich wäre. So entstehen Paragrafen, die es nicht gibt. Es entstehen auch Fristen, die nie galten, und Gerichtsurteile mit Aktenzeichen, hinter denen kein Verfahren steht. Dieser Fehler heißt Halluzination. Der erfundene Teil sieht genauso aus wie der richtige Teil.
Teuer wird es, wenn niemand mehr nachsieht. Ein erfundener Paragraf in einem Vermerk fällt spätestens im Widerspruchsverfahren auf. Dann muss die Behörde das vor der Widerspruchsstelle oder vor Gericht erklären.
Eine eingebaute Internetsuche hilft nur zum Teil. Findet die Suche nichts Klares, nutzt die KI ihr altes Wissen aus dem Training. Welchen Weg sie genommen hat, sagt sie nicht.
Die Arbeitsregel
Prüfen Sie jede Zahl, jeden Paragrafen, jede Frist und jede Quelle aus einer KI-Antwort. Sehen Sie dafür in der amtlichen Quelle nach, bevor Sie etwas weitergeben. Bundesrecht finden Sie auf gesetze-im-internet.de. Landesrecht finden Sie im jeweiligen Landesportal, Berliner Recht auf gesetze.berlin.de.
Jede KI-Antwort ist ein Entwurf. Ein Mensch unterschreibt ihn. Dieser Mensch ist für den Inhalt verantwortlich.
3. Die eine Regel zum Datenschutz
Am Anfang reicht eine Regel. Geben Sie keine Personendaten in ein offenes KI-Werkzeug ein. Ein offenes Werkzeug kann jeder im Internet nutzen. Personendaten sind zum Beispiel Name, Geburtsdatum, Anschrift, Aktenzeichen und Angaben zur Gesundheit. Die Regel gilt für Daten von Bürgerinnen und Bürgern. Sie gilt auch für Daten von Beschäftigten Ihres Hauses.
Den Grund finden Sie in den Nutzungsbedingungen. Was Sie in ein frei zugängliches Werkzeug eingeben, liegt beim Anbieter. Je nach Vertrag nutzt der Anbieter es, um sein Modell zu verbessern. Ob Ihre Behörde einen Vertrag hat, der das verbietet, weiß Ihre IT-Abteilung. Das Werkzeug weiß es nicht.
Den Namen braucht man nicht, um eine Person zu erkennen. Auch ein Aktenzeichen führt zu genau einer Person. „Frau D., geboren 1981, wohnhaft in der Musterstraße“ ist ebenfalls nicht anonym. Abkürzen reicht deshalb nicht. Lassen Sie alle Angaben weg, die die Aufgabe nicht braucht.
Meistens braucht die Aufgabe diese Angaben nicht. Für eine Zusammenfassung zählt der Sachverhalt. Für einen Textentwurf zählen die Art des Textes und der Anlass. Der Name ändert daran nichts. Er bleibt in der Akte.
Eine Eingabe entschärfen
Ausgangslage
Ein Kollege möchte einen langen Widerspruch zusammenfassen lassen. Er schreibt dafür in ein frei zugängliches Werkzeug:
Fasse den folgenden Widerspruch in fünf Sätzen zusammen. Widersprechende Person ist Frau Aylin Demir, geboren am 14.03.1981, wohnhaft Musterstraße 12, 12043 Berlin, Aktenzeichen SGB-2026-4417. Sie widerspricht der Ablehnung ihres Antrags auf Grundsicherung. [Es folgt der Text des Widerspruchs.]
Auftrag
Schreiben Sie die Eingabe um. Die Zusammenfassung soll weiter möglich sein. Es sollen aber so wenige Angaben zu Personen wie möglich im Werkzeug landen. Schreiben Sie danach in einem Satz auf, woran Sie erkennen, dass Sie nicht zu viel gestrichen haben.
Ihre Eingaben bleiben in diesem Browserfenster. Sie werden nicht gespeichert und nicht übertragen, ein Neuladen der Seite verwirft sie.
Musterlösung anzeigen
Entschärfte Eingabe
Fasse den folgenden Widerspruch in fünf Sätzen zusammen. Die widersprechende Person wendet sich gegen die Ablehnung eines Antrags auf Grundsicherung. [Text des Widerspruchs ohne Name, Geburtsdatum, Anschrift und Aktenzeichen einsetzen.]
Warum die Aufgabe weiter lösbar bleibt
Das Werkzeug braucht den Sachverhalt und die Begründung. Name, Geburtsdatum, Anschrift und Aktenzeichen ändern an der Zusammenfassung nichts. Streichen Sie auch den Text des Widerspruchs, gibt es nichts mehr zusammenzufassen. Dann haben Sie zu viel gestrichen.
Woran Sie eine gute Antwort erkennen
- Name, Geburtsdatum, Anschrift und Aktenzeichen sind weg, weil die Aufgabe sie nicht braucht.
- Das Aktenzeichen ist gestrichen. Mit dem Aktenzeichen findet man die Person. Es zeigt also auf eine Person.
- Der Sachverhalt steht noch da. Sonst hat das Werkzeug nichts, womit es arbeiten kann.
Woran eine schwache Antwort scheitert
- Sie ersetzt „Aylin Demir“ durch „Frau D.“ und hält das für anonym. Ein abgekürzter Name mit Geburtsdatum und Anschrift bleibt personenbezogen.
- Sie behält das Aktenzeichen, weil darin kein Name steht.
- Sie streicht auch den Widerspruchstext und bekommt deshalb keine Zusammenfassung.
4. Der erste Prompt an einem Verwaltungsfall
Ein Prompt ist die Eingabe, mit der Sie dem Werkzeug sagen, was es tun soll. Das erste Ergebnis hängt fast ganz von dieser Eingabe ab. Entscheidend ist, wie viele wichtige Angaben darin stehen. Was Sie weglassen, rät das Werkzeug. Es sagt Ihnen nicht, dass es rät.
Eine gute Eingabe beantwortet fünf Fragen. Wer schreibt? Worum geht es? Was soll herauskommen? Wie lang und in welchem Ton? Was darf auf keinen Fall im Text stehen? Die letzte Frage ist bei Verwaltungstexten die wichtigste. KI-Werkzeuge ergänzen gern Paragrafen und Fristen, die gut aussehen und falsch sein können.
Ein Beispiel, das im Amt funktioniert
Ein Antrag auf einen Zuschuss zur Wohnungserstausstattung wurde abgelehnt. Es kamen trotz zweier Erinnerungen keine Einkommensnachweise. Die antragstellende Person soll eine Mail bekommen. Es geht nicht um einen Bescheid.
Du bist Sachbearbeiterin in einem Sozialamt und schreibst an eine antragstellende Person. Sachverhalt: Der Antrag auf einen Zuschuss zur Wohnungserstausstattung wurde abgelehnt, weil trotz zweier schriftlicher Erinnerungen keine Einkommensnachweise eingereicht wurden. Aufgabe: Schreibe eine E-Mail, die die Ablehnung und ihren Grund nennt und sagt, dass ein neuer Antrag mit vollständigen Nachweisen jederzeit möglich ist. Vorgaben: - Höchstens 130 Wörter. - Sachlich und freundlich, ohne Vorwurf. - Anrede „Sehr geehrte Antragstellerin“, kein Name, keine Anschrift. - Nenne keinen Paragrafen und keine Frist. Beides setze ich selbst ein. - Keine Rechtsbehelfsbelehrung, das ist keine Bescheidform. - Gib nur die E-Mail aus, ohne Vor- und Nachbemerkung.
Was die KI liefert, ist ein Entwurf. Prüfen Sie zwei Dinge. Hat die KI doch einen Paragrafen oder eine Frist eingesetzt? Gibt der Ton der antragstellenden Person die Schuld?
Einen unbrauchbaren Prompt neu schreiben
Ausgangslage
Eine Kollegin fragt: Warum schreibt das Werkzeug so viel unnützen Text? Ihre ganze Eingabe lautet:
Schreib mal was zur Terminabsage.
Das ist der Hintergrund. Ein Termin im Bürgeramt muss abgesagt werden. Das Fachverfahren, also die Software für die Anträge, wird an diesem Vormittag gewartet. Die Person soll eine Mail bekommen. In der Mail steht die Absage. Dort steht auch, wie die Person einen neuen Termin bekommt. Ein Ersatztermin steht noch nicht fest.
Auftrag
Schreiben Sie die Eingabe neu. Sie soll die Rolle, den Sachverhalt, die Aufgabe, die Länge und den Ton nennen. Sie soll mindestens ein Verbot enthalten. Schreiben Sie danach in einem Satz auf, was Sie am Ergebnis zuerst prüfen.
Ihre Eingaben bleiben in diesem Browserfenster. Sie werden nicht gespeichert und nicht übertragen, ein Neuladen der Seite verwirft sie.
Musterlösung anzeigen
Neue Eingabe
Du bist Sachbearbeiter in einem Bürgeramt und schreibst an eine Person, die einen Termin vereinbart hat. Sachverhalt: Der Termin muss abgesagt werden, weil das Fachverfahren an diesem Vormittag gewartet wird. Ein Ersatztermin steht noch nicht fest. Aufgabe: Schreibe eine E-Mail, die den Termin absagt, den Grund kurz nennt und erklärt, dass die Person online oder telefonisch einen neuen Termin buchen kann. Vorgaben: - Höchstens 120 Wörter. - Sachlich und freundlich, mit einer kurzen Entschuldigung. - Kein Name, keine Anschrift, kein Aktenzeichen. - Nenne kein konkretes Ersatzdatum, es steht noch keines fest. - Gib nur die E-Mail aus, ohne Vor- und Nachbemerkung.
Was zuerst geprüft wird
Sie prüfen zuerst, ob im Entwurf ein Ersatztermin steht. Genau dort erfindet die KI am häufigsten etwas. Eine Absage ohne neuen Termin wirkt unvollständig. Die KI füllt die Lücke mit dem, was sie aus ihren Trainingsdaten kennt.
Woran Sie eine gute Antwort erkennen
- Die Eingabe nennt die Rolle, die Empfängerin, den Sachverhalt, die Art des Textes, die Länge und den Ton. Fehlt etwas davon, füllt die KI die Lücke selbst.
- Sie sagt auch, was nicht im Text stehen soll.
- Sie enthält keine echten Personendaten.
- Es steht genau da, was geprüft wird. „Ich prüfe alles“ hilft nicht. Daraus folgt keine Handlung.
Woran eine schwache Antwort scheitert
- Die Eingabe wird länger, sagt aber nicht mehr. „Schreibe eine gute, professionelle Absage“ hat mehr Wörter, aber keine neue Angabe.
- Sie nennt keine Länge. Dann kommt eine halbe Seite zurück, und das Kürzen kostet die Zeit, die der Entwurf sparen sollte.
- Sie enthält den echten Namen der Person.
5. Der Check
Hier kommen fünf Fragen zu dem, was Sie gelesen haben. Vier richtige Antworten reichen. Nach jeder Antwort sehen Sie, warum sie richtig oder falsch war.
Wie es weitergeht
Das KI-Pferdchen zeigt Ihnen, wie Sie ein freigegebenes Werkzeug benutzen, ohne Schaden anzurichten. Drei Fragen beantwortet es noch nicht. Welchen Grund im Gesetz braucht Ihre Verarbeitung (die Rechtsgrundlage)? Wann ist ein Einsatz nicht erlaubt? Wie prüft Ihr Haus ein Werkzeug, bevor es freigegeben wird? Diese Fragen behandeln die sieben Module der Bronze-Stufe.
Bronze endet mit einer Prüfung. Dafür bekommen Sie eine Teilnahmebescheinigung. Ihre Behörde kann damit dokumentieren, welche Maßnahmen für KI-Kompetenz sie ergriffen hat. Der Weg dorthin beginnt bei Modul 1.1. Schon für das KI-Pferdchen gibt es ein eigenes Blatt, die Teilnahmebescheinigung KI-Pferdchen.