KI & Digitalisierung
Das Problem:
Viele Kolleginnen und Kollegen öffnen ChatGPT, Claude oder ein anderes Tool der Kategorie „Künstliche Intelligenz“ zum ersten Mal am Arbeitsplatz. Privat gab es dafür vielleicht bisher keinen Anlass, in der eigenen Verwaltung gibt es noch keine Richtlinien, und die erste Frage lautet nicht „Wie bediene ich das?“, sondern: „Worauf muss ich achten, damit ich mir nichts einhandle?“ Diese Frage lässt sich glücklicherweise beantworten, ohne auf eine Dienstanweisung zu warten. Sie hängt im Prinzip an einer einzigen technischen Eigenschaft.
Wie habe ich mir also ein KI-Sprachmodell vorzustellen?
Ein Sprachmodell schlägt nichts nach. Es hat aus sehr großen Textmengen gelernt, welches Wort auf welches folgt, und berechnet daraus Stück für Stück eine wahrscheinliche Fortsetzung. Auf einen geprüften Rechtsbestand greift es dabei nicht zu. Manche Tools durchsuchen zwar inzwischen das Internet und geben Links aus. Das ist jedoch etwas anderes als eine Kommentardatenbank, und Ihre eigene Verwaltungsvorschrift steht dort ohnehin nicht.
Wir beschreiben ein KI-Sprachmodell in unseren Schulungen als modernen Papagei: Er hat unzählige Sätze gehört und kombiniert sie überzeugend, ohne zu verstehen, wovon er redet.
Was folgt daraus für die Praxis?
Aus dieser einen Eigenschaft folgt fast alles, was Sie für den Alltag beherzigen müssen:
Schließlich wissen Sie, wo die kritischen Stellen liegen. Paragrafen, Aktenzeichen und Fristen haben ein sehr klares Muster. Genau solche Muster kann ein Sprachmodell auch dann erzeugen, wenn ihm die Sache selbst unbekannt ist. Eine Kollegin ließ sich einen Widerspruchsbescheid vorformulieren; der Text war brauchbar, die zitierte Norm existierte in dieser Kombination nicht. Ein Satz wie „Die übliche Bearbeitungsfrist beträgt vier Wochen“ stammt aus Wahrscheinlichkeiten und hat mit Ihrer Verwaltungsvorschrift nichts zu tun. Beim Formulieren und Zusammenfassen ist das Erfindungsrisiko geringer, weil das Material vorgegeben ist. Prüfen müssen Sie trotzdem, ob unterwegs etwas verloren gegangen ist.
Damit erklärt sich auch der Tonfall. Das System meldet keine Zweifel an. Eine „geratene“ Fundstelle liest sich genauso wie eine „belegte“. Der Eindruck von Sicherheit ist eine Eigenschaft der Sprache, die das Modell gelernt hat, und kein Hinweis auf die Qualität der Angabe. Daraus folgt, wie Sie fragen sollten: Wenn das Modell mit dem arbeitet, was vor ihm liegt, dann geben Sie ihm Ihr Material und ziehen die Grenze ausdrücklich:
„Nutze ausschließlich die Informationen, die ich Dir jetzt gebe. Erfinde keine Paragrafen, Urteile oder Fristen. Wenn Du Dir nicht sicher bist, schreib das ausdrücklich.“
Dieser Zusatz verändert die Ausgabe spürbar. Das System räumt danach häufiger ein, wenn ihm etwas fehlt. Geben Sie außerdem die Prüfschritte selbst vor, statt auf eine Begründung zu warten. Ob ein Tool seine Zwischenschritte anzeigt, hängt vom Modell und vom Zugang ab und ist nichts, worauf Sie sich verlassen können. Schreiben Sie die Schritte in den Auftrag und lassen Sie zu jedem Schritt ein Ergebnis ausgeben. Dann steht am Ende etwas, das Sie ablegen können.
Der Gewinn liegt in der Unabhängigkeit. Wer die Funktionsweise einmal verstanden hat, kann jede neue Aufgabe und jedes neue Tool selbst einordnen, auch ohne Regelung im eigenen Haus. Und der Zeiteffekt ist real: Aus einer Viertelstunde Protokolltippen werden wenige Minuten bis zum Rohtext.
Allerdings ist einiges zu beachten: Das Bild vom Papagei erklärt, warum Fehler entstehen, es sagt Ihnen aber nicht, ob dieser eine Satz falsch ist. Die Rechtsgrundlage schlagen Sie weiterhin selbst nach. Der Zusatz hilft, er ist aber keine Garantie. Wo das Modell nichts anmerkt, kann es trotzdem raten. Auch eine ausgegebene Schrittkette ist ein Text, den das Modell erzeugt hat, und kein Mitschnitt seines Rechenwegs. Und solange Ihr Haus nichts geregelt hat, gilt bei externen Tools Zurückhaltung mit Namen, Adressen und Aktenzeichen.
Was an dieser Stelle offen bleibt:
- Was ist rechtlich unbedingt zu beachten?
- Woran erkennen Sie vorher, ob sich eine Aufgabe tatsächlich für den KI-Einsatz eignet?
- Und was sollten Sie festhalten, damit Ihre Arbeitsweise auch dann trägt, wenn später jemand nachfragt?
Diesen Fragen gehen wir im „KI-Führerschein für kommunale Verwaltungen“ konkret nach.