Wie und warum verwenden zukünftige Verwaltungsentscheider*innen KI-basierte Informationen? Ein Beitrag von Tobias Krause
In demokratischen Rechtsstaaten haben wir den Anspruch, dass transparente, neutrale, faire und nachvollziehbare Verwaltungsentscheidungen getroffen werden. KI-Anwendungen zur Bewertung von Szenarien werden allerdings oft als „Black Boxes“ empfunden. Der gängige Fall ist, dass menschliche Entscheider*innen Informationen heranziehen, die durch eine (wie auch immer geartete) KI in wenig nachvollziehbarer Weise generiert wurden – es besteht also eine Mensch-Maschine-Interaktion. Ein aktueller Beitrag in der Zeitschrift dms untersuchte, mit welcher Intention junge Verwaltungsentscheider*innen KI-generierte Informationen verwenden würden. Dazu wurden vier verschiedene Intentionen voneinander unterschieden: (1) eine direkte Übernahme der KI-Entscheidung, (2) eine reflektierte Entscheidung unter Berücksichtigung der KI-Empfehlung, (3) eine reine Kenntnisnahme der Empfehlung sowie (4) ein Ignorieren des KI-Systems. Jede Nutzungsintention ließ sich unterschiedlich durch die Faktoren Einfachheit der Nutzung, Systemleistung, Kompetenzerleben, KI-Expertenvertrauen und KI-Überlegenheit erklären.