Sind KI-Entscheidungen im Versicherungsprozess nachvollziehbar?

Ja – wenn das System es vorsieht. Nachvollziehbar heißt konkret: Es ist zu jedem Vorgang ersichtlich, welche Eingabedaten verwendet wurden, welche Regeln angewendet wurden und welches Ergebnis daraus entstanden ist. Diese drei Angaben sind die Substanz jeder Nachweisführung, und sie müssen technisch erzeugt werden – im Nachhinein rekonstruieren lässt sich das nicht.

Was Nachvollziehbarkeit nicht bedeutet

Sie bedeutet nicht, die innere Funktionsweise eines Sprachmodells zu erklären. Diese Erwartung wird gelegentlich formuliert und ist nicht erfüllbar. Was aufsichtlich und revisionsseitig verlangt wird, ist etwas anderes und Erreichbares: dass der Weg von der Eingabe zum Ergebnis dokumentiert und wiederholbar ist, dass Regeln explizit sind und dass Verantwortlichkeiten festliegen.

Die Rolle des Menschen

In den Prozessen, die 9elf26.ai unterstützt, liefert die KI Vorschläge und Vorbereitung, die Entscheidung trifft der Mensch – außer in einfachen, ausdrücklich definierten Fallgruppen, in denen ein Haus Dunkelverarbeitung zulässt. Diese Aufteilung ist nicht nur eine Vorsichtsmaßnahme, sie ist auch die einfachste Antwort auf die Anforderungen an automatisierte Entscheidungen.

Was in der Praxis dokumentiert wird

Eingabedaten und deren Herkunft, verwendete Regeln und Kataloge, Modell- und Anweisungsversion, erzeugtes Ergebnis, ausgelöste Aktionen einschließlich versandter Nachrichten mit Vorlage und Zeitpunkt, sowie die Freigabe durch die zuständige Person. Damit lässt sich jeder Vorgang Jahre später erklären.