Wissen
Die Rolle sieht die zugelassene Fallakte, fehlende Fakten und die geltende Regel, nicht nur den Modelltext oder eine Ampel.
KI-ETHIK · DEUTSCHE TAGESÜBERSICHT
Wer trägt Verantwortung, wenn KI vorbereitet?
Ein plausibler Entwurf ist noch keine verantwortete Entscheidung. Entscheidend ist, ob eine zuständige Rolle den Fall verstehen, den Vorschlag wirksam ändern oder anhalten und die Entscheidung später erklären und korrigieren kann.
R-184 ist vollständig fiktiv: Eine Übung mit erfundenen Tickets. Es gibt keine echten Kundendaten, keine Außenkommunikation und keinen Versand einer Nachricht.
Vollständigen Artikel lesen1. Verantwortung braucht drei Verbindungen
Ein menschlicher Klick genügt nicht. Verantwortung entsteht erst aus fallbezogenem Wissen, einem praktischen Eingriffsrecht und einer zurechenbaren Entscheidung mit zugänglichem Korrekturweg.
Eingriff
Sie darf den Entwurf ändern, verwerfen oder anhalten und hat dafür Zeit, Vertretung und ein klares Eskalationsziel.
Rechenschaft
Eine Spur verbindet Fallmaterial, Änderung, Regelversion, Entscheidung und spätere Rückmeldung. Sie macht die Entscheidung prüfbar, nicht automatisch richtig.
2. R-184 beginnt mit einer offenen Tatsache
Fiktive Reklamation
Eine Werkstatt meldet beschädigte Verpackung bei einem möglicherweise sicherheitsrelevanten Bauteil. Der Einbau ist terminiert. Ob der Karton geöffnet wurde und in welchem Zustand das Teil ist, bleibt offen.
KI-Entwurf
Das Modell schlägt vor, Fotos nachzufordern und eine Entscheidung in fünf Werktagen anzukündigen. Der glatte Text ersetzt weder die Tatsachenprüfung noch eine zuständige Kommunikationsentscheidung.
Die Arbeitsfrage lautet: Unter welchen Informationen, Rechten und Nachweisen darf eine Servicekraft eine KI-Empfehlung zu einer Transportschaden-Reklamation bestätigen?
3. F-B: Drei Hypothesen statt einer Schuldzuweisung
F-B stellt konkurrierende Erklärungen für Verantwortungsverlust nebeneinander. Die Nicht-KI-Option bleibt eine fachliche Checkliste mit Textbausteinen.
Die Servicekraft sieht Ticket, Lieferstatus, Foto oder fehlende Angaben nicht vollständig.
Eine formale Änderung ist möglich, aber Zeit, Vertretung oder Rückfragebefugnis fehlen praktisch.
Der Klick ist gespeichert, nicht aber Grundlage, Ausnahme, Regelversion und zuständige Korrekturrolle.
F-D und F-C: Die unklare Kartonöffnung und der Sicherheitsmarker lösen einen Halt aus. Eine Servicekraft bestätigt nur bei vollständigen erforderlichen Informationen, ohne Stoppauslöser und innerhalb einer freigegebenen Regel; sonst leitet sie weiter.
4. K-Governance: Rollen brauchen Wissen, Rechte und Nachweis
K verändert die Matrix: Exploration trennt Quellen und Lücken, Reflexion macht die Interessen von Werkstatt, Service, Lager und Leitung sichtbar, Entscheidung ordnet Rechte zu und Feedback betrachtet angehaltene, geänderte oder eskalierte Fälle.
| Rolle | Muss wissen | Darf und muss eingreifen | Nachweis |
|---|---|---|---|
| Servicekraft | Originalticket, Entwurf, Lieferstatus, Regel und fehlende Fakten. | Entwurf ändern oder verwerfen; bei Auslösern nicht abschließen. | Fall-ID, Entscheidung, kurzer Grund und fehlender Beleg. |
| Lagerfachkraft | Fotos, Verpackungs- und Versanddaten, Produktkennzeichnung und Prüfkriterien. | Schadenbild als unklar markieren; Prüfung oder Sperre anstoßen. | Befund, Quelle, Zeitpunkt und gegebenenfalls Sperrkennzeichen. |
| Serviceleitung | Vollständige Fallakte, bisherige Eingriffe, Folgen und Einsatzgrenze. | Entwurf stoppen; erst auf Grundlage des Befunds über Kommunikation entscheiden; erforderlichenfalls weiterleiten. | Entscheider, Grund, Regel oder Ausnahme und vorgesehene Mitteilung. |
| Betriebsleitung | Muster aus Eskalationen, Belastung, offene Risiken und Ressourcenlage. | Einsatzklasse eingrenzen, pausieren oder beenden; Zeit, Schulung und Vertretung sichern. | Regelversion, Stoppentscheidung, Reviewtermin und Ressourcenentscheidung. |
Eine andere Fallrolle kann gegenprüfen; eine Vertretung ersetzt eine Rolle, ist aber keine Gegenprüfung ihres eigenen Erstentscheids.
5. Stoppen und nachvollziehbar weitergeben
Sofortiger Halt
Bei möglichem Sicherheitsbezug, unklarem Schadenbild, einer Zusage oder Ablehnung ohne Beleg, Regelabweichung oder einem nicht erklärbaren Entwurf wird nicht abgeschlossen.
Minimale Entscheidungsspur
Festhalten: Fall-ID, Zweck und Grenze, zugelassene Eingaben, Modell-/Prompt-/Regelversion, Unterlagen, Änderung oder Verwerfung, Eskalation, Ergebnis und Rückmeldung.
Für R-184 heißt das: Der Entwurf bleibt ohne Versand angehalten. Die Lagerfachkraft prüft den Sachverhalt; die Serviceleitung entscheidet erst auf vollständigerer Grundlage über die vorgesehene Kommunikation.
6. R: Enger Fachprüfauftrag statt Rechtsstempel
R wird nicht für jedes Ticket vollständig durchlaufen. Bei R-184 beginnt die Aufnahme strukturiert, weil Sicherheitsbezug, Ersatzkosten und Ansprüche möglich sind. Fachprüfung ist nur gefragt, wenn die Entscheidung erkennbar von Vertrag oder Garantie, Schadenersatz, grenzüberschreitender Lieferung, neuer Datenweitergabe oder nicht gedeckter Kulanz abhängt.
Übergabe
Fallmaterial, offene Tatsachen, einschlägige Unterlagen soweit vorhanden, Rechtsraum, Datenfluss und Entscheidungsfrist werden als begrenzter Auftrag übergeben.
Rückgabe
Die Fachstelle klärt die konkrete Frage oder fordert Unterlagen nach. Zurück kommen Prüfpriorität, offene Tatsachen und gegebenenfalls eine Handlungsoption, kein allgemeines Konformitätssiegel.
7. Drei proportionale Schwellen
| Schwelle | Frage für die nächste Stufe |
|---|---|
| 1 · Übung | Ist die Rollen- und Eskalationslogik mit ausschließlich erfundenem Material verständlich und vollständig genug, um ihre Lücken sichtbar zu machen? |
| 2 · Späterer begrenzter Einsatz | Sind Zweck, Rollen, Entscheidungsrechte, Datenflüsse, Korrekturweg, Vergleichsmaßstab und nötige Fachprüfungen gesondert dokumentiert und geprüft? |
| 3 · Außenwirkungen | Gibt es eine eigenständige Grundlage, um begrenzte Außenwirkung oder breiteren Betrieb überhaupt zu erwägen? |
Ein positives Ergebnis an einer Schwelle ersetzt keine Prüfung der nächsten. Die Schwellen messen weder Geschwindigkeit noch Fehlerquote und geben keine reale Freigabe.
8. 90 Minuten: „Der Klick hat keinen Namen“
| Zeit | Aufgabe | Sichtbares Ergebnis |
|---|---|---|
| 0–10 | Ticket und Entwurf getrennt lesen. | Gesicherte und fehlende Tatsachen, Modelltext und mögliche Wirkung markieren. |
| 10–25 | F-A und F-B: Begriffe klären, drei Hypothesen und eine Nicht-KI-Option bilden. | Prüfbare Lücken bei Wissen, Eingriff und Rechenschaft. |
| 25–40 | F-D und F-C mit Kartonöffnung, Sicherheitsbezug und Terminfolgen. | Halt, Rückfrage und engere Regel ohne erfundene Tatsache. |
| 40–60 | K-Exploration und Reflexion als Rollenrunde. | Legitime Interessen, fehlende Informationen und mögliche Handlungen je Rolle. |
| 60–73 | K-Entscheidung: Matrix, Vertretung und zwei Stoppauslöser ausfüllen. | Nachweisbar zugeteiltes Wissen, Eingriffsrecht und Rechenschaft. |
| 73–83 | Engen R-Fachprüfauftrag formulieren. | Konkrete Frage, fehlende Unterlagen und Rückgabeweg, ohne Rechtsurteil. |
| 83–90 | Peer-Review mit der Frage: Kann die Servicekraft wirklich stoppen? | Dokumentierte Revision; eine Lücke führt zurück zu F-D oder K. |
9. Quellen und Geltungsgrenzen
- NIST AI RMF 1.0 dient als freiwillige Orientierung für Rollen, Zuständigkeiten, Kommunikationswege und Rückmeldungen. Es legt keine konkrete Rollenmatrix und keine Rechtsfolge für R-184 fest.
- UNESCO-Empfehlung zur Ethik der KI und OECD-Empfehlung zu KI geben normative Orientierung zu zurechenbarer Verantwortung, Überprüfung, Korrektur und Übersteuerung. Sie sind keine individuelle Rechtsberatung.
- Santoni de Sio und van den Hoven bieten die philosophischen Begriffe Tracking und Tracing. Die Begriffe sind keine empirische Wirksamkeitsstudie für diesen fiktiven Betrieb.
- Studien zu Automationshilfe im Artikel zeigen begrenzte Befunde aus ihren jeweiligen Simulationen. Sie liefern keine Fehlerquote für generative KI, Kundenservice oder R-184.
Diese Übersicht ist ein Lernpfad. Die Matrix und Schwellen sind didaktische, redaktionelle Konstruktionen. Sie bescheinigen weder rechtliche Konformität noch die Sicherheit oder Wirksamkeit eines realen KI-Einsatzes.