Verschiedene Aufgaben nicht zusammenziehen
Verspätete Lieferung, Reklamation und Adressänderung können unterschiedliche Bearbeitungen verlangen. Eine Frage zum Lieferstatus braucht möglicherweise verlässliche Systemdaten, kein Sprachmodell.
KI ETHIK · E01 · DEUTSCHE TAGESÜBERSICHT · VERSION 0.5
KI Ethik beginnt vor dem ersten Prompt
Bevor ein Modell gewählt oder eine Anweisung geschrieben wird, steht fest, welches Problem bearbeitet wird, wessen Interessen und Lasten zählen und wer die vorgeschlagene Handlung prüfen, stoppen oder revidieren darf.
Der hier verwendete Ersatzteilbetrieb ist vollständig fiktiv. Diese Übersicht ist eine Lernhilfe, kein Rechtsgutachten und keine Freigabe für den Einsatz eines KI Systems.
Vollständigen E01 Artikel lesenMit der Entscheidung beginnen
„Welche Entscheidung soll hier von wem mit welchen Informationen vorbereitet oder getroffen werden?“
Das Ziel anfechtbar machen
„Schneller“ kann Empfangsbestätigung, Zuordnung zum richtigen Team, sachliche Lösung oder ernst genommen werden bedeuten. Maße und Schadensschwelle werden vor dem Test gewählt.
Vier Fragen getrennt halten
Moralisches Urteil
Was erscheint für eine betroffene Person falsch oder gefährdet?
Ethik
Welche Interessen stehen im Konflikt, welche Gründe sprechen für jede Option und was würde eine Gegenposition ändern?
Recht
Welche konkreten Pflichten und Rechte gelten im einschlägigen Rechtsraum?
Governance
Wer darf entscheiden, prüfen, stoppen und verbessern? Eine bloße menschliche Kontrolle wirkt ohne Zeit, Information und Befugnis nicht.
F: Die Frage vor dem Test revidieren
A
Klären
Ziele trennen und Annahmen sichtbar machen.
B
Alternativen
Konkurrierende Erklärungen und eine Nicht KI Option offenhalten.
D
Fehler und Lücken
Unsicherheit, fehlende Evidenz und mögliche Widerlegung benennen.
C
Revidierte Frage
Alternative, Rolle, beobachtbares Ergebnis und Grenze festlegen.
Startwunsch
„Wie lassen wir KI alle Kundenanfragen sofort beantworten?“
Er setzt automatischen Versand nach außen bereits voraus.
Revidierte Frage
„Kann ein begrenzter Versuch mit erfundenen Nachrichten zeigen, ob KI nur unkritische Anfragen für die interne Prüfung besser vorsortiert als eine verbesserte Maske, ohne selbst Nachrichten zu senden?“
C wird mit GROW verbunden: Goal, Reality, Options, Way forward. Das ist ein Plan für den nächsten Schritt, keine Freigabe für echte Daten oder Außenkommunikation.
K: Den Plan ändern, wenn Betroffene widersprechen
Betroffenenperspektiven erkunden
Kundschaft, Kundenbetreuung, Fachteam und Leitung können unterschiedliche Folgen erleben. Es wird auch gefragt, wer sicher widersprechen kann und wohin ein gemeldeter Fehler geht.
Eine Änderung dokumentieren
Wenn die Kundenbetreuung zeigt, dass eine Reklamation wie eine Statusfrage aussehen, aber eine verbindliche Zusage verlangen kann, kommen vermutete Reklamationen in eine gesonderte manuelle Klasse. Beteiligung muss den Plan ändern; sonst bleibt sie eine Teilnehmendenliste.
K ist nicht R. K ist das hier genutzte Konsultationsmodell, um Perspektiven zu erkunden und die Testgrenze gegebenenfalls zu ändern. Das getrennte fünfphasige Beratungsmodell R strukturiert den Fachprüfweg, sobald ein konkreter produktiver Datenfluss erwogen wird. Keines ist ein Freigabemechanismus.
Drei Schwellen verhindern, dass eine Demonstration zum Einsatz wird
| Schwelle | Frage |
|---|---|
| 1 · Aus künstlichen Fällen lernen | Ist die Problemdefinition klar genug, um erfundene Fälle zu erstellen und aus ihnen zu lernen? |
| 2 · Einen echten Pilot vorbereiten | Sind Zweck, Rollen, Datenflüsse, Wege für Betroffene, Vergleichsmaßstab, fehlende Tatsachen und nötige Fachprüfungen für R Phase 1 dokumentiert? |
| 3 · Außenwirkungen erwägen | Rechtfertigen tatsächliche Beobachtungen begrenzte Außenwirkungen oder einen breiteren Betrieb? |
Das erste „Ja“ ersetzt keines der späteren „Ja“. Die Größe des Betriebs allein ersetzt keine Kontext und Risikoprüfung.
Eine begrenzte Entscheidungskarte
| Entscheidung | Nur interne Vorsortierung; automatischer Versand liegt außerhalb des Tests. |
|---|---|
| Vergleich | Eine verbesserte Eingabemaske und klarere Zuständigkeitsregeln ohne Sprachmodell. |
| Testmaterial | Nur neu erfundene Nachrichten; keine echten Kundendaten und keine Außenkommunikation. |
| Rollen | Die Leitung entscheidet über den begrenzten Test; Fachleute bewerten die Zuordnung; die Kundenbetreuung dokumentiert Ausnahmen; eine benannte Person hat Stopprecht. |
| Stoppsignal | Eine Nachricht verlässt den Test ohne Berechtigung, eine echte Nachricht gelangt hinein oder ein folgenreicher Ausnahmefall wird als Routine behandelt. |
| Offene Punkte | Baseline, Daten und Vertragsfragen, Beteiligung Betroffener und jede Freigabe für einen späteren Pilot. |
Ein Mini Versuch kann lehren, ohne Alltagsleistung beweisen zu wollen
Vor dem Vergleich
Zwölf vollständig erfundene Nachrichten erstellen: vier eindeutige Statusfragen, vier Anfragen mit fehlenden Angaben und vier plausible Reklamations oder Ausnahmefälle. Erwartete Fachklasse und Behandlung vorher vereinbaren. Uneinigkeit bleibt offen markiert.
Während des Vergleichs
Team A verwendet die verbesserte Maske. Team B nutzt nur intern geprüfte KI Vorsortierung. Vorgeschlagene Klasse, menschliche Korrektur, aufgewendete Zeit und Grund der Eskalation dokumentieren.
Grenze: Ein unbeabsichtigter Versand oder ein echter Datensatz pausiert die Übung sofort. Ein Übungsfehler beweist nicht jede KI Herangehensweise als ungeeignet; zuerst wird seine Ursache untersucht. Zwölf erfundene Nachrichten repräsentieren keine reale Kundenpopulation.
Was das Ergebnis sagen kann und was nicht
Empirisch
Ordnet eine Variante mehr bestimmte Fälle richtig zu, und welche Nacharbeit entsteht?
Normativ
Kann ein Gewinn bei eindeutigen Fällen einen möglichen Nachteil für Menschen mit seltenen Anliegen rechtfertigen?
Institutionell
Wer gibt frei, widerspricht, handelt nach einem Fehler und hat dafür die tatsächliche Befugnis?
Zulässiges Ergebnis
„Vorläufig keine KI“ oder „Nicht KI Lösung weiter prüfen“ können gut begründete Ergebnisse sein.
Quellen und Geltungsbereich
- NIST AI RMF 1.0 (2023): freiwilliger Rahmen für Risikomanagement; diese Entscheidungskarte ist eine unabhängige didaktische Ableitung.
- UNESCO Empfehlung zur Ethik der KI (2021) und die OECD Empfehlung zu KI: normative Orientierung, keine fallspezifische Rechtsprüfung.
- Elish (2019), „Moral Crumple Zones“ und Selbst et al. (2019), „Fairness and Abstraction in Sociotechnical Systems“: konzeptionelle Quellen, keine Messwerte für diesen fiktiven KMU Fall.