29/05/2026
Wenn die KI ihre eigenen Fehler auf den Menschen schiebt und übergriffig wird … 🤔
Kuriose Geschichte aus dem echten Leben:
Neuwagen. Keine 1.000km auf der Uhr. Wir fahren den Berg hoch, das Fahrzeug macht selbsttätig eine Vollbremsung. Gleichzeitig gebe ich Gas.
Das Verhalten ist eindeutig fehlerhaft, Vermutung eines Software-Bugs oder Sensor-Fehlers liegt nahe – seltsame Auslösung einer Notfallbremsung.
Also ab in die Werkstatt mit der Assistance. Fehlerspeicher auslesen.
Die Diagnose?
„Der Fahrer hat abwechselnd Vollgas gegeben und gebremst.“
Ähm. Nein.
Jetzt wird es interessant.
Denn: was passiert eigentlich, wenn Software oder KI nicht nur einen Fehler machen, sondern diesen Fehler auch noch falsch dokumentieren?
Und was bedeutet das beispielsweise für:
👉 Garantieansprüche?
👉 Gewährleistung?
👉 Haftungsfragen?
👉 Versicherungen?
👉 Kulanzentscheidungen?
Wenn im System steht, der Fahrer sei verantwortlich gewesen – wer muss dann beweisen, dass die Software falsch lag?
Wir erleben gerade, dass KI und Software immer mehr Entscheidungen treffen, und viele davon sind einfach fehlerhaft oder gänzlich daneben.
So wie die KI-Hotline eines großen Unternehmens, die mich nach mehreren sehr nervigen Schleifen ernsthaft fragte, ob mich der Vorgang emotional belasten würde.
Die eigentliche Frage wurde nicht beantwortet.
Aber mein emotionaler Zustand wurde abgefragt. 😅
Versteht mich nicht falsch:
Wir bei KACOM finden Digitalisierung, KI und Automatisierung spannend. Die Möglichkeiten sind enorm.
Aber Vertrauen entsteht nicht dadurch, dass SYSTEME immer mehr entscheiden.
Vertrauen entsteht dort, wo Fehler erkannt, erklärt und behoben werden.
Denn wenn Kunden das Gefühl bekommen, dass Software ihre eigenen Fehler kaschiert oder Verantwortlichkeiten verschiebt, dann wird aus einem technischen Problem sehr schnell ein Imageproblem.
Und aus einem Imageproblem irgendwann ein Kundenproblem.
Und der Kundenärger über eine KI ist desaströs für ein Unternehmen.
Deshalb interessiert uns eure Erfahrung:
Habt ihr schon erlebt, dass Software, KI oder ein Assistenzsystem euch einen Fehler zugeschrieben hat, den eigentlich das System verursacht hat?
Einmal? Mehrfach?
Und noch spannender:
Was war passiert?
Wie hat die Firma oder der Support reagiert?
Wurde der Fehler anerkannt oder eher wegdiskutiert?
Wir sind gespannt auf eure Geschichten. 🍿🚗💻