„Die KI hat sich geirrt“ ist meist ein Ablaufproblem
Scheitert eine maschinell unterstützte Aufgabe im Betrieb, ist selten das Modell das schwächste Glied. Vier wahrscheinlichere Ursachen, nach Häufigkeit.
Eine Klage, die uns regelmässig erreicht: Wir haben das versucht, es kam etwas Falsches heraus, wir haben aufgehört. In fast allen Fällen, die wir angesehen haben, war nicht das Modell der Teil, der versagte.
Vier Ursachen, ungefähr danach geordnet, wie oft sie sich als die echte erweisen.
Erstens: Es wurde nie gesagt, wie « richtig » aussieht
Jemand bat um « eine Zusammenfassung davon » und bekam eine, die nicht jene im eigenen Kopf war. Es gibt keine Lesart, in der die Maschine schuld ist; die Anforderung wurde nie ausgesprochen.
Der Beitrag vom 23. Juli zu wiederverwendbaren Anweisungen ist die Behebung, und sie kostet einmalig zwanzig Minuten.
Zweitens: Es hatte die Information nicht
Die Antwort war falsch, weil die richtige in einem Dokument stand, das das Werkzeug nicht sehen konnte. Leute nehmen regelmässig an, ein mit einem Ordner verbundenes System sehe alles im Betrieb.
Bevor Sie ein Werkzeug für untauglich erklären, prüfen Sie, was es tatsächlich bekam. Das ist die häufigste Ursache von « es hat etwas erfunden ».
Drittens: Niemand prüfte, weil niemand darum gebeten wurde
Das Ergebnis war falsch und ging trotzdem hinaus, weil der Ablauf einen Schritt zum Herstellen hatte und keinen zum Prüfen. Das ist ein Entwurfsfehler des Ablaufs, der KI um Jahrzehnte vorausgeht — dasselbe geschah mit Vorlagen und mit Serienbriefen.
Viertens: Die Aufgabe war ein schlechter Kandidat
Manchmal lautet die ehrliche Antwort, dass der Ablauf zu stark schwankt oder die Fehlerkosten zu hoch sind, um ihn unbeaufsichtigt laufen zu lassen. Die drei Fragen vom 12. September fangen das vor dem Bauen ab, was erheblich billiger ist als danach.
Warum das mehr zählt, als es klingt
Weil « wir haben KI probiert, es ging nicht » sehr schnell zur Betriebslegende wird — und meist einen schlecht aufgesetzten Versuch beschreibt und nicht die Technik.
Hören Sie den Satz, fragen Sie, welche der vier es war. Nach unserer Erfahrung haben Sie in fünf Minuten eine Antwort, und etwa dreimal von vier ist es die erste oder die zweite.