«L’IA ha sbagliato» è di solito un problema di processo
Quando un compito assistito dalla macchina fallisce in azienda, il modello è raramente l’anello debole. Quattro cause più probabili, per frequenza.
Una lamentela che ci arriva con regolarità: abbiamo provato, è uscito qualcosa di sbagliato, abbiamo smesso. In quasi tutti i casi che abbiamo esaminato, non è il modello ad aver fallito.
Quattro cause, più o meno ordinate per quanto spesso si rivelano quella vera.
Uno: non gli è mai stato detto che aspetto abbia « giusto »
Qualcuno ha chiesto « un riassunto di questo » e ha ottenuto un riassunto che non era quello che aveva in testa. Non esiste una lettura in cui la macchina abbia colpa; il requisito non è mai stato enunciato.
L’articolo del 23 luglio sulle istruzioni riutilizzabili è il rimedio, e costa venti minuti una volta sola.
Due: non aveva l’informazione
La risposta era sbagliata perché quella giusta stava in un documento che lo strumento non poteva vedere. Si presume abitualmente che un sistema collegato a una cartella veda tutto in azienda.
Prima di concludere che uno strumento è inadeguato, verificate che cosa gli è stato davvero dato. È la causa più frequente di « si è inventato qualcosa ».
Tre: nessuno ha controllato, perché non era stato chiesto a nessuno
Il risultato era sbagliato ed è uscito lo stesso, perché il processo aveva un passaggio per produrre e nessuno per rivedere. È un difetto di progettazione del processo che precede l’IA di decenni — la stessa cosa è successa con i modelli di documento e con la stampa unione.
Quattro: il compito era un cattivo candidato
A volte la risposta onesta è che il processo varia troppo, o che il costo di un errore è troppo alto per lasciarlo girare senza sorveglianza. Le tre domande del 12 settembre intercettano questo prima di costruire, il che costa molto meno che dopo.
Perché conta più di quanto sembri
Perché « abbiamo provato l’IA e non ha funzionato » diventa in fretta folclore aziendale — e di solito descrive un tentativo montato male, non la tecnologia.
Quando lo sentite, chiedete quale delle quattro fosse. Per nostra esperienza ottenete una risposta in cinque minuti, e circa tre volte su quattro è la prima o la seconda.