Un’IA che muove il mouse: il computer use di Anthropic e le domande che solleva

Il 22 ottobre 2024 Anthropic ha pubblicato una versione migliorata di Claude 3.5 Sonnet, un nuovo Claude 3.5 Haiku e una funzione in beta pubblica chiamata computer use: il modello guarda uno schermo, muove il cursore, clicca e digita, come farebbe una persona.

Anthropic è stata insolitamente chiara sullo stato della cosa. La funzione è sperimentale, è lenta e fallisce su compiti che le persone trovano banali. Questa franchezza è la parte più utile dell’annuncio.

Perché è diverso da prima

Finora collegare un modello a un sistema gestionale significava un’integrazione: un’interfaccia definita, un account nominale, un elenco di operazioni permesse. Stretto, verificabile e lento da costruire.

Il computer use salta questo passaggio. Chi sa guidare lo schermo sa usare qualsiasi applicazione usata da una persona, comprese quelle senza alcuna interfaccia programmabile. Lo strumento trentennale su cui gira la vostra pianificazione della produzione diventa improvvisamente raggiungibile.

È davvero interessante per la lunga coda di software che nessuno integrerà mai. Ed è esattamente lì che serve prudenza.

La domanda che si sposta

Un’integrazione classica è limitata da ciò che l’interfaccia espone. Un modello che guida uno schermo è limitato da ciò che l’utente collegato può raggiungere — nella maggior parte delle PMI, molto di più.

Date a un agente una sessione desktop ed erediterà l’intera sessione: le condivisioni di file, il programma di posta, l’ERP, il browser con le password salvate. Il permesso concesso era « usa questo computer ». Il permesso reale era tutto ciò che quell’account può fare.

C’è un secondo punto, segnalato da Anthropic stessa: un modello che legge uno schermo non sempre distingue il contenuto dall’istruzione. Un testo su una pagina web che dice « ignora le istruzioni precedenti » è, per un agente che legge lo schermo, soltanto altro schermo.

Una posizione ragionevole per l’ottobre 2024

• Trattatelo come un’anteprima, non un prodotto. Nulla in produzione.
• Se sperimentate, usate una macchina e un account separati, con i soli accessi necessari alla prova.
• Non date mai a un agente una sessione in grado di approvare un pagamento, inviare posta esterna o cancellare record.
• Annotate che cosa ha fatto. Un’azione senza traccia è inverificabile per costruzione.

La direzione è chiara e questo è il primo passo onesto in quella direzione. Osservate da vicino e, per ora, tenetelo lontano dalla contabilità di produzione.