Dieci governi si siedono attorno alla sicurezza dell’IA. Perché una PMI svizzera deve interessarsene un po’
La Rete internazionale degli istituti per la sicurezza dell’IA si è riunita per la prima volta a San Francisco il 20 e 21 novembre 2024. L’esito è arido e silenziosamente utile.
Il 20 e 21 novembre 2024 la Rete internazionale degli istituti per la sicurezza dell’IA ha tenuto il suo primo incontro a San Francisco, organizzato dai dipartimenti statunitensi del Commercio e di Stato. I membri hanno annunciato una dichiarazione di missione comune, oltre 11 milioni di dollari per la ricerca sul riconoscimento dei contenuti sintetici, i risultati di un primo esercizio multilaterale di valutazione dei modelli e una dichiarazione congiunta sulla valutazione dei rischi.
Nulla di tutto questo vincola nessuno. È una rete di istituti tecnici, non un’autorità di vigilanza, e produce constatazioni anziché regole.
Perché conta lo stesso
Perché è l’inizio di una misura condivisa. Oggi, quando un fornitore dice che il suo modello è sicuro, accurato o affidabile, dietro l’affermazione non c’è alcun metro comune. Ogni laboratorio corregge i propri compiti con i propri test.
Un esercizio multilaterale — più istituti che valutano gli stessi modelli con metodi concordati — è il lavoro poco appariscente che un giorno permetterà di confrontare. È esattamente ciò che manca agli acquisti dal 2023.
La ricerca sui contenuti sintetici conta per un altro motivo. Riconoscere immagini, audio e video generati è ormai un normale problema aziendale: frode sulle fatture, falsa corrispondenza di un fornitore, una voce clonata al telefono che autorizza un pagamento. Le PMI svizzere sono un bersaglio proprio perché sono abbastanza piccole da non avere alcuna procedura di verifica.
Che cosa portarsi a casa questa settimana
Non un cambio di regole. Un’abitudine e una nota.
L’abitudine: per qualsiasi istruzione di muovere denaro o cambiare coordinate bancarie, pretendete conferma su un secondo canale non scelto dal mittente. Una voce al telefono non è più una prova d’identità, e non lo è da un pezzo.
La nota: alla prossima valutazione di uno strumento di IA, chiedete quali valutazioni esterne abbia superato il modello. Nel novembre 2024 la maggior parte dirà « nessuna », ed è una risposta onesta. Fra diciotto mesi non lo sarà più, e i fornitori che l’hanno previsto si saranno preparati.