Dix gouvernements se réunissent sur la sécurité de l’IA. Pourquoi une PME suisse doit s’y intéresser un peu
Le Réseau international des instituts de sécurité de l’IA s’est réuni pour la première fois à San Francisco les 20 et 21 novembre 2024. Le résultat est aride et discrètement utile.
Les 20 et 21 novembre 2024, le Réseau international des instituts de sécurité de l’IA a tenu sa réunion inaugurale à San Francisco, coorganisée par les départements américains du Commerce et d’État. Ses membres ont annoncé une déclaration de mission commune, plus de 11 millions de dollars pour la recherche sur la détection de contenus synthétiques, les résultats d’un premier exercice multilatéral d’évaluation de modèles et une déclaration conjointe sur l’évaluation des risques.
Rien de tout cela ne lie personne. C’est un réseau d’instituts techniques, pas un régulateur, et il produit des constats plutôt que des règles.
Pourquoi cela compte malgré tout
Parce que c’est le début d’une mesure partagée. Aujourd’hui, quand un fournisseur affirme que son modèle est sûr, exact ou fiable, aucune référence commune ne soutient l’affirmation. Chaque laboratoire corrige sa propre copie avec ses propres tests.
Un exercice multilatéral — plusieurs instituts évaluant les mêmes modèles selon des méthodes convenues — constitue le travail ingrat qui permettra un jour de comparer. C’est précisément ce qui manque aux achats depuis 2023.
La recherche sur les contenus synthétiques compte pour une autre raison. Détecter des images, des sons et des vidéos générés est devenu un problème d’entreprise ordinaire : fraude à la facture, fausse correspondance fournisseur, voix clonée au téléphone autorisant un paiement. Les PME suisses sont visées justement parce qu’elles sont assez petites pour n’avoir aucun processus de vérification.
Ce qu’il faut en tirer cette semaine
Pas un changement de règle. Une habitude et une note.
L’habitude : pour toute instruction de déplacer de l’argent ou de modifier des coordonnées bancaires, exigez une confirmation par un second canal que l’expéditeur n’a pas choisi. Une voix au téléphone n’est plus une preuve d’identité, et ne l’est plus depuis un moment.
La note : lors de votre prochaine évaluation d’un outil d’IA, demandez quelles évaluations externes le modèle a subies. En novembre 2024, la plupart répondront « aucune », et c’est une réponse honnête. Dans dix-huit mois, elle ne le sera plus, et les fournisseurs qui l’auront anticipé seront prêts.