Zehn Regierungen setzen sich zur KI-Sicherheit zusammen. Warum das ein KMU ein wenig angeht
Das internationale Netz der KI-Sicherheitsinstitute traf sich am 20. und 21. November 2024 erstmals in San Francisco. Das Ergebnis ist trocken und still nützlich.
Am 20. und 21. November 2024 kam das internationale Netz der KI-Sicherheitsinstitute erstmals in San Francisco zusammen, ausgerichtet vom US-Handels- und Aussenministerium. Angekündigt wurden eine gemeinsame Aufgabenerklärung, über 11 Millionen Dollar für Forschung zur Erkennung synthetischer Inhalte, Ergebnisse einer ersten multilateralen Modellprüfung und eine gemeinsame Erklärung zur Risikobewertung.
Nichts davon bindet jemanden. Es ist ein Netz technischer Institute, keine Aufsicht, und es erzeugt Befunde statt Regeln.
Warum es dennoch zählt
Weil hier gemeinsames Messen beginnt. Sagt Ihnen heute ein Anbieter, sein Modell sei sicher, genau oder verlässlich, steht hinter der Aussage kein gemeinsamer Massstab. Jedes Labor korrigiert seine eigenen Hausaufgaben mit eigenen Vergleichstests.
Eine multilaterale Prüfung — mehrere Institute bewerten dieselben Modelle nach abgestimmten Verfahren — ist die unglamouröse Vorarbeit dafür, irgendwann vergleichen zu können. Genau das fehlt der Beschaffung seit 2023.
Die Forschung zu synthetischen Inhalten zählt aus anderem Grund. Erzeugte Bilder, Tonspuren und Videos zu erkennen, ist heute ein gewöhnliches betriebliches Problem: Rechnungsbetrug, gefälschte Lieferantenpost, eine geklonte Stimme am Telefon, die eine Zahlung freigibt. Schweizer KMU sind Ziel, gerade weil sie klein genug sind, um keinen Prüfablauf zu haben.
Was diese Woche daraus folgt
Keine Regeländerung. Eine Gewohnheit und eine Notiz.
Die Gewohnheit: Bei jeder Anweisung, Geld zu bewegen oder Bankverbindungen zu ändern, verlangen Sie eine Bestätigung über einen zweiten Kanal, den nicht die Absenderin gewählt hat. Eine Stimme am Telefon ist kein Identitätsnachweis mehr — und ist es seit einiger Zeit nicht.
Die Notiz: Fragen Sie bei der nächsten Bewertung eines KI-Werkzeugs, welche externen Prüfungen das Modell durchlaufen hat. Im November 2024 werden die meisten « keine » sagen, und das ist eine ehrliche Antwort. In anderthalb Jahren wird sie es nicht mehr sein, und wer das kommen sah, hat vorgesorgt.