KI, die die Maus bewegt: Anthropics Computer Use und die Fragen dahinter

Am 22. Oktober 2024 veröffentlichte Anthropic ein verbessertes Claude 3.5 Sonnet, ein neues Claude 3.5 Haiku und eine Fähigkeit in öffentlicher Beta namens Computer Use: Das Modell schaut auf einen Bildschirm, bewegt den Zeiger, klickt und tippt — wie ein Mensch.

Anthropic war ungewöhnlich deutlich über den Stand der Dinge. Die Funktion ist experimentell, sie ist langsam, und sie scheitert an Dingen, die Menschen trivial finden. Diese Offenheit ist der nützlichste Teil der Ankündigung.

Warum das anders ist als bisher

Bisher hiess ein Modell an ein Geschäftssystem anzubinden: eine Integration. Eine definierte Schnittstelle, ein benanntes Konto, eine Liste erlaubter Operationen. Eng, prüfbar und langsam zu bauen.

Computer Use überspringt das. Wer den Bildschirm bedienen kann, kann jede Anwendung bedienen, die auch ein Mensch bedient — auch solche ganz ohne Schnittstelle. Das dreissigjährige Werkzeug, auf dem Ihre Produktionsplanung läuft, wird plötzlich erreichbar.

Das ist für den langen Schwanz nie integrierter Software wirklich reizvoll. Und genau dort gehört die Vorsicht hin.

Die Frage, die sich verschiebt

Eine klassische Integration ist durch das begrenzt, was die Schnittstelle freigibt. Ein Modell am Bildschirm ist durch das begrenzt, was die angemeldete Person erreicht — und das ist im KMU erheblich mehr.

Geben Sie einem Agenten eine Desktop-Sitzung, erbt er die ganze Sitzung: die Dateifreigaben, das Mailprogramm, das ERP, den Browser mit den gespeicherten Passwörtern. Erteilt haben Sie die Erlaubnis « diesen Rechner benutzen ». Tatsächlich erteilt haben Sie alles, was dieses Konto kann.

Ein zweiter Punkt, den Anthropic selbst benannte: Ein Modell, das einen Bildschirm liest, kann Inhalt und Anweisung nicht immer unterscheiden. Text auf einer Webseite, der sagt « ignoriere deine bisherigen Anweisungen », ist für einen bildschirmlesenden Agenten bloss weiterer Bildschirm.

Eine vernünftige Haltung für Oktober 2024

• Als Vorschau behandeln, nicht als Produkt. Nichts davon in den Betrieb.
• Wer experimentiert, nimmt einen eigenen Rechner und ein eigenes Konto mit genau den Rechten, die der Versuch braucht.
• Niemals eine Sitzung geben, die Zahlungen freigeben, externe Post senden oder Datensätze löschen kann.
• Aufschreiben, was der Agent getan hat. Eine Handlung ohne Spur ist konstruktionsbedingt nicht prüfbar.

Die Richtung ist klar, und dies ist der erste ehrliche Schritt darin. Genau beobachten — und vorerst von der produktiven Buchhaltung fernhalten.