Anthropic stellt FlashProve vor, um KI-Modell-Ausgaben kryptografisch zu verifizieren

Image: TechCrunch · Source

Anthropic führt FlashProve ein, ein Open-Source-Kryptographiesystem, das die Überprüfung ermöglicht, ob KI-Antworten tatsächlich von bestimmten Modellen stammen, und so Vertrauen und Sicherheit bei der Nutzung von KI verbessert.

Anthropic hat FlashProve entwickelt, ein Open-Source-System, das darauf ausgelegt ist, kryptografisch die Identität von KI-Modellen zu verifizieren, die spezifische Ausgaben erzeugen. Veröffentlicht im November 2026, behandelt diese Forschung eine bedeutende Herausforderung bei KI-Interaktionen: Nutzer können derzeit nicht sicher sein, dass eine Antwort tatsächlich vom genau angegebenen KI-Modell des Anbieters stammt. FlashProve will dies lösen, indem es "nachweisbare Inferenz" ermöglicht und kryptografische Beweise liefert, dass eine bestimmte Antwort von einem angegebenen KI-Modell generiert wurde.

Das Problem entsteht, weil Organisationen oder böswillige Akteure Modelle ohne Wissen der Nutzer austauschen könnten – möglicherweise zu günstigeren Modellen wechseln oder Leistungsansprüche überhöhen. FlashProve zieht Parallelen zu kryptografischen E-Mail-Signaturen, da es Beweise an KI-Ausgaben anhängt, die unabhängig und schnell verifiziert werden können, selbst auf Geräten mit begrenzter Rechenleistung.

Technisch verwendet FlashProve sogenannte Zero-Knowledge Succinct Non-Interactive Arguments of Knowledge (zkSNARKs), eine Art kryptografisches Protokoll, das das Beweisen von Berechnungsbehauptungen ermöglicht, ohne sensible Daten wie interne Modellgewichte offenzulegen. Wichtig ist, dass das System von KI-Labors verlangt, einen "Fingerabdruck" oder eine Verpflichtung zu ihren Modellgewichten zu veröffentlichen. Diese Fingerabdrücke geben die Modellgewichte nicht preis, bewahren somit das geistige Eigentum und ermöglichen dennoch die Verifikation.

Leistungstechnisch kann für ein großes Mixture-of-Experts-Sprachmodell wie Llama 4 Maverick (400 Milliarden Parameter, 4-Bit-Quantisierung) ein Beweis mit etwa 110 Tokens pro Sekunde auf einer einzelnen Nvidia H100 GPU erzeugt werden, mit einer Beweisgröße von ungefähr 19 MB pro 1.024 Tokens. Die Verifikation auf einer typischen Mehrkern-CPU nimmt nur wenige Sekunden in Anspruch und benötigt keine spezielle Hardware. Während die Erzeugung von Beweisen rechnerisch intensiv ist – etwa 70 bis 95 Mal länger als die reine Inferenz – ist der Verifikationsprozess sehr ressourcenschonend.

Mögliche Anwendungen umfassen die Validierung, dass Ausgaben oder Analysen tatsächlich von fortgeschrittenen oder genehmigten Modellen stammen, was für Kunden, die KI-Dienste prüfen, oder Regulierungsbehörden, die Compliance durchsetzen, entscheidend ist. Zudem schützt es gegen Manipulation von Inferenzservern, da Angreifer ohne korrekte Modellgewichte keine gültigen Beweise fälschen können.

Anthropic veröffentlichte den FlashProve-Code, formale Verifikationsbeweise im Lean-Proof-Assistenten sowie umfangreiche technische Dokumentation unter der Open-Source-Apache-2.0-Lizenz und lädt die Community ein, auf ihrer Arbeit aufzubauen. Sie betonen, dass FlashProve ein Forschungsprototyp ist, noch nicht produktiv im Einsatz, mit laufenden Untersuchungen zur weiteren Verbesserung.

Indem FlashProve eine kryptografische Bestätigung von KI-Ausgaben ermöglicht, ohne proprietäre Modelldetails preiszugeben, stellt es einen bedeutenden Schritt dar, vertrauenswürdige KI-Systeme zu entwickeln, die von Nutzern, Bewertenden und Regulierungsbehörden zuverlässig geprüft und verifiziert werden können.