Laplace Intelligence entwickelt KI-gesteuertes Red Teaming zur Belastungsprüfung von Robotern und autonomen Fahrzeugen

Image: Howie Sun, CEO, Laplace Intelligence.Image Credits:Laplace Intelligence · Source

Laplace Intelligence, ausgegründet aus der University of Michigan, setzt KI-Agenten in hochpräzisen realitätsnahen Simulationen ein, um proaktiv Fehlerquellen in Robotik und selbstfahrenden Autos vor dem Einsatz zu identifizieren und so Sicherheit und Zuverlässigkeit zu erhöhen.

Da KI-Systeme zunehmend von digitalen Umgebungen in physische Anwendungen wie Robotik und autonome Fahrzeuge übergehen, wird die Sicherstellung ihrer Zuverlässigkeit und Sicherheit vorrangig. Laplace Intelligence, ein Startup, das 2025 von den Forschern Howie Sun und Henry Liu von der University of Michigan gegründet wurde, begegnet dieser Herausforderung durch den Einsatz von KI-gesteuertem Red Teaming innerhalb interaktiver, hochpräziser Simulationen. Ihr Ansatz zielt darauf ab, potenzielle Fehlerquellen offenzulegen, bevor solche Systeme in die reale Welt gelangen.

Die Technologie von Laplace kombiniert detaillierte Simulationen, die auf realen Daten basieren, mit autonomen KI-Agenten, die dazu bestimmt sind, physische KI-Systeme zu prüfen und Belastungstests zu unterziehen. Die Simulationen werden mithilfe der Cosmos-Plattform von Nvidia aufgebaut, die eine präzise Rekonstruktion verschiedener Umgebungen ermöglicht – von Highways in Arizona bis zu Fußgängerüberwegen in Paris – unter Verwendung geografischer und visueller Daten wie Google Street View-Bildern. Nutzer können Szenarien dynamisch anpassen und Echtzeitbedingungen wie Verkehrsaufkommen von Anbietern wie TomTom integrieren.

Was Laplace besonders macht, ist der Fokus auf KI-Agenten, die aktiv seltene und herausfordernde Szenarien erzeugen, sogenannte Eckfälle, um autonome Systeme zu testen. Diese Fälle können aus vielfältigen Quellen stammen, darunter Nachrichtenereignisse und Polizeiberichte zu Unfällen, und bringen die physische KI dazu, mit unvorhergesehenen oder schwierigen Situationen umzugehen. Dies stellt eine Abkehr von traditionellen Testmethoden dar, die auf menschengemachten Szenarien oder aufgezeichnetem Material basieren.

Das Unternehmen hat erste Erfolge vor allem im Bereich autonomes Fahren erzielt. Zu den Kunden zählen der japanische Lkw-Hersteller Isuzu, die autonome Trucking-Firma Bot Auto in Texas sowie Nvidia, mit denen Laplace gemeinsam mit T-Mobile ein Pilotprojekt für Smart Cities in San Jose, Kalifornien, durchführt. Frühe Engagements betreffen zudem humanoide Roboter, die in Lagerhäusern eingesetzt werden. Obwohl noch in einem frühen Stadium, generiert Laplace bereits Umsätze und arbeitet profitabel.

Sun, Mitgründer von Laplace, betont, dass ihre Methodik ein neues Paradigma im Testen physischer KI darstelle, die Tests in einen dynamischen, interaktiven Prozess verwandle, der Fehler besser vorhersagen und verhindern könne. Ihre Arbeit baut auf akademischen Forschungen auf, die zuvor in der Fachzeitschrift Nature veröffentlicht wurden, und unterstreicht die wissenschaftliche Fundierung des Produkts der Startup-Firma.

Mit Wettbewerbern wie Applied Intuition, die über umfangreiche Finanzierung und Marktpräsenz verfügen, plant Laplace, durch bevorstehende Finanzierungsrunden und stärkere Marktpenetration zu wachsen. Die Teilnahme an Wettbewerben wie dem Startup Battlefield von TechCrunch Disrupt trägt dazu bei, das Profil des Startups zu schärfen, da es bestrebt ist, ein vertrauenswürdiger Anbieter rigoroser KI-Sicherheitstests für Robotik und autonome Fahrzeuge zu werden.

Zusammenfassend nutzt Laplace Intelligence KI dazu, KI zu testen, indem realistische, adaptive Simulationen geschaffen werden, die Schwachstellen vor dem realen Einsatz aufdecken. Dieser Fokus auf präventive Fehlererkennung spiegelt die zunehmende Notwendigkeit wider, sicherzustellen, dass physische KI-Systeme sicher und zuverlässig funktionieren, wenn sie weiter verbreitet werden.