OpenAI startet auf Cybersicherheit fokussiertes KI-Modell angesichts wachsender digitaler Bedrohungen

Image: TechCrunch · Source

OpenAI stellt ChatGPT Cyber vor, ein neues KI-Modell zur Stärkung der Cybersicherheitsabwehr durch Entdeckung und Behebung von Software-Schwachstellen als Antwort auf zunehmende Bedenken zu KI-gestütztem Hacking.

OpenAI hat ein spezialisiertes KI-Modell für Cybersicherheit namens ChatGPT Cyber vorgestellt, das darauf abzielt, Software-Schwachstellen zu erkennen und zu beheben, um kritische digitale Infrastrukturen zu schützen. Diese Veröffentlichung erfolgt, während KI-gestützte Werkzeuge zunehmend sowohl Cybersicherheitsverteidigern als auch potenziellen Angreifern helfen.

Die Bedeutung solcher Modelle hob Max Justicz, CTO und Mitgründer von Charge Robotics, hervor, der ein früheres OpenAI-Modell, GPT 5.6 Sol, nutzte, um eine schwerwiegende Schwachstelle im weit verbreiteten Linux-basierten Betriebssystem Ubuntu aufzudecken. Indem er die KI anwies, Fehler von vergleichbarer Schwere zu einem zuvor behobenen Problem zu finden, entdeckte das Modell einen komplexen Exploit, mit dem Hacker die Kontrolle über Server übernehmen könnten, falls er ausgenutzt wird. Dieser Befund wurde an das Debian-Projekt gemeldet, das umgehend einen Patch veröffentlichte; es gibt keine Hinweise darauf, dass die Schwachstelle in freier Wildbahn ausgenutzt wurde.

Das neu veröffentlichte Modell von OpenAI steht Teilnehmenden der Spitzenklasse im firmeneigenen Daybreak-Cybersicherheitsprogramm zur Verfügung, speziell im Bereich Daybreak Red, der sich auf offensive Sicherheitsforschung und Schwachstellenjagd konzentriert. OpenAI gab bekannt, dass dieses Modell kürzlich den Linux-Kernel durchsucht und 948 potenzielle Schwachstellen identifiziert hat, sowie zusätzlich 81 neue Schwachstellen im Firefox entdeckte, was die Fähigkeit der KI zeigt, Sicherheitsprüfungen erheblich zu verbessern.

Zur Stärkung der Verteidigungsbemühungen in der Branche hat OpenAI eine Initiative über 1 Milliarde US-Dollar angekündigt, die Cybersicherheitsfachleute unterstützt, die in kritischen Infrastruktursektoren wie Stromnetzen und Wassersystemen tätig sind. Das Programm erntete jedoch auch Kritik wegen des eingeschränkten Zugangs zu leistungsstarken Funktionen, was einige Experten als Einschränkung der Verteidiger im Vergleich zu Angreifern sehen, die möglicherweise unkontrollierte Open-Weight-KI-Modelle nutzen.

Trotz der Teilnahme von Tausenden von Cybersicherheitsexperten ist die Größe der Gruppe im Vergleich zur großen Anzahl potenziell bösartiger Akteure gering. OpenAI erkennt dieses Ungleichgewicht an und widmet einen erheblichen Teil seiner fortschrittlichen Rechenressourcen pro bono der Entdeckung und Behebung von Schwachstellen in Open-Source-Codebasen. Dennoch sind die Kosten dieses Engagements, wie die Jagd nach Linux-Fehlern in Höhe von 1,2 Millionen US-Dollar, im Vergleich zu anderen großangelegten KI-Projekten moderat.

Das Aufkommen von ChatGPT Cyber unterstreicht den dringenden Bedarf, dass die Cybersicherheitsgemeinschaft neueste KI-Technologie schnell nutzt. Mit dem Fortschritt von KI-Modellen verkleinert sich das Risikofenster, wodurch koordinierte Anstrengungen zur Identifikation und Behebung von Schwachstellen zunehmend dringlich werden, um die digitale Infrastruktur zu schützen, die die moderne Gesellschaft trägt.