OpenAI stoppt teilweise Entwicklung aus Sicherheitsgründen

Der KI-Entwickler OpenAI bremst die interne Arbeit an einem neuen Modell. Hintergrund sind Bedenken, dass die KI für Cyberangriffe auf sensible Infrastruktur missbraucht werden könnte.

OpenAI hat die teilweise Entwicklung eines neuen KI-Modells unterbrochen. Anlass für diese Entscheidung sind Sicherheitsbedenken bezüglich der Fähigkeiten des Systems, das intern den Namen "Astra" trägt.

Das Unternehmen befürchtet, dass das Modell für gezielte Cyberangriffe auf stark gesicherte Ziele eingesetzt werden könnte. Die Fähigkeiten gelten als so kritisch, dass OpenAI die Weiterentwicklung in Teilen zum Stillstand gebracht hat.

Der Schritt verdeutlicht, dass führende KI-Hersteller verstärkt versuchen, Risiken bei der Entwicklung neuer Systeme zu erkennen und zu minimieren, bevor diese in Betrieb gehen.