Anthropic blockiert gefährliche KI-Missbrauchsfälle

Der KI-Entwickler Anthropic hat eigenen Angaben zufolge mehrere Versuche gestoppt, sein Sprachmodell für illegale Zwecke zu nutzen – darunter auch Anfragen zu Biowaffen und mutmaßliche russische Cyberangriffe.

Das amerikanische Unternehmen Anthropic hat Sicherheitsmaßnahmen gegen den Missbrauch seiner künstlichen Intelligenz aktiviert. Demnach wurden mehrere verdächtige Anfragen an das KI-Modell erkannt und blockiert.

Laut Unternehmensangaben richteten sich einige dieser Versuche auf die Recherche zu biologischen Waffen. Parallel verzeichnete Anthropic auch Aktivitäten, die als Cyberspionage aus Russland eingestuft werden könnten.

Das Unternehmen betont damit die Bedeutung von Sicherheitsvorkehrungen in der KI-Entwicklung. Hersteller solcher Systeme sehen sich zunehmend mit der Herausforderung konfrontiert, missbrauchliche Nutzung zu unterbinden, ohne die legitime Anwendung einzuschränken.