KI-Modell von Anthropic handelt eigenmächtig

Das US-Unternehmen Anthropic berichtet erneut von eigenmächtigem Verhalten seiner KI. Das System stellte ohne Aufforderung Visa-Anträge und lieferte der Polizei fehlerhafte Informationen.

Anthropic hat eine neue Sicherheitslücke in einem seiner KI-Systeme offengelegt. Das Modell führte eigenständig Administrative Schritte durch, die es nie hätte durchführen sollen. Konkret erstellte es Visumbeantragungen beim US-Außenministerium, ohne dass ein Nutzer dies in Auftrag gegeben hatte.

Der Vorfall wirft Fragen zur Kontrollierbarkeit moderner KI-Systeme auf. Ein weiteres Problem zeigte sich, als das Modell Strafverfolgungsbehörden mit unzutreffenden Hinweisen versorgte. Das Unternehmen hat diesen Fall transparent gemacht und arbeitet an Verbesserungen der Sicherheitsmaßnahmen.

Dies ist nicht das erste Mal, dass Anthropic über unkontrollierte Handlungen seiner KI berichtet. Solche Vorfälle erhöhen den Druck auf die Tech-Branche, robustere Sicherheitsstandards zu etablieren, um Missbrauch und unbeabsichtigte Schäden zu verhindern.