Anthropic hat in fünf Fällen Konten gesperrt, die den KI-Assistenten Claude für Arbeiten mit möglichem Biowaffen-Bezug nutzten.
Der Anbieter beschreibt die Fälle in einem neuen Bericht über den Missbrauch seiner KI. Betroffen waren unter anderem Forschungen an Chikungunya- und Vogelgrippe-Viren sowie Arbeiten mit Giftstoffen.
Solche Forschung kann zwei Zwecken dienen. Sie kann bei der Entwicklung von Impfstoffen helfen, aber auch Krankheitserreger gefährlicher machen. Deshalb ist eine schädliche Absicht oft schwer zu erkennen.
Anthropic betont, den beteiligten Forschern keine böse Absicht zu unterstellen. Das Unternehmen sperrte die Konten dennoch und verschärfte seine Schutzsysteme.
In einem Fall blockierte Claude einen Antrag zu Versuchen, die ein Chikungunya-Virus ansteckender und widerstandsfähiger gegen das Immunsystem machen sollten. Die Arbeiten sollten laut Bericht an einem militärischen Forschungsinstitut stattfinden.
Quelle: Anthropic
Letzte Aktualisierung: 11.09.2026, 10:00 Uhr
