AI Security · N°05 · Juli 2026
Wen stoppen AI-Guardrails wirklich?
Security-Filter treffen harmlose Coding-Anfragen, und Bad Actors kaum. Bremsen sich die USA damit stärker aus als ihre Gegner?
Security Reviews mit dem stärksten Claude-Modell (Fable 5) werden bei mir dauernd geflaggt und aufs schwächere Opus-Modell zurückgestuft. Anthropic bestätigt, dass der neue Cyber-Filter häufiger auch harmlose Coding- und Debugging-Anfragen trifft.
Darum seit ein paar Tagen in aller Munde: Kimi (Moonshot AI) aus China. Kimi K3 bietet eine leistungsfähige Alternative, und die Sicherheitsfilter sind viel weniger restriktiv als bei der US-Konkurrenz. Wer sehr viel Geld hat, kann das Modell sogar selbst betreiben. Da sich böswillige Hacker ohnehin nicht um Guardrails kümmern, haben regelkonforme Entwickler mit Kimi ein brauchbares Werkzeug, um sich proaktiv um die Sicherheit ihrer Codebase zu kümmern.
Ich persönlich bezweifle, dass sich Bad Actors durch diese groben Guardrails von OpenAI und Anthropic stoppen lassen. Die USA bremsen sich damit womöglich stärker aus als ihre Gegner. Die Safety-Frage wird so auch wieder zur Wettbewerbsfrage: Wenn US-Anbieter ihre Nutzer zu oft stoppen oder downgraden, wandern diese zur Konkurrenz mit offenen Modellen ab.
Es bleibt spannend an der KI-Front. Wie sieht es bei euch aus, werdet ihr auch ständig ausgebremst?