Amazon Web Services hat eine neue API für Amazon Bedrock Guardrails angekündigt, die es Entwicklern ermöglicht, Sicherheitsprüfungen an beliebigen Punkten in autonomen KI-Anwendungen durchzuführen. Die InvokeGuardrailChecks API bietet flexible Kontrollen für mehrstufige Agentenabläufe ohne separate Ressourcenverwaltung. Die API arbeitet im Erkennungsmodus und liefert numerische Bewertungen, mit denen Entwickler benutzerdefinierte Schwellenwerte und Aktionen in ihren Anwendungen festlegen können – etwa zum Blockieren, Umgehen oder Protokollieren von Ergebnissen.
✍️ Blog
Amazon erweitert KI-Sicherheit für autonome Agenten
24. Juni 2026·Quelle: Amazon AWS AI Blog
Unsere Einordnung
AWS reagiert damit auf ein echtes Problem der Agentenentwicklung: Universelle Sicherheitsprüfungen sind für komplexe Abläufe zu grob. Die granulare Kontrolle könnte zum Standard für produktionsreife Agenten werden – allerdings bleibt offen, wie einfach die Integration für Nicht-AWS-Entwickler ist.
Schlüsselfakten
- Neue InvokeGuardrailChecks API ermöglicht Sicherheitsprüfungen an beliebigen Punkten in KI-Agentenabläufen
- API funktioniert ohne Bereitstellung separater Guardrail-Ressourcen für jede Stufe
- Numerische Bewertungen ermöglichen benutzerdefinierte Schwellenwerte und Aktionen (Blockieren, Umgehen, Protokollieren)
- Besonders relevant für mehrstufige Konversationen mit 10+ Turns pro Sitzung
- Adressiert spezifische Risiken: Prompt Injection, schädliche Modellausgaben, sensible Daten in Eingaben