Dieser Artikel ist eine KI-generierte Übersetzung aus dem Niederländischen ins Deutsche.
Sprache ist das schwächste Glied in der KI-Sicherheit. Eine neue Studie unter der Leitung von Cristóbal Sendin von ML6 testete vier weit verbreitete Schutzsysteme – Cisco AI Defense, AWS, Google Cloud und Microsoft Azure –, indem sie Hunderte von adversarialen Eingabeaufforderungen in verschiedenen Sprachen auf sie abfeuerte. Die Ergebnisse decken einen deutlichen blinden Fleck auf: Schutzmechanismen schneiden außerhalb des Englischen deutlich schlechter ab. Eine böswillige Eingabe, die im Englischen in 97 von 100 Fällen blockiert wird, rutscht im Niederländischen oder Deutschen häufiger durch – und in weniger verbreiteten Sprachen sogar noch häufiger.
Die Studie ergab zudem, dass Anbieter bewusste Kompromisse zwischen Strenge und Benutzerfreundlichkeit eingehen. AWS beispielsweise war deutlich toleranter – eine Entscheidung, die laut Unternehmensangaben dessen Philosophie widerspiegelt, einer reibungslosen Entwicklererfahrung Vorrang vor aggressiven Blockierungen zu geben.
Mehrstufige Angriffe erwiesen sich als noch schwerer zu erkennen als einzelne Eingabeaufforderungen. Jan Heijdra von Cisco stellt fest, dass einige Modelle bis zu 90 % der mehrstufigen Angriffe nicht abwehren können. Dabei lenken Angreifer eine Unterhaltung schrittweise in schädliche Bahnen, anstatt ihre Absicht offen zu bekunden – ein Ansatz, der besonders effektiv gegen Open-Weight-Modelle ist.
Die Untersuchung unterstreicht den wachsenden Bedarf an Schutzmechanismen, die sowohl die sprachliche Vielfalt als auch den Konversationskontext berücksichtigen und nicht nur isolierte Eingabeaufforderungen.
(Übersetzung, Originalquelle: Niederländisch)
Lesen Sie mehr im Original-Nachrichtenartikel.
Lesen Sie den Original-Blogbeitrag, der dieses Interview inspiriert hat.
BlogInside AI Guardrails: a benchmark on enterprise LLM security
We benchmarked four major LLM guardrail providers on 80,000 Dutch-language prompts. See how Cisco, AWS, Azure, and Google compare on security, false positives, and real-world usability challenges.