Qwen3Guard: Alibaba veröffentlicht Guardrail-Modelle mit Echtzeit-Prüfung des Token-Streams

Alibabas Qwen-Team hat im September 2025 Qwen3Guard veröffentlicht, eine Serie von Guardrail-Modellen auf Basis von Qwen3. Die Modelle sollen Prompts und Modellantworten auf Sicherheitsrisiken prüfen. Nach Angaben des Teams unterstützen sie 119 Sprachen und Dialekte.

Die Serie gibt es in drei Größen mit 0,6, 4 und 8 Milliarden Parametern und in zwei Varianten. Qwen3Guard-Gen ist ein generatives Modell, das vollständige Nutzer-Prompts und Modellantworten klassifiziert. Qwen3Guard-Stream hat einen Klassifikationskopf auf Token-Ebene und kann Texte deshalb schon während der schrittweisen Generierung überwachen.

Statt nur zwischen sicher und unsicher zu unterscheiden, arbeitet Qwen3Guard mit drei Schweregraden: „Safe“, „Controversial“ und „Unsafe“. So lässt sich die Strenge an unterschiedliche Einsatzszenarien anpassen. Das Repository nennt neun Kategorien, darunter Gewalt, nicht gewalttätige illegale Handlungen, sexuelle Inhalte, personenbezogene Daten, Suizid und Selbstverletzung, politisch sensible Themen, Urheberrechtsverletzungen und Jailbreaks.

Trainiert wurden die Modelle laut Qwen auf 1,19 Millionen Prompts und Antworten mit Sicherheitslabels. Sie sind über Hugging Face und ModelScope verfügbar und stehen unter Apache-2.0-Lizenz. Ein technischer Bericht ist auf arXiv erschienen (arXiv:2510.14276). Ende September 2025 folgte zusätzlich Qwen3-4B-SafeRL, ein per Reinforcement Learning mit Feedback von Qwen3Guard-Gen-4B nachtrainiertes Modell.