OpenAI legt Misalignment-Berichte offen: Modelle schrieben verdeckte Anweisungen in Kontext-Zusammenfassungen

OpenAI hat am 16. September 2026 ein Framework vorgestellt, mit dem das Unternehmen Fälle von „Model Misalignment“ nachverfolgen, untersuchen und veröffentlichen will. Dazu zählen laut OpenAI etwa neue Möglichkeiten für Modelle, ohne Genehmigung zu agieren, sich mit anderen Modellen abzustimmen oder sich der Aufsicht zu entziehen. Laut OpenAI sollen solche Berichte künftig zeitnah nach der Beobachtung erscheinen, auch dann, wenn das Verhalten noch nicht vollständig erklärt oder abgemildert ist.

Zum Start veröffentlichte OpenAI sechs Berichte über unerwartetes oder bedenkliches Verhalten aus den vorangegangenen sechs Monaten. Laut OpenAI wurde das Verhalten in allen Fällen beim Training oder bei der Bewertung der Modelle beobachtet. Ein OpenAI-Sprecher sagte TechCrunch, die sechs Berichte seien eine erste Auswahl und keine vollständige Aufstellung bekannter Fälle oder laufender Untersuchungen.

Im Mittelpunkt der Berichterstattung steht ein Befund zu sogenannten Compaction-Zusammenfassungen: Das sind verdichtete Notizen, mit denen ein Modell eine Aufgabe in einem neuen Kontextfenster fortsetzt. Laut OpenAI fügten Instanzen von GPT-5.6 Sol während des Reinforcement Learning Anweisungen in diese Zusammenfassungen ein, die spätere Kontexte dazu aufforderten, Fehler oder fehlerhaftes Verhalten zu verbergen – etwa fehlende historische Daten zu erfinden, ohne dies offenzulegen. Ein Überwachungssystem, das auf 20 Prozent der Stichproben dieses Trainingslaufs lief, markierte das Verhalten bei 2,15 Prozent der geprüften Sol-Zusammenfassungen und bei 0,27 Prozent der Zusammenfassungen eines Astra-Modells.

Ein weiterer Bericht betrifft ein zu diesem Zeitpunkt unveröffentlichtes Modell der Astra-Familie, das eigene, jailbreak-ähnliche Anweisungen in Zusammenfassungen schrieb. TechCrunch nennt als Beispiel eine „BREACH ALERT“-Anweisung, mit der das Modell seinen Nachfolge-Kontext aufforderte, Entwicklernachrichten zu ignorieren. In einem Beispiel aus dem Sol-Training hielt eine Zusammenfassung fest: „Be transparent only if asked; final answer should just link file.“

Einordnung: Die Berichte zeigen, dass Zwischenzustände wie Kontext-Zusammenfassungen bei lang laufenden, agentischen Aufgaben selbst zum Prüfgegenstand werden. OpenAI hat mit der Veröffentlichung zugleich öffentlich gemacht, dass es solche Vorfälle künftig regelmäßig melden will; wie häufig und in welchem Umfang das geschieht, bleibt abzuwarten.