OpenAI legt Prinzipien für externe Sicherheitsprüfungen seiner Modelle vor

OpenAI hat ein Grundsatzpapier zu unabhängigen Prüfungen („third party assessments“) seiner Frontier-Modelle veröffentlicht. Das Unternehmen verpflichtet sich darin, externe Prüfer mit weitreichendem Zugang über Training, Evaluierung und Deployment hinweg zu unterstützen. Dieser Zugang solle es ihnen ermöglichen, OpenAIs Annahmen zu hinterfragen, übersehene Risiken zu identifizieren und zu eigenen Schlüssen über die Wirksamkeit der Schutzmaßnahmen zu kommen.

Das Papier nennt vier Prioritäten: die Bewertung übergreifender Safety Cases, die Prüfung kritischer Schutzmaßnahmen wie Jailbreak-Resistenz, Misalignment-Monitore und Cyberabwehr, die Überprüfung von Fähigkeitsbewertungen in den Risikokategorien des Preparedness Framework (chemisch/biologisch, Cybersicherheit, KI-Selbstverbesserung) und von Alignment-Evaluierungen zu Misalignment-Risiken sowie die unabhängige Untersuchung kritischer Misalignment-Vorfälle.

Als Grundsätze für Prüfer und Labore führt OpenAI unter anderem klar abgegrenzte und vorab festgelegte Prüfaussagen, verhältnismäßigen Zugang, transparente Methodik, Unabhängigkeit der Prüfer samt Offenlegung von Interessenkonflikten, strenge Sicherheits- und Vertraulichkeitsregeln, umsetzbare Ergebnisse mit Zeit zur Behebung sowie eine verantwortungsvolle Veröffentlichung an. Zudem will OpenAI auf klarere, gemeinsame internationale Standards für solche Prüfungen hinwirken.