Sam Altman fordert vor dem UN-Sicherheitsrat internationale KI-Standards

OpenAI-CEO Sam Altman hat am 23. September 2026 vor dem Sicherheitsrat der Vereinten Nationen zu künstlicher Intelligenz gesprochen. OpenAI veröffentlichte die Rede anschließend auf seiner Website. Bei derselben Sitzung trat auch Anthropic-CEO Dario Amodei auf.

Altman beschrieb zwei große Risiken: dass die Menschheit die Kontrolle über die Zukunft an KI verliert und dass sich Macht in zu wenigen Händen konzentriert. KI könne entweder eher einer neuen Renaissance der Kreativität und Entdeckung gleichen oder eher einer neuen industriellen Revolution mit Umbruch und Unordnung, sagte er.

Konkret forderte Altman internationale Standards für das Messen von Fähigkeiten, die Risikobewertung, die Prüfung, ob Schutzmaßnahmen ausreichen, und den Erhalt sinnvoller menschlicher Aufsicht. Die wichtigsten Entscheidungen dürften nicht allein von Laboren in San Francisco getroffen werden, sondern müssten durch demokratische Prozesse und von Regierungen gestaltet werden, die den Menschen gegenüber rechenschaftspflichtig sind. Kein Einzelner, kein Unternehmen und kein Land solle leistungsfähige KI nutzen, um anderen seine Weltsicht aufzuzwingen. OpenAI habe in der Vergangenheit einseitig das Tempo gedrosselt und werde das wieder tun.

Amodei forderte laut Axios ein Abkommen, das den Einsatz von KI zur Herstellung biologischer Waffen verbietet, neue Evaluierungs- und Verifikationssysteme, gemeinsame Standards zum Testen von Modellen auf Risiken sowie ein Benachrichtigungssystem für globale Sicherheitsbedenken.

Die Vorschläge standen im Kontrast zur Position von US-Präsident Donald Trump, der vor der UN erklärte, die USA wollten KI-Entwicklung fördern statt bremsen, und laut CNBC ein „globalist scheme“ zur Kontrolle von KI kritisierte. Axios beschreibt den Auftritt der KI-Manager als Unterrichtung (Briefing) von UN-Vertretern; von verbindlichen Beschlüssen ist in den Berichten von Axios und CNBC nicht die Rede.