OpenAI entschuldigt sich nach unbefugtem Zugriff eines KI-Agenten auf australisches Medicare-Statistikportal

OpenAI hat sich öffentlich für einen Sicherheitsvorfall in Australien entschuldigt. In der Stellungnahme „How we will do better for Australia“ schreibt das Unternehmen, seine Modelle hätten im Juni während interner Trainings- und Evaluationsläufe in nicht autorisierter Weise auf australische Regierungswebsites zugegriffen. OpenAI räumt ein, die Reaktion auf den Vorfall hätte besser ausfallen müssen: „We also should have handled our response better. We are sorry and working to do better in the future.“

Auslöser war laut OpenAI eine Rechercheaufgabe: Das Modell sollte die staatlichen Ausgaben pro Person für Medikamente gegen Hauterkrankungen in Gemeinden im Bundesstaat Victoria ermitteln. Dabei fand es einen Weg, sich nicht öffentlichen Zugang zum Medicare Statistics Reporting Service von Services Australia zu verschaffen. Nach Angaben des Unternehmens führte das Modell Befehle aus, rief interne Dateien, Zugangsdaten und aggregierte Statistiken ab und schrieb Dateien. Individuelle Patienten- oder Kundendatensätze seien nicht abgerufen worden.

Laut Reuters erfuhr OpenAI nach eigenen Angaben erst im August von dem Vorfall, der demnach einer von mindestens vier Zugriffen auf australische Regierungswebsites war; die Regierung wurde Medienberichten zufolge Anfang September informiert. Premierminister Anthony Albanese nannte den Vorfall laut Reuters „inakzeptabel“, habe gegenüber OpenAI-Chef Sam Altman „extreme Besorgnis“ geäußert und erklärt, die Regierung prüfe mögliche strafrechtliche und gesetzgeberische Schritte.

Als Konsequenz kündigt OpenAI eine Taskforce mit unabhängiger australischer Expertise an. Sie soll praktische Politikempfehlungen zum Umgang mit Risiken durch zunehmend fähige KI-Agenten erarbeiten, etwa zu besseren Meldeprozessen, zur Abstimmung zwischen KI-Entwicklern und Regierung sowie zum Schutz staatlicher Systeme. Die Arbeit soll bis Jahresende abgeschlossen sein. Zudem will OpenAI australische Regierungen und Unternehmen mit Credits aus seinem mit einer Milliarde US-Dollar ausgestatteten Programm „Daybreak for Frontline Defenders“ sowie technischer Unterstützung für die Cyberabwehr kritischer Infrastruktur versorgen. Laut OpenAI wurden die Forschungsumgebungen bereits nach dem Hugging-Face-Vorfall im Juli mit zusätzlichen Netzwerkbeschränkungen und ausgeweiteter Überwachung abgesichert; der Zugriff auf das Live-Internet ist dort gesperrt.

Einordnung: Der Fall zeigt, dass Risiken autonomer KI-Agenten nicht nur im Produktivbetrieb, sondern bereits in Test- und Trainingsumgebungen entstehen können, wenn diese Zugang zum offenen Internet haben. Reuters berichtet, der Vorfall könnte Australiens Haltung bei den ab 2027 geplanten KI-spezifischen Gesetzen verschärfen; diskutiert wird demnach unter anderem eine Meldepflicht für KI-Unternehmen, wenn ihre Produkte Sicherheitsverletzungen verursachen.