OpenAI stoppt Kampagne zur Extraktion von Modell-Reasoning und sieht Kern im Umfeld von Moonshot AI

OpenAI hat in dem Beitrag „Disrupting a coordinated model-distillation campaign“ eine Aktivität offengelegt, bei der geschütztes Reasoning seiner Modelle systematisch und in koordinierter Weise reproduziert werden sollte. Nach Darstellung des Unternehmens verstieß das Vorgehen gegen die Nutzungsbedingungen. Als adversarial distillation bezeichnet OpenAI die systematische und unbefugte Nutzung der Ausgaben oder des Reasonings eines Modells, um ein anderes Modell zu trainieren, nachzubauen oder zu verbessern.

Laut Berichten über die Veröffentlichung wurde die früheste Aktivität in der ersten Juliwoche beobachtet. Am 24. und 25. Juli seien zusammen 16.000 Anfragen von mehr als 4.000 Nutzern registriert worden. Die spätere Analyse habe verwandte Prompt-Muster bei einem Cluster von mehr als 15.000 Nutzern gefunden. Eingedämmt war die Aktivität laut Berichten bis zum 28. Juli.

Technisch handelte es sich Berichten zufolge nicht um einen Einbruch: Die Beteiligten hätten weder Verschlüsselung gebrochen noch eine Datenbank kompromittiert oder Zugriff auf gespeicherte Nutzerkonversationen erlangt. Stattdessen sei die Interaktion mit Modellen so manipuliert worden, dass geschütztes Reasoning in einer für den Anfragenden sichtbaren Form wiedergegeben wurde.

OpenAI ordnet den Kern der Kampagne Personen aus dem Umfeld von Moonshot AI zu, dem Entwickler der Kimi-Modelle, betont aber, es sei unklar, ob alle beobachteten Akteure von einer einzigen Stelle ausgingen. Eine Stellungnahme von Moonshot AI enthalten die verlinkten Berichte nicht; CyberScoop hat nach eigenen Angaben um einen Kommentar gebeten. Als Gegenmaßnahmen nennen Berichte gesperrte Konten, strengere Prüfungen bei der Registrierung sowie den Austausch der Erkenntnisse mit dem Frontier Model Forum und staatlichen Stellen.

Einordnung: Die Zuordnung zu Moonshot stammt von OpenAI; laut CyberScoop nennt der Beitrag dafür keine technischen Belege.