OpenAI veröffentlichte am 20. November eine Studie, in der erläutert wird, wie andere daran gehindert werden können, die Modellausgabe zum Trainieren von „Nachahmerversionen“ zu verwenden. entsprechend Offizieller OpenAI-ArtikelNachdem die neue Version von GPT-6.2 Astra den Schutz verstärkt hat, ist die Erfolgsquote von Angreifern, die versuchen, den internen Argumentationsprozess des Modells zu stehlen, von 54 % in der alten Version auf 0,2 % gesunken.

OpenAI enthüllte außerdem, dass es in diesem Jahr viele organisierte Diebstähle auf der Plattform gegeben habe und die Zahl der gesperrten Konten pro Woche zwischen Tausenden und Zehntausenden schwanke. Die Geschwindigkeit der Sperrungen hat sich in diesem Sommer deutlich beschleunigt.

Was ist Destillation: Unterrichten Sie kleine Modelle mit Antworten von großen Modellen

„Destillation“ ist eine gängige Modelltrainingsmethode, die es einem Modell ermöglicht, die Antworten, Argumentationsprozesse oder Urteile eines anderen Modells zu lernen. OpenAI sagte, dass die unbefugte Destillation Probleme mit geistigen Eigentumsrechten beseitigt und das größere Risiko darin besteht, dass das Studentenmodell Fähigkeiten erlernt, ohne die Sicherheitsbeschränkungen des ursprünglichen Modells zu erben.

Als Beispiel nennt OpenAI die Informationssicherheit: Seine Fähigkeit, Verteidigern bei der Suche nach Software-Schwachstellen zu helfen, kann auch für Angriffe genutzt werden. Wenn diese Funktion auf ein weniger geschütztes Modell kopiert wird, kann das neue Modell Anforderungen erfüllen, die andernfalls abgelehnt würden.

Internes Experiment: Erlernen Sie den gesamten Argumentationsprozess und übertragen Sie weitere Informationssicherheitsfunktionen

OpenAI führte eine Reihe interner Experimente mit demselben vorab trainierten Modell wie ein Student durch und trainierte es mit einer vollständigen Aufzeichnung von Modellen auf Astra-Ebene, die Programmierung und defensive Sicherheitsaufgaben übernehmen. Eine Gruppe betrachtete nur den Inhalt, den normale Benutzer sehen können, einschließlich der endgültigen Antwort, der Zusammenfassung der Argumentation und der Werkzeugbedienung. Die andere Gruppe betrachtete den gesamten Argumentationsprozess.

Das Ergebnis ist, dass Schüler, die den gesamten Argumentationsprozess gesehen haben, nach der Feinabstimmung unter Aufsicht im Sicherheitstest im Allgemeinen bessere Ergebnisse erzielen. Nach einer weiteren Runde des verstärkenden Lernens liegen sie bei der im Test angegebenen Höchstzahl an Berechnungen immer noch vorne. Wenn die Anzahl der Berechnungen geringer ist, schneiden Studierende, die nur die Zusammenfassung lesen, besser ab. OpenAI kam zu dem Schluss, dass der Schutz des Argumentationsprozesses die Übertragung von Sicherheitsfunktionen einschränken kann, selbst wenn die ursprüngliche Aufgabe vollständig mit der Nutzungsspezifikation übereinstimmt.

Die Erfolgsquote der Angriffe sank von 54 % auf 0,2 %.

OpenAI nutzt ein automatisiertes KI-Red-Team, um die Schutzwirkung zu testen. Der Angreifer passt die Methode entsprechend der Systemreaktion an und stellt die Ergebnisse von sechs Angriffsmodellen zusammen. Wenn Sie den Argumentationsprozess der vorherigen Antwort des Modells stehlen möchten, ist die Erfolgsquote von 54,0 % unter dem ursprünglichen Schutz von GPT-6 Astra auf 0,2 % von GPT-6.2 Astra gesunken; Wenn Sie den Argumentationsprozess der aktuellen Antwort stehlen möchten, ist dieser von 22,9 % auf 0,9 % gesunken.

Der Schutz ist in zwei Schichten unterteilt. Mit einer einzigen Anfrage an diese Ebene wird das Modell darauf trainiert, Klischees zu erkennen und abzulehnen. Sowohl Eingabe als auch Ausgabe werden durch Klassifikatoren überprüft. Sogar die Parameter des Tool-Aufrufs werden überprüft, um zu verhindern, dass der Inferenzprozess nach außen dringt. GPT-6.2 Astra und Sol verknüpfen den Inhalt der Argumentation auch mit der Konversation, die ihn hervorgebracht hat. Wenn die vorherige Nachricht umgeschrieben wird, ist die nachfolgende Begründung ungültig. Ältere und schwächer geschützte Modelle können den Argumentationsinhalt des neuen Modells nicht lesen.

Die andere Ebene besteht darin, den gesamten Vorgang aufzuspüren. Wenn das System einen organisierten Diebstahl erkennt, untersucht es das dahinter stehende Kontonetzwerk, geht stapelweise damit um und teilt die Einbruchsindikatoren mit anderen Modellbetreibern. OpenAI sagte, dass einige der neuen Schutzmaßnahmen auch für GPT-6 Astra gelten werden.

Benannt nach DeepSeek und Dark Side of the Moon, drückten sie ihre Unterstützung für den Gesetzentwurf zur Chipkontrolle aus

OpenAI positioniert die Destillation auch als nationales Sicherheitsproblem. In dem Artikel heißt es, dass es den Kongress im Februar über den Versuch von DeepSeek informiert habe, das US-Spitzenmodell zu destillieren; Im September demontierte es öffentlich eine Operation, die darauf abzielte, den Denkprozess zu stehlen, und machte für den Kernteil Personen verantwortlich, die mit der Dunklen Seite des Mondes in Verbindung standen und Kimi entwickelt hatten. Aktuellere Fälle werden später bekannt gegeben. Auch Chain News berichtete Ende Oktober DeepSeek und Dark Side of the Moon verlassen sich auf destillierte OpenAI-Modelle, um neue Modelle zu trainieren。

OpenAI brachte seine Unterstützung dafür zum Ausdruck, der US-Regierung mehr Instrumente zur Verfügung zu stellen, um ausländische Akteure zu sanktionieren, die sich illegal US-amerikanische KI-Fähigkeiten aneignen, und hat gegenüber dem Kongress seine Unterstützung für den Chip Security Act, den AI OVERWATCH Act und den MATCH Act zum Ausdruck gebracht. Sein Argument ist, dass Exportkontrollen Gegner daran hindern, Trainingshardware zu erhalten, während Anti-Destillation es Gegnern erschwert, die gleichen Fähigkeiten von Standardmodellen zu erhalten.

Auch Anthropic kündigte im Oktober einen ähnlichen Schutz an

Dies ist nicht das erste Mal, dass die Branche Antidestillationsergebnisse veröffentlicht. Anthropic wurde im Oktober angekündigtBlockieren der Ergebnisse von Destillationsangriffen, dass die Menge der abgerufenen Daten von Claude um mehr als 90 % zurückgegangen sei.

Wharton-Professor Ethan Mollick bei Kommentar zu XDie Ära der einfachen Destillation aus OpenAI- und Anthropic-Modellen ist tatsächlich vorbei, was möglicherweise der Grund für die relative Verlangsamung der jüngsten Fortschritte bei Open-Source-Gewichtsmodellen ist. Er sagte auch, dass noch nicht bekannt sei, wie wichtig die Destillation für den Fortschritt von Open-Source-Modellen sei, „das sollte bald bekannt sein“.

dieser Artikel Ergebnisse der öffentlichen OpenAI-Anti-Destillation: Die Erfolgsquote des gestohlenen Argumentationsprozesses sank von 54 % auf 0,2 % erschien erstmals in Kettennachrichten ABMedia。