OpenAIは11月20日に、他者がそのモデル出力を「模倣バージョン」のトレーニングに使用するのを防ぐ方法を説明した研究結果を発表した。によると OpenAI公式記事, GPT-6.2 Astraの新バージョンで保護が強化されて以降、モデルの内部推論プロセスを盗もうとする攻撃者の成功率は旧バージョンの54%から0.2%に低下した。

OpenAIはまた、今年プラットフォーム上で多くの組織的窃盗行為があり、ブロックされたアカウントの数は週当たり数千から数万に及ぶことも明らかにした。この夏、阻止のスピードが大幅に加速した。

蒸留とは: 大きなモデルからの答えで小さなモデルを教える

「蒸留」は、あるモデルが別のモデルによって生成された答え、推論プロセス、または判断を学習できるようにする一般的なモデル トレーニング方法です。 OpenAIは、無許可の蒸留により知的財産権の問題が排除され、より大きなリスクは学生モデルが元のモデルのセキュリティ制限を継承せずに機能を学習することであると述べた。

OpenAI は情報セキュリティを例に挙げています。防御側がソフトウェアの脆弱性を見つけるのを支援するその機能は、攻撃にも使用される可能性があります。この機能をより保護の低いモデルにコピーすると、そうでなければ拒否されるリクエストが新しいモデルによって準拠される可能性があります。

内部実験: 完全な推論プロセスを学習し、より多くの情報セキュリティ機能を移行します。

OpenAI は、学生と同じ事前トレーニング済みモデルを使用して一連の内部実験を実施し、プログラミングと防御セキュリティ タスクを処理するアストラ レベルのモデルの完全な記録でモデルをトレーニングしました。 1 つのグループは、最終的な回答、推論の概要、ツールの操作など、一般ユーザーが閲覧できるコンテンツのみを調べました。もう一方のグループは、完全な推論プロセスを観察しました。

その結果、教師付き微調整の後、推論プロセスを完全に見た学生は一般にセキュリティ テストの成績が良くなります。強化学習をもう 1 ラウンド行った後でも、テストで与えられた最大計算量を下回ってまだ進んでいます。計算量が少ない場合は、概要だけを読む生徒の方が成績が良いです。 OpenAI は、元のタスクが使用仕様と完全に一致している場合でも、推論プロセスを保護するとセキュリティ機能の移転が制限される可能性があると結論付けました。

攻撃成功率が54%から0.2%に低下

OpenAI は、自動化された AI レッドチームを使用して保護効果をテストします。攻撃者はシステムの応答に応じて手法を調整し、6 つの攻撃モデルの結果をまとめます。モデルの以前の回答の推論プロセスを盗用したい場合、成功率は GPT-6 Astra の元の保護下では 54.0% から GPT-6.2 Astra の 0.2% に低下しました。現在の回答の推論プロセスを盗みたい場合は、22.9% から 0.9% に減少しました。

保護は 2 層に分かれています。この層への 1 回のリクエストで、モデルは決まり文句を認識して拒否するようにトレーニングされます。入力と出力の両方が分類子によってチェックされます。推論プロセスの漏洩を防ぐために、ツール呼び出しのパラメータもチェックされます。 GPT-6.2 アストラとソルは、推論の内容をそれを生成した会話に結び付けます。前のメッセージが書き換えられると、その後の推論は無効になります。古くて保護が弱いモデルは、新しいモデルの推論内容を読み取ることができません。

もう 1 つの層は、操作全体を追跡することです。システムが組織的な盗難を検出すると、その背後にあるアカウント ネットワークを調査し、バッチで対処し、侵入インジケータを他のモデル オペレーターと共有します。 OpenAIは、新しい保護の一部はGPT-6 Astraにも適用されると述べた。

DeepSeekとDark Side of the Moonと名付け、チップ規制法案への支持を表明

OpenAI はまた、蒸留を国家安全保障の問題として位置づけています。記事には、米国の最先端モデルを抽出するディープシークの試みについて2月に議会に説明したと記載されている。 9月には推論プロセスを盗む作戦を公に解体し、その中核部分はキミを開発したダークサイド・オブ・ザ・ムーンの関係者らのせいだと非難した。より最近の事例については、後ほど発表されます。 Chain Newsも10月末に報じた DeepSeek と Dark Side of the Moon は、抽出された OpenAI モデルに依存して新しいモデルをトレーニングします。

OpenAIは、米国のAI能力を不法に取得した外国の主体を制裁するためのより多くのツールを米国政府に提供することへの支持を表明し、チップセキュリティ法、AIオーバーウォッチ法、およびMATCH法への支持を議会に表明した。その主張は、輸出規制により敵対者がトレーニング用ハードウェアを入手することが制限される一方、反蒸留により敵対者が既製のモデルから同じ機能を取得することがより困難になるというものである。

Anthropic も 10 月に同様の保護を発表しました

業界が蒸留反対の結果を公表したのはこれが初めてではない。アントロピックは10月に発表蒸留攻撃の結果をブロックする, 取得されるクロードのデータの量が90%以上減少したと述べています。

ウォートン教授イーサン・モリック Xへのコメント、OpenAI と Anthropic モデルから簡単に抽出できる時代は実際に終わりました。これが、オープンソースの重み付けモデルの最近の進歩が相対的に減速している理由である可能性があります。同氏はまた、蒸留がオープンソースモデルの進歩にとってどれほど重要であるかはまだ分かっていないが、「すぐに分かるはずだ」とも述べた。

この記事 OpenAI の公開アンチ蒸留結果: 盗まれた推論プロセスの成功率は 54% から 0.2% に低下 最初に登場したのは チェーンニュース ABMedia。