OpenAI는 11월 20일에 다른 사람들이 "모방 버전"을 훈련하기 위해 모델 출력을 사용하는 것을 방지하는 방법을 설명하는 연구를 발표했습니다. ~에 따르면 OpenAI 공식 기사, GPT-6.2 Astra 새 버전에서는 보호 기능이 강화된 이후 모델의 내부 추론 프로세스를 도용하려는 공격자의 성공률이 이전 버전의 54%에서 0.2%로 떨어졌습니다.
OpenAI는 또한 올해 플랫폼에서 조직적인 절도 행위가 많이 발생했으며 주당 차단된 계정 수가 수천에서 수만 개에 달한다고 밝혔습니다. 이번 여름에는 차단 속도가 크게 빨라졌습니다.
증류란 무엇입니까: 대형 모델의 답변으로 소형 모델 교육
"증류"는 한 모델이 다른 모델에서 생성된 답변, 추론 프로세스 또는 판단을 학습할 수 있도록 하는 일반적인 모델 학습 방법입니다. OpenAI는 무단 증류를 통해 지적 재산권 문제를 제거하고 학생 모델이 원래 모델의 보안 제한 사항을 상속하지 않고 기능을 학습한다는 것이 더 큰 위험이라고 말했습니다.
OpenAI는 정보 보안을 예로 들었습니다. 방어자가 소프트웨어 취약점을 찾는 데 도움을 주는 기능은 공격에도 사용될 수 있습니다. 이 기능이 덜 보호된 모델에 복사되면 거부될 요청이 새 모델에서 준수될 수 있습니다.
내부 실험: 전체 추론 프로세스를 배우고 더 많은 정보 보안 기능을 이전합니다.
OpenAI는 학생과 동일한 사전 훈련된 모델을 사용하여 일련의 내부 실험을 수행했으며 프로그래밍 및 방어 보안 작업을 처리하는 Astra 수준 모델의 전체 기록을 사용하여 훈련했습니다. 한 그룹은 최종 답변, 추론 요약, 도구 작동 등 일반 사용자가 볼 수 있는 콘텐츠만 살펴보았습니다. 다른 그룹은 전체 추론 과정을 살펴보았습니다.
그 결과 감독된 미세 조정 후에 전체 추론 과정을 본 학생들은 일반적으로 보안 테스트에서 더 나은 성적을 거두었습니다. 또 다른 강화 학습 라운드 후에도 테스트에서 주어진 최대 계산량보다 앞서 있습니다. 계산량이 적을수록 요약만 읽는 학생이 더 좋습니다. OpenAI는 원래 작업이 사용 사양과 완전히 일치하더라도 추론 프로세스를 보호하면 보안 기능의 이전이 제한될 수 있다는 결론을 내렸습니다.
공격 성공률이 54%에서 0.2%로 감소했습니다.
OpenAI는 자동화된 AI 레드팀을 사용하여 보호 효과를 테스트합니다. 공격자는 시스템 응답에 따라 방법을 조정하고 6가지 공격 모델의 결과를 정리합니다. 모델의 이전 답변의 추론 과정을 훔치고 싶다면 성공률이 원래 GPT-6 Astra의 54.0%에서 GPT-6.2 Astra의 0.2%로 떨어졌습니다. 현재 답변의 추론 과정을 훔치고 싶다면 22.9%에서 0.9%로 낮아졌습니다.
보호는 두 개의 레이어로 나뉩니다. 이 레이어에 대한 단일 요청에서 모델은 진부한 표현을 인식하고 거부하도록 훈련됩니다. 입력과 출력 모두 분류기에 의해 확인됩니다. 추론 과정이 유출되는 것을 방지하기 위해 도구 호출의 매개변수까지 검사합니다. GPT-6.2 Astra와 Sol은 또한 추론 콘텐츠를 이를 생성한 대화와 연결합니다. 이전 메시지를 다시 작성하면 후속 추론이 유효하지 않게 됩니다. 오래되고 보호 수준이 약한 모델은 새 모델의 추론 내용을 읽을 수 없습니다.
다른 레이어는 전체 작업을 추적하는 것입니다. 시스템이 조직적 절도를 감지하면 배후에 있는 계정 네트워크를 조사하고 일괄 처리하며 침입 지표를 다른 모델 운영자와 공유합니다. OpenAI는 새로운 보호 기능 중 일부가 GPT-6 Astra에도 적용될 것이라고 말했습니다.
DeepSeek 및 Dark Side of the Moon으로 명명, 칩 제어 법안에 대한 지지 표명
OpenAI는 또한 증류를 국가 안보 문제로 간주합니다. 기사에는 지난 2월 미국 최첨단 모델을 정제하려는 DeepSeek의 시도에 대해 의회에 브리핑했다고 나와 있습니다. 지난 9월에는 추론 과정을 훔치는 작전을 공개적으로 해체하고 핵심 부분을 키미를 개발한 달의 어두운 면 관련 사람들에게 비난했습니다. 더 최근의 사례는 나중에 발표될 예정입니다. 체인뉴스도 10월 말 보도 DeepSeek 및 Dark Side of the Moon은 정제된 OpenAI 모델을 사용하여 새로운 모델을 훈련합니다.。
OpenAI는 미국 AI 능력을 불법적으로 탈취하는 외국 행위자를 제재할 수 있는 더 많은 도구를 미국 정부에 제공하는 데 대한 지지를 표명했으며, 칩 보안법, AI 감시법, MATCH법에 대한 지지를 의회에 표명했습니다. 그 주장은 수출 통제가 공격자가 훈련 하드웨어를 획득하는 것을 제한하는 반면, 역증류는 공격자가 기성 모델에서 동일한 기능을 획득하는 것을 더 어렵게 만든다는 것입니다.
Anthropic도 10월에 유사한 보호를 발표했습니다.
업계가 증류 방지 결과를 공개한 것은 이번이 처음이 아닙니다. 10월에 발표된 Anthropic증류 공격 결과 차단, 클로드의 검색되는 데이터 양이 90% 이상 감소했다고 합니다.
와튼 교수 에단 몰릭(Ethan Mollick) X에 댓글 달기, OpenAI 및 Anthropic 모델의 손쉬운 증류 시대는 실제로 끝났으며, 이는 최근 오픈 소스 가중치 모델의 진행이 상대적으로 둔화되는 이유일 수 있습니다. 그는 또한 오픈 소스 모델의 발전에 있어 추출이 얼마나 중요한지는 아직 알려지지 않았으며 "곧 알려질 것"이라고 말했습니다.
이 기사 OpenAI 공개 반증류 결과: 도난된 추론 프로세스의 성공률이 54%에서 0.2%로 감소했습니다. 에 처음 등장 체인 뉴스 ABMedia。




