OpenAI publicó un estudio el 20 de noviembre, explicando cómo evitar que otros utilicen la salida de su modelo para entrenar "versiones imitadoras". de acuerdo a Artículo oficial de OpenAI, después de que la nueva versión de GPT-6.2 Astra fortaleciera la protección, la tasa de éxito de los atacantes que intentaban robar el proceso de razonamiento interno del modelo cayó del 54% en la versión anterior al 0,2%.

OpenAI también reveló que ha habido muchas operaciones de robo organizadas en la plataforma este año, y que el número de cuentas bloqueadas por semana oscila entre miles y decenas de miles. La velocidad del bloqueo se ha acelerado significativamente este verano.

Qué es la destilación: enseñe modelos pequeños con respuestas de modelos grandes

La "destilación" es un método de entrenamiento de modelos común que permite a un modelo aprender las respuestas, procesos de razonamiento o juicios producidos por otro modelo. OpenAI dijo que la destilación no autorizada elimina los problemas de derechos de propiedad intelectual y que el mayor riesgo es que el modelo de estudiante aprenda capacidades sin heredar las restricciones de seguridad del modelo original.

OpenAI cita como ejemplo la seguridad de la información: su capacidad para ayudar a los defensores a encontrar vulnerabilidades de software también puede utilizarse para ataques. Si esta capacidad se copia a un modelo menos protegido, el nuevo modelo puede cumplir con las solicitudes que de otro modo serían rechazadas.

Experimento interno: aprenda el proceso de razonamiento completo y transfiera más capacidades de seguridad de la información

OpenAI llevó a cabo una serie de experimentos internos utilizando el mismo modelo previamente entrenado que un estudiante, entrenándolo con un registro completo de modelos de nivel Astra que manejan tareas de programación y seguridad defensiva. Un grupo solo analizó el contenido que los usuarios comunes pueden ver, incluida la respuesta final, el resumen del razonamiento y las operaciones de la herramienta; el otro grupo observó el proceso de razonamiento completo.

El resultado es que después de un ajuste supervisado, los estudiantes que han visto el proceso de razonamiento completo generalmente obtienen mejores resultados en la prueba de seguridad; Después de otra ronda de aprendizaje por refuerzo, todavía están por delante de la cantidad máxima de cálculos dada en la prueba. Cuando la cantidad de cálculos es menor, los estudiantes que solo leen el resumen obtienen mejores resultados. OpenAI concluyó que proteger el proceso de razonamiento puede limitar la transferencia de capacidades de seguridad, incluso si la tarea original es totalmente consistente con la especificación de uso.

La tasa de éxito del ataque cayó del 54% al 0,2%

OpenAI utiliza un equipo rojo de IA automatizado para probar el efecto de protección. El atacante ajustará el método según la respuesta del sistema y compilará los resultados de seis modelos de ataque. Si quiere robar el proceso de razonamiento de la respuesta anterior del modelo, la tasa de éxito ha caído del 54,0% bajo la protección original de GPT-6 Astra al 0,2% de GPT-6.2 Astra; Si quieres robar el proceso de razonamiento de la respuesta actual, ha bajado del 22,9% al 0,9%.

La protección se divide en dos capas. En una única solicitud a esta capa, el modelo está entrenado para reconocer y rechazar clichés. Tanto la entrada como la salida son verificadas por clasificadores. Incluso se verifican los parámetros de la llamada a la herramienta para evitar que se filtre el proceso de inferencia. GPT-6.2 Astra y Sol también vinculan el contenido del razonamiento con la conversación que lo generó. Si se reescribe el mensaje anterior, el razonamiento posterior no será válido. Los modelos más antiguos y con protección más débil no pueden leer el contenido del razonamiento del nuevo modelo.

La otra capa es rastrear toda la operación. Cuando el sistema detecta un robo organizado, investigará la red de cuentas detrás de él, la abordará en lotes y compartirá los indicadores de intrusión con otros operadores modelo. OpenAI dijo que algunas de las nuevas protecciones también se aplicarán al GPT-6 Astra.

Nombrado DeepSeek y Dark Side of the Moon, expresó su apoyo al proyecto de ley de control de chips

OpenAI también posiciona la destilación como una cuestión de seguridad nacional. El artículo afirma que en febrero informó al Congreso sobre el intento de DeepSeek de destilar el modelo de vanguardia estadounidense; en septiembre desmanteló públicamente una operación para robar el proceso de razonamiento y culpó de la parte central a personas relacionadas con el Lado Oscuro de la Luna que desarrollaron a Kimi. Los casos más recientes se anunciarán más adelante. Chain News también informó a finales de octubre. DeepSeek y Dark Side of the Moon confían en modelos OpenAI destilados para entrenar nuevos modelos。

OpenAI expresó su apoyo a brindar al gobierno de EE. UU. más herramientas para sancionar a los actores extranjeros que capturen ilegalmente capacidades de IA de EE. UU. y ha expresado su apoyo a la Ley de Seguridad de Chip, la Ley AI OVERWATCH y la Ley MATCH al Congreso. Su argumento es que los controles de exportación impiden que los adversarios obtengan hardware de entrenamiento, mientras que la antidestilación hace que sea más difícil para los adversarios obtener las mismas capacidades de modelos disponibles en el mercado.

Anthropic también anunció una protección similar en octubre.

Esta no es la primera vez que la industria divulga resultados anti-destilación. Antrópico anunciado en octubreBloquear los resultados de los ataques de destilación., diciendo que la cantidad de datos de Claude recuperados disminuyó en más del 90%.

El profesor de Wharton Ethan Mollick en Comentar en X, la era de la destilación fácil de los modelos OpenAI y Anthropic en realidad ha terminado, lo que puede ser la razón de la relativa desaceleración en el progreso reciente de los modelos de peso de código abierto; También dijo que aún no se sabe qué tan crítica es la destilación para el progreso de los modelos de código abierto, "debería saberse pronto".

Este artículo Resultados públicos anti-destilación de OpenAI: la tasa de éxito del proceso de razonamiento robado cayó del 54% al 0,2% apareció por primera vez en Cadena de noticias ABMedia。