Thinking Machines Lab, una nueva startup de IA fundada por Mira Murati, ex directora de tecnología de OpenAI, abrió su nuevo modelo Inkling 2 Mini el 20 de noviembre, hora de EE. UU. Este modelo sólo requiere unos 20 GB de memoria y se puede ejecutar sin conexión en una computadora portátil de consumo. El investigador activó el modo avión en el avión y usó una MacBook Pro para escribir un simulador de vuelo jugable en unos minutos.
de acuerdo a Publicación oficial de Thinking MachinesEn el modelo de peso de código abierto con un parámetro total de menos de 100 mil millones, Inkling 2 Mini obtuvo una puntuación del 48,2 % en la prueba DeepSWE v1.1 y del 46,5 % en la prueba integral Vals Index v2.2, ambos ocupando el primer lugar en su clase.
Los parámetros totales son 26,4 mil millones, solo se mueven 3,4 mil millones cada vez y la memoria es de aproximadamente 20 GB.
Los pesos de código abierto se refieren a los archivos de parámetros del modelo público de la empresa, que cualquiera puede descargar en su propia computadora para ejecutarlos o modificarlos. de acuerdo a Página del modelo Hugging Face, Inkling 2 Mini tiene licencia de Apache 2.0 y puede usarse comercialmente.
Es una arquitectura "experta mixta": hay muchos grupos de subredes en el modelo, cada una con su propia experiencia, y sólo unas pocas de ellas se utilizan a la vez. Los parámetros totales de Inkling 2 Mini son 26,4 mil millones, pero en realidad solo se utilizan 3,4 mil millones para cada palabra.
La mayoría de los pesos del modelo utilizan el formato NVFP4 de 4 bits desde el entrenamiento hasta la implementación, y las últimas cuatro capas utilizan MXFP8 de 8 bits. No es necesario comprimir ni convertir durante la implementación, por lo que no se perderán puntos. Los funcionarios dijeron que admitirá que Mac con 32 GB o más de memoria se ejecuten a través de Ollama cuando se lance, y que la computadora de escritorio con inteligencia artificial DGX Spark de Huida también podrá ejecutarse.
El diseño de "bucle" en el que cada palabra de la capa intermedia se repite tres veces
Lo más especial de Inkling 2 Mini es la arquitectura de bucle. El modelo tiene un total de 24 capas y está dividido en 4 secciones. Cada vez que se procesa una palabra, la primera y la última sección se ejecutan una vez cada una, y las dos secciones del medio se repiten tres veces. Esto equivale a utilizar 24 capas de parámetros para realizar 48 capas de operaciones.
La declaración oficial es que la capa intermedia es responsable del razonamiento más abstracto. Ejecutarlo varias veces permitirá que el modelo piense más profundamente y use menos palabras para obtener la respuesta correcta. Esto es especialmente útil para tareas de programación de agentes de IA que requieren calidad de razonamiento. En el experimento oficial, el bucle se colocó en las 12 capas intermedias, y 27 de 28 evaluaciones mostraron más progreso que colocar el bucle en las últimas 12 capas.
El costo es la cantidad de cálculo. Comparando oficialmente la versión sin bucle de la misma escala, el costo de capacitación de la versión sin bucle es un 7,5% menor, pero para lograr el mismo rendimiento, la inferencia requiere un 140% más de cálculos.
Estoy por delante en la redacción de programas, pero no estoy mejorando en la memorización de conocimientos.
El funcionario compara Gemma 4 31B, Qwen3.8-27B y otros modelos equivalentes de código abierto. En la prueba de programación DeepSWE v1.1, Inkling 2 Mini obtuvo un 48,2% y Qwen3.8-27B obtuvo un 42,2%;Blog de cara abrazadaEn resumen, comparado con estos 4 modelos, lidera en 32 de 48 pruebas.
Los bucles pueden mejorar el razonamiento, pero no hacen que el modelo recuerde más conocimientos. Las puntuaciones de las preguntas y respuestas objetivas son similares a las de los modelos del mismo tamaño. Los funcionarios dijeron que Inkling 2 Mini pasó a utilizar búsqueda y herramientas para complementar los resultados, y obtuvo buenos resultados en pruebas como BrowseComp que requieren búsqueda de información en línea.
El funcionario también enumera debilidades: múltiples rondas de diálogo y muchas instrucciones condicionales, la puntuación va por detrás de Qwen3.8-27B; en pruebas de razonamiento difíciles como HLE-Diamond, no es tan bueno como los modelos más grandes.
Si piensa más pero no lo escribe, ¿será más difícil supervisarlo?
Una de las principales formas de supervisar la IA ahora es leer el proceso de razonamiento (cadena de pensamiento) escrito por el modelo. El bucle permite al modelo calcular algunos pasos más internamente antes de hablar. Al mundo exterior le preocupa que algunos razonamientos no estén escritos en absoluto, lo que dificultará la supervisión.
Thinking Machines también abrió un modelo de versión de investigación con tiempos de bucle ajustables para este propósito. La prueba muestra que sin escribir inferencias y responder directamente, la duración de la tarea que el modelo puede completar aumenta de 16 segundos de trabajo humano cuando se ejecuta una vez a 37 segundos cuando se ejecuta tres veces, y luego es más o menos lo mismo.
Cuando se ejecuta cinco veces, el número promedio de palabras de inferencia del modelo es 1661 palabras (tokens), que es menos de la mitad de las 3703 palabras cuando se ejecuta una vez. Sin embargo, la longitud de las oraciones y la proporción de palabras en el diccionario de inglés no han cambiado y sigue siendo comprensible. En la prueba de LinuxArena que simuló tareas maliciosas, la proporción de tareas maliciosas completadas en secreto sin ser detectados no mostró una tendencia obvia con la cantidad de bucles.
El funcionario enfatizó que este es sólo un resultado preliminar. La versión de investigación del aprendizaje por refuerzo del modelo solo utiliza tres entrenamientos de bucle. Un modelo más grande con más bucles podría comprimir aún más el razonamiento. Esta es una de las razones por las que son de código abierto, con la esperanza de que la comunidad de investigación trabaje junta para estudiar la capacidad de supervisión del modelo de bucle.
Inkling 2 Mini se lanzó en Tinker, la plataforma de ajuste de Thinking Machines. Se puede inferir y personalizar, con especial énfasis en Hugging Face. También se admiten herramientas comunes de código abierto como SGLang, vLLM y Ollama.
Este artículo El ex director técnico de OpenAI creó un nuevo modelo pequeño de código abierto: la computadora portátil funciona sin conexión y el avión tiene un simulador de vuelo escrito. apareció por primera vez en Cadena de noticias ABMedia。




