Autor丨Zhou Lei
Editor丨Cen Feng
Quando o Seedance 2.0 da Byte foi lançado no início deste ano, muitos profissionais ficaram entusiasmados e chocados com a qualidade do filme no “nível do filme”. Um novo projeto criativo estava se desenrolando lentamente diante deles – mas para a equipe Seko da SenseTime, foi um dia “confuso”.
Lin Dahua, cofundador e cientista-chefe da SenseTime, lembrou em uma entrevista recente que durante o período em que ia encontrar investidores e participar de conferências do setor, quase sempre lhe faziam a mesma pergunta: Qual é a diferença entre o seu Seko e o Seedance? Já fez isso?
Havia uma voz de dúvida na equipe: Devemos continuar fazendo isso?
Mais tarde, a história não terminou com Seko "lutando" contra Seedance sozinho. Seedance renderiza videoclipes de 30 segundos no nível superior; enquanto Seko é voltado para criadores e, em última análise, oferece 100 episódios de dramas curtos – que consistem em roteiros, storyboards, configurações de personagens e consistência de imagem entre os episódios, o que é um processo criativo completo.
Depois de pensar com clareza sobre o assunto, a vida de Seko ficou melhor: segundo Lin Dahua na entrevista, o número de usuários deste produto aumentou de 7 a 8 vezes este ano, e a plataforma produziu pequenos dramas com mais de 100 milhões de visualizações.
O próprio Lin Dahua avalia francamente a popularidade do SenseTime no mercado de modelos de grande porte: “Talvez não seja o maior”. A rota desta empresa nunca seguiu completamente a direção mais quente do setor.
Mas a SenseTime tem um hábito que persiste há muitos anos: até hoje a empresa ainda investe 20% de seus recursos em trabalhos de pré-pesquisa, sem nenhuma exportação de produto.
Até certo ponto, isso também é uma espécie de “semeadura”. Quando as sementes são plantadas no solo, não há necessidade de prometer colheita. A frase de que Tang Xiaoou fala frequentemente - a vida encontra um caminho, “a vida encontra o seu próprio caminho”, pode ser a lógica deste investimento.
Em uma entrevista recente à coluna "Technology Talk", produzida conjuntamente pela Weibo Technology, mas há apenas uma pista: os 20% dos recursos e o julgamento que os sustenta - por que vale a pena caminhar por algumas estradas por muito, muito tempo, mesmo que ainda não haja saída.
01
Os custos de treinamento não podem ser interrompidos, a IA chinesa compete com a velocidade da mão
O dinheiro na grande indústria de modelos está queimando de forma imparável.
Costumava haver uma suposição comum na indústria: gastando uma enorme quantia de dinheiro para treinar um bom modelo, o custo pode ser amortizado em serviços subsequentes de grande escala.
Lin Dahua destacou na entrevista que essa suposição pode não ser verdadeira – o problema não é que o modelo não seja bom o suficiente, mas que “se você não continuar treinando o próximo, os outros irão superá-lo”. A concorrência obriga as empresas a reciclarem-se uma ronda após a outra, pelo que os custos de formação não podem parar e são cada vez mais elevados.
Embora a narrativa da indústria no ano passado tenha sido quase dominada por “quanto maior, mais forte”, o caminho dos parâmetros de volume está a ser contra-atacado. Ele mencionou dois sinais:
Primeiro, a seleção do tamanho do modelo tornou-se mais pragmática. Recentemente, vários fabricantes lançaram modelos de pequeno e médio porte de nível Flash: GLM 5.3 Flash, DeepSeek 4.1 Flash, e Google e OpenAI também lançaram produtos com especificações semelhantes.
Lin Dahua mencionou especificamente o desempenho do DeepSeek na entrevista: “O nível de desempenho do Flash 4.1 é melhor que o do 4.0 Pro”. Um modelo com escala de várias centenas de B e treinamento bem treinado superou o Pro da geração anterior, indicando que o espaço de otimização no modelo de médio porte está longe de estar esgotado.
Em segundo lugar, a qualidade dos dados pré-formação foi colocada de volta na mesa. Quando um modelo com centenas de bilhões de parâmetros superou um oponente com 2 trilhões de parâmetros em combate real, muitas pessoas começaram a olhar para trás e verificar seus pipelines de dados.
Lin Dahua tem uma explicação vívida para isso: “Há muitas impurezas (nos dados) e muitas coisas brigando entre si, de modo que muita eficiência intermediária será compensada”. O resultado é um modelo caro e insatisfatório. Os parâmetros são empilhados, mas o efeito não melhora.
“Não creio que seja saudável quando todos competem cegamente em termos de parâmetros.” Na sua opinião, estes dois sinais significam que a indústria está a regressar à racionalidade: já não compete em torno de um único indicador, mas regressa ao valor do utilizador final.
Uma situação semelhante também ocorreu durante o último ciclo de IA, e o próprio SenseTime foi quem a vivenciou. Todo projeto deve começar com coleta de dados, treinamento especial, ajuste e testes. Todo o processo deve ser refeito, o que é difícil de replicar verdadeiramente. Só que a unidade de medida naquela época era um projeto, mas hoje foi substituída por um parâmetro.
Combater a velocidade da mão é outra forma de involução. Os laboratórios de ponta dos Estados Unidos definem o teto do SOTA. Assim que o novo modelo for lançado, equivalerá a apontar o caminho para os profissionais na China. Vários produtos que afirmam utilizar soluções semelhantes surgem frequentemente no espaço de dois ou três meses na China para conquistar o nicho ecológico. O recentemente popular RSI (autoaperfeiçoamento recursivo) também está sendo construído por várias empresas ao mesmo tempo.
"Para ser honesto, competir pela velocidade das mãos é bastante cansativo." Lin Dahua observou que é difícil criar valor a longo prazo se todos os funcionários se apressarem e estiverem otimistas em relação a uma direção. Se dez empresas ocuparem o mesmo nicho ecológico ao mesmo tempo, os dividendos da primeira empresa serão rapidamente diluídos.
Então, de que depende a competitividade a longo prazo? Sua resposta é: uma estrada suficientemente longa e profunda. Esta questão é o ponto de partida para entender os 20% de recursos do SenseTime.
02
A essência da inteligência:
Da Lei Anti-escalonamento à Linguagem e Multimodalidade
· 20% de recursos e inteligência espacial
Estes 20% dos recursos são claramente investidos em obras que “não têm produtos para exportação”. Lin Dahua confirmou na entrevista que não importa a pressão operacional que a SenseTime enfrente, o dinheiro continua até hoje. “A qualquer momento, ainda retemos certos recursos.”
Nas suas palavras, o ponto de partida deste tipo de trabalho é perguntar porquê: quando um problema não pode ser resolvido pelos métodos existentes, voltar ao básico. Ele não busca o uso de fórmulas matemáticas complexas para explicar o princípio, mas exige que este princípio “possa resolver efetivamente alguns problemas que atualmente são difíceis de resolver por outros métodos”.
Uma das direções de pesquisa do SenseTime, a inteligência espacial, foi selecionada desta forma.
A lógica de seleção é dividida em duas etapas. O primeiro passo é testar os modelos mais fortes do momento e descobrir o que eles não fazem bem. O segundo passo é perguntar mais uma camada. Essas deficiências podem ser compensadas adicionando alguns dados? Se puder ser bem feito adicionando dados ao longo do caminho original, então terá valor de aplicação, mas não poderá apoiar a inovação baseada em princípios. Somente em direções que não podem ser bem executadas, não importa quantos dados sejam adicionados, podem existir problemas reais de princípio ocultos - e a inteligência espacial é a última.
A origem deste conjunto de padrões de julgamento remonta à sua herança. Quando Tang Xiaoou ensina alunos, ele quase nunca pergunta sobre detalhes técnicos. Ele só olha para uma coisa: se consegue explicar em uma ou duas frases a diferença fundamental entre o seu trabalho e os outros. "Não existem duas folhas no mundo exatamente iguais." Tecnicamente, sempre é possível encontrar diferenças nos detalhes, mas o valor inovador desse tipo de diferença é limitado; se você não consegue dizer isso em uma frase, provavelmente não é uma inovação real.
Lin Dahua apontou que a “anormalidade” da inteligência espacial é que a Lei de Escala falha aqui.
Na indústria, é raro questionar publicamente a Lei do Dimensionamento. O consenso da indústria nos últimos anos fez com que quase todas as estratégias apostassem neste caminho – quanto maiores os parâmetros, mais dados e mais fortes as capacidades. Propor a “Lei Anti-Scaling” neste contexto leva pelo menos a indústria a reexaminar uma questão: se a prática de simplesmente empilhar dados e parâmetros tem pontos cegos despercebidos em certas dimensões da inteligência.
Em tarefas relacionadas à inteligência espacial, a tendência observada pela equipe SenseTime é exatamente contrária à Lei de Escalabilidade – quanto mais dados são adicionados, mais instável se torna o desempenho do modelo.
Nos testes da época, o modelo teve desempenho insatisfatório na tarefa de tomada de perspectiva. Quando as pessoas se movem no espaço, elas preveem naturalmente as mudanças que veem: à medida que você se afasta, os objetos à sua frente devem ficar menores. Mas os modelos multimodais da época não tinham esse tipo de previsão - mesmo que o Google Gemini seja conhecido por sua rota multimodal nativa e tenha um dos melhores desempenhos, ele também é incapaz de julgar quais formas os objetos aparecerão em diferentes ângulos de visão e escalas.
“Ele pode reconhecer que se trata de uma ovelha negra, mas não consegue responder como é a ovelha negra quando vista de outro ângulo. O que o modelo lembra é a enorme associação entre a imagem e a semântica: parece uma ovelha negra à distância, mas ainda parece uma ovelha negra quando vista de perto.”
A equipe continuou a adicionar dados relevantes, mas o desempenho do modelo não melhorou, mas tornou-se “cada vez mais confuso”: as conexões semânticas foram continuamente fortalecidas, mas houve uma falta de correlação espacial entre os dados, e o modelo confiou cada vez mais na semântica para explicar tudo o que viu. Quanto mais dados, mais profunda será a solidificação e mais estável será o erro.
Um exemplo que Lin Dahua citou frequentemente antes pode ilustrar as consequências desta solidificação. Dê uma foto de seis dedos ao modelo naquele momento, e as respostas dadas por GPT, Gemini e Grok serão todas de cinco dedos. O caminho de julgamento do modelo é: primeiro identifique “isto é uma palma” e depois responda diretamente com base no priori “as palmas geralmente têm cinco dedos” no corpus de treinamento.
Ele também lembrou que esse problema provavelmente foi corrigido na última geração de modelos, mas o mecanismo por trás dele ainda é válido - “Ele depende apenas da tradução semântica, e então outro raciocínio é feito com base nessa tradução”.
Quando a SenseTime lançou seu modelo de inteligência espacial no início deste ano, essa direção ainda era uma reserva técnica aos olhos do mundo exterior. Mais de meio ano depois, a indústria começou a recuperar o atraso. Vários pontos que foram amplamente discutidos pela comunidade após o lançamento do GPT-6 - a adoção da arquitetura do Transformador Recorrente e as capacidades acionadas por robôs demonstradas após despejar dados massivos incorporados no modelo de linguagem - todos apontam para a mesma coisa: capacidades multimodais e espaciais estão entrando no núcleo dos modelos de ponta.
Na opinião de Lin Dahua, isso significa que a rota do SenseTime foi verificada: “O GPT-6 realmente prova que o caminho que tomamos é definitivamente valioso”. Os recursos do SenseTime são muito inferiores aos do OpenAI, mas ele acredita que o acúmulo contínuo de um ou dois anos permitirá ao SenseTime desenvolver algo diferente de outras equipes do setor.
A particularidade da inteligência espacial mostra, até certo ponto, que uma direção com mais dados e uma solidificação mais profunda pode ser a porta de entrada para a inovação baseada em princípios. Encontrar princípios seguindo “anormalidades” é uma das ideias do SenseTime para fazer julgamentos técnicos. Dando um passo adiante nesta linha de pensamento, você encontrará uma questão inevitável: o que é exatamente a inteligência e qual é a posição da linguagem nela.
· Linguagem e multimodalidade: A essência da inteligência é a interação com o mundo
Desde o surgimento dos grandes modelos, “se a linguagem é a chave para a inteligência” tem sido um foco de debate.
Lin Dahua acredita que a linguagem injeta o conhecimento humano mais importante no sistema de símbolos de maneira estruturada e é “um representante de alto nível do conhecimento e da inteligência humana”. A densidade e a eficiência da inteligência podem ser o maior portador. Os modelos de linguagem têm a experiência de engenharia mais madura e o progresso mais rápido, e receberam maior atenção da indústria. Esta também é a realidade.
Mas a linguagem por si só, pensava ele, era incompleta. Assim como estar em uma cidade movimentada e em uma tranquila floresta montanhosa, as experiências das pessoas são completamente diferentes e pode não ser possível descrever detalhadamente o ambiente ao redor em palavras. Suponha que você forneça uma foto de retrato ao melhor modelo multimodal e deixe-o gerar uma descrição o mais detalhada possível, com milhares de palavras, e depois deixe o modelo de texto desenhá-la, será difícil gerar uma foto idêntica.
Ele resumiu esse fenômeno como complementaridade no espectro da informação: a linguagem carrega informações de alta densidade que foram condensadas, enquanto as imagens capturam uma grande quantidade de informações que não foram condensadas e não podem ser condensadas.
Cada um dos dois modos tem seu próprio território eficiente - escrevendo programas e fazendo deduções lógicas, a eficiência da linguagem é maior; a sensação estética, o julgamento rápido da estrutura espacial e a transmissão de detalhes visuais, a eficiência da imagem é maior. Quanto às entradas e saídas totalmente modais, o limite máximo ainda é muito elevado. Uni-los sem perder inteligência “requer custo e tempo”.
Na opinião de Lin Dahua, a essência da inteligência é a capacidade dos seres humanos de interagir com o mundo - percepção, memória de conhecimento, raciocínio em várias etapas, emissão de instruções e o resultado composto de uma combinação de múltiplos elementos. Assim como as questões dos testes de QI humano, elas também são divididas em diferentes tipos, como espaço, memória, raciocínio, etc., que refletem diferentes aspectos da inteligência.
Seguindo esta definição e olhando para trás, para o desenvolvimento do grande modelo ao longo de mais de três anos, a sua opinião é que é “desequilibrado”:
Em termos de matemática, programação e tarefas de longo alcance que podem ser escritas como sequências de texto e programa, os modelos ultrapassaram o nível das pessoas comuns e estão até perto do topo; a inteligência espacial e física ainda está em seus estágios iniciais e os robôs estão se desenvolvendo muito mais rápido do que antes, mas ainda só conseguem realizar ações simples.
A passagem da inteligência digital para o espaço físico depende não apenas do julgamento técnico, mas também da capacidade da tecnologia percorrer o circuito fechado em cenários reais de utilizadores e fornecer um boletim escolar que possa resistir aos testes de mercado.
03
Só há iteração se houver um loop fechado:
As respostas comerciais da SenseTime
Olhando para trás, para o processo do SenseTime transformando julgamentos técnicos de IA em produtos e receitas, Lin Dahua disse o seguinte:
O caminho de Shangtang é feito caminhando, sem pensar nisso.
Na era dos grandes modelos, a primeira “mensalidade” paga pela SenseTime foi um produto chamado “Discussão”. Quando for lançado no início de 2023, será como qualquer outro produto de chat. Certa vez, Lin Dahua deu o produto para sua esposa experimentar, mas a “discussão” terminou com uma bobagem sobre a recomendação de restaurantes próximos.
A reviravolta não se deve inteiramente à qualidade do modelo. A base dos produtos conversacionais é a infraestrutura de informações, como avaliações e mapas, mas esse não é o talento da SenseTime.
No final de 2023, a SenseTime se concentrará em conteúdo e interação para seus produtos de grande porte, com foco em duas direções: conteúdo de trabalho e conteúdo de entretenimento. O primeiro tornou-se agora o guaxinim inteligente do escritório – de acordo com o anúncio dos resultados intercalares deste ano, esta parte do negócio cresceu seis a sete vezes; este último se transformou em Seko.
O estilo de jogo de Seko está na verdade por trás da diferença entre “criação” e “geração”. Gere lindos clipes de 30 segundos e crie curtas de 100 episódios, todos separados por roteiros, storyboards, caracterização e consistência entre episódios. A Seko utiliza tecnologias como compreensão e geração unificadas e pensamento entrelaçado de gráficos e texto no processo criativo, e a renderização subjacente depende de outros modelos, como Seedance - a qualidade da geração por si só não pode ser comparada, por isso torna-se parte do seu próprio fluxo de trabalho. De acordo com Lin Dahua, os criadores usaram Seko para criar peças curtas com mais de 100 milhões de visualizações.
Apoiando essas seleções de produtos está a metodologia de circuito fechado da SenseTime. Lin Dahua apontou sem rodeios: “Em tudo, você precisa de um ciclo fechado para poder iterar de forma eficaz, caso contrário, haverá apenas classificações e nenhuma iteração”. Ser campeão no Benchmark hoje pode não ser no próximo mês. Este tipo de conquista não pode ser mantido; o que realmente resta é o valor criado pelos usuários. Ele traduziu o princípio do aprendizado por reforço de que correr rápido em pequenos passos é melhor do que caminhar uma longa distância de uma só vez para o planejamento de P&D: a velocidade da iteração e a direção certa são mais importantes do que a altura de um único sprint.
Lin Dahua experimentou essa transformação uma vez em sua vida. Nos seus primeiros artigos, vinte ou trinta fórmulas eram a norma; mas depois de 2013, esse número caiu para não mais que cinco. Seu critério de julgamento mudou de “se a prova matemática é bonita” para “se ela tem valor de uso diferenciado”.
No relatório provisório da SenseTime deste ano, vimos a declaração oficial de “primeiro lucro”. No entanto, Lin Dahua acredita que o que realmente preocupa o SenseTime é se ele se tornou mais saudável e vital, e a iteração de negócios em circuito fechado é uma das manifestações de vitalidade.
O 1 + A concorrência no mercado é bastante acirrada, mas traz crescimento tanto para os fundadores quanto para o negócio.
Da perspectiva da SenseTime, produtos e negócios são como coisas vivas. Não os pressionamos quando são imaturos. Usamos o crescimento natural como um sinal antes de decidirmos aumentar o investimento - deixar os produtos entrarem primeiro no mercado e serem testados num ciclo fechado, em vez de iterar internamente com base em indicadores predefinidos.
No entanto, até certo ponto, o ciclo fechado dos negócios apenas responde à questão da “sobrevivência”. Enfrentando a concorrência futura, as empresas chinesas de IA devem encontrar o seu próprio posicionamento e competitividade a longo prazo na era pós-destilação e ver claramente onde estão os limites da inteligência.
04
Além da velocidade da mão:
A competitividade a longo prazo da IA da China e os limites da inteligência
Lin Dahua acredita que a primeira peça do quebra-cabeça para a competitividade a longo prazo é o código aberto.
Já em 2018, Lin Dahua promoveu o OpenMMLab de código aberto no MMLab: organizando algoritmos representativos no campo em um sistema de benchmark unificado, poupando aos pesquisadores o trabalho sujo de reprodução e experimentos comparativos. Este projeto mais tarde se tornou a biblioteca de algoritmos de código aberto mais influente da era AI 1.0, usada por centenas de milhares de estrelas e milhões de desenvolvedores.
Anos depois, a mesma lógica reapareceu na era dos grandes modelos. A força motriz endógena do código aberto é a influência: a influência pode arrecadar fundos e recrutar pessoas. A demonstração do DeepSeek permite que todos vejam esse caminho claramente. Objetivamente, isto também distribui o custo de tentativa e erro por toda a comunidade - o treinamento de modelos representa apenas cerca de 10% dos custos de P&D, e os 90% restantes são vários experimentos; a ponderação aberta permite que cada empresa escolha receitas de tecnologia de ponta com mais rapidez.
Isto também explica por que razão o investimento total da China está muito aquém do dos Estados Unidos, mas pode aproximar-se tanto. Lin Dahua disse: “A maior preocupação é não saber onde fica a estrada”. Uma vez visível a estrada, preencher os detalhes é o ponto forte dos engenheiros chineses.
Mas o código aberto não pode resolver o problema de seguir a tendência. Lin Dahua disse sem rodeios que o caminho principal dos grandes modelos da China nos últimos três anos tem sido otimizar e inovar na direção iniciada pelos Estados Unidos. O valor industrial é grande, “mas se a China quiser dar uma contribuição mais duradoura, terá de apresentar algo diferente”. Ele usou o DeepSeek como um caso positivo: ainda é a rota padrão do LLM em termos de grande paradigma, mas tem feito grandes esforços na eficiência arquitetônica.
Ao mesmo tempo, o próprio mercado modelo não pode acomodar os compradores. Custo, versatilidade e profissionalismo formam um triângulo impossível. Um modelo que pode fazer tudo e faz tudo profissionalmente será enorme e caro. Em cenários diários, existe até mesmo um “excedente de inteligência” generalizado: um modelo de código aberto de 8B ou 32B pode lidar com a maioria das tarefas, e os usuários não precisam pagar dezenas de dólares em tokens para isso. Existem mais de 3 milhões de modelos no Hugging Face, mas cada um tem seu modo de vida.
O verdadeiro divisor de águas pode ocorrer na era pós-destilação.
Lin Dahua julgou que o tópico da destilação estava encerrado: as questões da cadeia de pensamento existente haviam sido construídas, e o próximo gargalo era a capacidade de gerar novos problemas – construir milhares, dezenas de milhares ou mesmo centenas de milhares de cenários de trabalho reais, permitindo que o modelo explorasse e concluísse tarefas por conta própria.
O gargalo neste assunto, na verdade, não é o poder de computação. Acontece que a China tem uma boa mão: a diversidade da vida e da indústria é rara no mundo, e a reserva de engenheiros é a maior do mundo. Depois que os frutos dos lugares mais baixos são colhidos, os frutos dos lugares mais altos têm que ser escalados na árvore pelas pessoas.
Contudo, os cenários e a mão de obra apenas expandem a “amplitude” da inteligência; a “profundidade” da inteligência depende da taxa de crescimento da própria inteligência.
O RSI (auto-aperfeiçoamento recursivo), que tem atraído muita atenção recentemente, concentra-se nisso, mas Lin Dahua enfatizou que o RSI é apenas um dos meios de crescimento inteligente. O gargalo não é a automação do treinamento, mas a eficiência da evolução: uma máquina ainda precisa executar uma enorme quantidade de treinamento para obter um ponto de observação eficaz; não é necessário um treinamento completo para que uma pessoa domine uma nova habilidade. A IA atual ainda está muito distante dos humanos em termos de evolução. Assim que esse segredo for desvendado, “ele remodelará em grande parte o cenário do desenvolvimento e da competição da IA”.
Ele também não acredita que a situação actual possa ser extrapolada indefinidamente: o consumo extensivo de recursos irá, mais cedo ou mais tarde, atingir uma explosão de trajectória. Se o caminho existente pode chegar ao fim é uma questão em aberto.
Quanto à expansão das fronteiras, a primeira questão que o preocupa é: que papel desempenham outras modalidades além da linguagem na inteligência. Esta compreensão ainda está numa fase inicial, mas a resposta determinará para onde os recursos deverão ser direcionados. Ele deposita a sua esperança na integração da multimodalidade e do espaço - a simples geração só melhorará a qualidade visual; integrar a percepção espacial ao processo de pensamento tornará a inteligência mais completa.
Para que a inteligência ultrapasse os seus limites, o obstáculo reside na eficiência da aprendizagem e da evolução, que é exactamente aquilo em que os humanos são melhores, mas as máquinas ainda estão muito atrás. A resposta da SenseTime a esta pergunta não está toda escrita no modelo – uma organização que pode continuar a gerar novas pessoas é em si a inteligência mais viável.
Lin Dahua disse também que a sua tarefa mais importante neste momento é criar um ambiente para os jovens e proteger uma organização viável. Esta é também a lógica subjacente aos 20% de recursos do SenseTime: semear ativamente e proteger o crescimento. Essa semente pode ser um produto, um negócio ou uma pessoa que cresce na organização. O que o SenseTime tem feito é esperar que as sementes brotem e a vida terá sua própria saída.
Leifeng.com (conta pública: Leifeng.com)
Artigos originais da Leifeng.com, a reprodução não autorizada é proibida. Consulte as instruções de reimpressão para obter detalhes.
editar
Digitalize para seguir o autor no WeChat
Reenviar e-mail Modificar e-mail




