저자丨Zhou Lei
편집자丨Cen Feng
올해 초 바이트의 Seedance 2.0이 출시되었을 때 많은 실무자들은 '영화 수준'의 영화 품질에 흥분과 충격을 받았습니다. 새로운 창의적 청사진이 천천히 그들 앞에 펼쳐지고 있었습니다. 하지만 SenseTime의 Seko 팀에게는 그날은 "혼란스러운" 날이었습니다.
SenseTime의 공동 창립자이자 최고 과학자인 Lin Dahua는 최근 인터뷰에서 투자자를 만나고 업계 컨퍼런스에 참석할 때 거의 항상 같은 질문을 받았다고 회상했습니다. Seko와 Seedance의 차이점은 무엇입니까? 해본 적 있나요?
팀 내에서는 '이 일을 계속해야 하나?'라는 회의적인 목소리가 들렸습니다.
나중에 이야기는 Seko가 혼자서 Seedance와 "싸우는" 것으로 끝나지 않았습니다. Seedance는 30초짜리 비디오 클립을 최상위 수준으로 렌더링합니다. Seko는 크리에이터를 대상으로 하며 궁극적으로 100개의 단편 드라마를 제공합니다. 이는 대본, 스토리보드, 캐릭터 설정 및 에피소드 전체의 이미지 일관성으로 구성되며 이는 완전한 창작 과정입니다.
이 문제를 명확하게 생각해 본 결과 Seko의 삶은 더 좋아졌습니다. 인터뷰에서 Lin Dahua에 따르면 이 제품의 사용자 수는 올해 7~8배 증가했으며 플랫폼은 조회수가 1억 회가 넘는 단편 드라마를 제작했습니다.
Lin Dahua 자신도 대형 모델 시장에서 SenseTime의 인기에 대해 "아마도 최대 규모는 아닐 것"이라고 솔직하게 평가했습니다. 이 회사의 노선은 업계에서 가장 뜨거운 방향을 완전히 따른 적이 없습니다.
그러나 SenseTime에는 수년 동안 지속되어 온 습관이 있습니다. 오늘날까지도 회사는 제품 수출 없이 여전히 자원의 20%를 사전 연구 작업에 투자하고 있습니다.
어느 정도 이것은 일종의 "파종"이기도합니다. 씨앗이 땅에 심어지면 수확을 약속할 필요가 없습니다. 탕샤오우가 자주 말하는 '인생은 길을 찾는다', '인생은 자신의 길을 찾는다'는 말이 이번 투자의 논리일지도 모른다.
최근 Weibo Technology가 공동 제작한 "Technology Talk" 칼럼과의 인터뷰에서 단 하나의 단서가 있습니다. 자원의 20%와 이를 뒷받침하는 판단, 일부 도로는 아직 출구가 없어도 오랫동안 걸을 가치가 있는 이유입니다.
01
훈련비용은 멈출 수 없어, 중국 AI는 손의 속도로 승부
대형 모델 산업의 돈은 막을 수 없을 정도로 불타고 있습니다.
업계에서는 좋은 모델을 훈련하는 데 막대한 비용을 지출하면 후속 대규모 서비스에서 비용을 상각할 수 있다는 공통된 가정이 있었습니다.
Lin Dahua는 인터뷰에서 이 가정이 사실이 아닐 수도 있다고 지적했습니다. 문제는 모델이 충분하지 않다는 것이 아니라 "다음 모델을 계속 훈련하지 않으면 다른 사람들이 당신을 능가할 것"이라고 지적했습니다. 경쟁으로 인해 기업은 계속해서 재교육을 받아야 하므로 교육 비용은 멈출 수 없으며 점점 더 높아지고 있습니다.
지난 해 업계 내러티브는 "크면 클수록 강하다"는 주장이 거의 지배적이었지만, 거래량 매개변수의 경로는 반격을 받고 있습니다. 그는 두 가지 신호를 언급했습니다.
첫째, 모델의 사이즈 선택이 더욱 실용적이 되었습니다. 최근에는 다양한 제조사에서 플래시 수준의 중소형 모델을 출시하고 있는데, GLM 5.3 플래시, DeepSeek 4.1 플래시 등이 있으며, 구글과 오픈AI도 비슷한 사양의 제품을 출시했다.
Lin Dahua는 인터뷰에서 DeepSeek의 성능을 구체적으로 언급했습니다. "Flash 4.1의 성능 수준은 4.0 Pro보다 좋습니다." 수백 B 규모의 모델과 잘 훈련된 훈련이 이전 세대 Pro보다 성능이 뛰어났는데, 이는 중형 모델의 최적화 공간이 결코 고갈되지 않았음을 나타냅니다.
둘째, 사전 훈련 데이터의 품질이 다시 정상화되었습니다. 실제 전투에서 수천억 개의 매개변수를 가진 모델이 2조 개의 매개변수를 가진 상대보다 성능이 뛰어났을 때 많은 사람들이 자신의 데이터 파이프라인을 되돌아보고 확인하기 시작했습니다.
이에 대해 린다화(Lin Dahua)는 "(데이터에) 불순물이 많고 서로 싸우는 일이 많아 중간에 효율성이 많이 상쇄된다"고 생생한 설명을 했다. 그 결과 값비싸고 만족스럽지 못한 모델이 탄생하게 되었습니다. 매개변수가 쌓여도 효과가 향상되지 않습니다.
“모두가 맹목적으로 매개변수 경쟁을 하는 건 건강한 상태가 아닌 것 같아요.” 그의 관점에서 이 두 신호는 업계가 합리성으로 돌아가고 있음을 의미합니다. 즉, 더 이상 단일 지표를 중심으로 경쟁하지 않고 최종 사용자의 가치로 돌아갑니다.
지난 AI 사이클에서도 비슷한 상황이 발생했는데, 이를 직접 경험한 사람은 센스타임이다. 모든 프로젝트는 데이터 수집, 특별 교육, 조정 및 테스트로 시작되어야 합니다. 전체 프로세스를 다시 수행해야 하는데 이는 실제로 복제하기 어렵습니다. 단지 그 당시에는 측정 단위가 프로젝트였지만 오늘날에는 매개변수로 대체되었습니다.
싸우는 손 속도는 혁명의 또 다른 형태입니다. 미국의 최첨단 실험실은 SOTA의 한계를 정의합니다. 새로운 모델이 출시되면 중국 실무자들에게 길을 제시하는 것과 같습니다. 유사한 솔루션을 사용한다고 주장하는 수많은 제품이 생태학적 틈새 시장을 장악하기 위해 중국에서 2~3개월 이내에 종종 등장합니다. 최근 인기를 끌고 있는 RSI(재귀적 자기 개선)도 여러 회사에서 동시에 구축되고 있습니다.
"솔직히 손의 속도를 놓고 경쟁하는 건 사실 꽤 피곤한 일이에요." Lin Dahua는 모든 사람이 한 방향에 대해 낙관적일 때 서두르면 장기적인 가치를 창출하기 어렵다는 점을 관찰했습니다. 10개의 회사가 동시에 동일한 생태학적 틈새 시장을 점유한다면 첫 번째 기업의 배당금은 빠르게 희석될 것입니다.
그렇다면 장기적인 경쟁력은 무엇에 달려 있습니까? 그의 대답은 '충분히 길고 충분히 깊은 길'이다. 이 질문은 SenseTime의 20% 자원을 이해하는 출발점입니다.
02
지능의 본질:
스케일링 방지법에서 언어 및 다중 양식까지
· 20% 자원 및 공간 지능
이 20%의 자원은 분명히 “수출할 제품이 없는” 작업에 투자됩니다. Lin Dahua는 인터뷰에서 SenseTime이 어떤 운영 압력에 직면하더라도 돈은 오늘날까지 계속되고 있음을 확인했습니다. "언제든지 우리는 특정 자원을 보유하고 있습니다."
그의 말에 따르면 이러한 작업의 출발점은 기존 방법으로는 문제를 해결할 수 없을 때 기본으로 돌아가는 이유를 묻는 것입니다. 그는 원리를 설명하기 위해 복잡한 수학 공식의 사용을 추구하지 않지만, 이 원리가 "현재 다른 방법으로는 해결하기 어려운 일부 문제를 효과적으로 해결할 수 있다"고 요구합니다.
센스타임의 연구방향 중 하나인 공간지능이 이렇게 선정됐다.
선택 로직은 두 단계로 나누어집니다. 첫 번째 단계는 당시 가장 강력한 모델을 테스트하고 그들이 잘 하지 못하는 것이 무엇인지 알아내는 것입니다. 두 번째 단계는 아래에 레이어를 하나 더 요청하는 것입니다. 일부 데이터를 추가하여 이러한 단점을 보완할 수 있습니까? 원래 경로를 따라 데이터를 추가하여 잘 수행할 수 있다면 적용 가치는 있지만 원칙적인 혁신을 지원할 수는 없습니다. 아무리 많은 데이터를 추가해도 잘 할 수 없는 방향에만 현실적 원리의 문제가 숨어 있을 수 있는데, 공간지능은 후자가 되는 경우가 많다.
이러한 판단 기준의 기원은 그의 상속으로 거슬러 올라갑니다. Tang Xiaoou는 학생들을 가르칠 때 기술적인 세부 사항에 대해 거의 묻지 않습니다. 그는 자신의 작업과 다른 작업의 근본적인 차이점을 한두 문장으로 설명할 수 있는지 여부만 봅니다. "세상에 똑같은 나뭇잎은 하나도 없어요." 기술적으로는 항상 세부적인 차이를 발견할 수 있지만 그러한 차이가 갖는 혁신 가치는 제한적입니다. 한 문장으로 말할 수 없다면 아마도 진정한 혁신이 아닐 것입니다.
Lin Dahua는 공간 지능의 '비정상'은 여기서 확장 법칙이 실패한다는 점을 지적했습니다.
업계에서 스케일링 법칙에 대해 공개적으로 의문을 제기하는 경우는 거의 없습니다. 지난 몇 년간 업계의 합의에 따르면 거의 모든 전략이 이 경로에 베팅되어 있습니다. 즉, 매개변수가 클수록 데이터가 많아지고 기능이 더욱 강력해집니다. 이러한 맥락에서 "스케일링 방지 법칙"을 제안하면 적어도 업계는 한 가지 문제, 즉 단순히 데이터와 매개변수를 쌓는 관행이 특정 지능 차원에서 눈에 띄지 않는 사각지대를 가지고 있는지 여부를 재검토하게 됩니다.
공간 지능과 관련된 작업에서 SenseTime 팀이 관찰한 추세는 스케일링 법칙과 정반대입니다. 즉, 데이터가 더 많이 추가될수록 모델 성능이 더 불안정해집니다.
당시 테스트에서 모델은 관점 수용 작업에서 만족스럽지 못한 성능을 보였습니다. 사람들은 우주에서 이동할 때 자신이 보는 변화를 자연스럽게 예측할 것입니다. 멀리 이동할수록 앞에 있는 물체는 작아져야 합니다. 그러나 당시 다중 모드 모델에는 이러한 종류의 예측이 없었습니다. Google Gemini가 기본 다중 모드 경로로 유명하고 최고의 성능을 발휘하는 경우에도 물체가 다양한 시야각과 규모로 어떤 형태로 나타날지 판단할 수 없습니다.
"검은 양이라는 것을 인식할 수 있지만 다른 각도에서 보면 검은 양이 어떻게 보이는지 대답할 수 없습니다. 모델이 기억하는 것은 이미지와 의미 사이의 엄청난 연관성입니다. 멀리서 보면 검은 양처럼 보이지만 가까이서 보면 여전히 검은 양처럼 보입니다."
팀은 관련 데이터를 계속 추가했지만 모델의 성능은 나아지지 않고 "점점 혼란스러워졌습니다". 의미론적 연결은 지속적으로 강화되었지만 데이터 간의 공간적 상관 관계가 부족했으며 모델은 본 모든 것을 설명하기 위해 점점 더 의미론에 의존했습니다. 데이터가 많을수록 응고가 깊어지고 오류가 더욱 안정적입니다.
Lin Dahua가 이전에 자주 인용한 예는 이러한 응고의 결과를 설명할 수 있습니다. 당시 모델에게 손가락 6개 사진을 줬더니 GPT, 제미니, 그록이 내놓은 답은 모두 손가락 5개다. 모델의 판단 경로는 먼저 "이것은 손바닥입니다"를 식별한 다음 훈련 코퍼스의 선험적 "손바닥에는 일반적으로 다섯 개의 손가락이 있습니다"를 기반으로 직접 대답하는 것입니다.
그는 또한 이 문제가 최신 세대 모델에서 수정되었을 가능성이 높지만 그 뒤에 있는 메커니즘은 여전히 유효하다는 점을 상기시켰습니다. "이것은 의미론적 번역에만 의존하고 이 번역을 기반으로 다른 추론이 수행됩니다."
SenseTime이 올해 초 공간 지능 모델을 출시했을 때 이 방향은 여전히 외부 세계의 눈에 기술적인 예비 영역이었습니다. 반년 넘게 업계가 따라잡기 시작했습니다. GPT-6 출시 이후 커뮤니티에서 널리 논의된 몇 가지 사항(Recurrent Transformer 아키텍처의 채택 및 언어 모델에 대량의 구체화된 데이터를 쏟아 부은 후 시연된 로봇 구동 기능)은 모두 같은 점을 지적합니다. 다중 모드 및 공간 기능이 최첨단 모델의 핵심으로 진입하고 있습니다.
Lin Dahua의 관점에서 이는 SenseTime의 경로가 검증되었음을 의미합니다. "GPT-6는 실제로 우리가 택하는 경로가 확실히 가치가 있음을 증명합니다." SenseTime의 리소스는 OpenAI에 비해 열등하지만 1~2년 동안 지속적으로 축적하면 SenseTime이 업계의 다른 팀과 다른 것을 개발할 수 있다고 믿습니다.
공간 지능의 특수성은 더 많은 데이터와 더 깊은 확고한 방향이 원칙에 입각한 혁신의 입구가 될 수 있음을 어느 정도 보여줍니다. "이상"을 추적하여 원리를 찾는 것은 SenseTime의 기술적 판단 아이디어 중 하나입니다. 이러한 사고 방식에서 한 걸음 더 나아가면 피할 수 없는 질문에 직면하게 됩니다. 지능이란 정확히 무엇이며, 그 속에서 언어의 위치는 무엇입니까?
· 언어와 다중양식: 지능의 본질은 세계와의 상호작용이다
빅모델이 등장한 이후 '언어가 지능의 핵심인가'는 논쟁의 초점이 되어왔다.
Lin Dahua는 언어가 구조화된 방식으로 상징 체계에 가장 중요한 인간 지식을 주입하며 "인간 지식과 지능을 매우 높은 수준으로 대표하는 것"이라고 믿습니다. 지능의 밀도와 효율성이 가장 높은 캐리어일 수 있습니다. 언어 모델은 가장 성숙한 엔지니어링 경험과 가장 빠른 발전을 이루었으며 업계에서 더 높은 관심을 받았습니다. 이것이 현실이기도 합니다.
그러나 그는 언어만으로는 불완전하다고 생각했습니다. 번화한 도시와 조용한 산림에 있는 것처럼, 사람의 경험은 전혀 다르며, 주변 환경을 말로 자세히 설명하는 것은 불가능할 수도 있습니다. 최고의 다중 모드 모델에 인물 사진을 제공하고 수천 단어로 가능한 한 자세한 설명을 생성한 다음 텍스트 모델이 이를 그리도록 한다고 가정하면 동일한 사진을 생성하기가 어려울 것입니다.
그는 이 현상을 정보 스펙트럼의 상보성으로 요약했습니다. 언어는 응축된 고밀도 정보를 전달하는 반면, 이미지는 응축되지 않고 응축될 수 없는 많은 양의 정보를 포착합니다.
두 가지 모드 각각에는 고유한 효율적인 영역이 있습니다. 즉, 프로그램을 작성하고 논리적 추론을 수행하면 언어 효율성이 더 높아집니다. 미적 감각, 공간 구조에 대한 빠른 판단, 시각적 세부 정보 전달 등을 통해 이미지 효율성이 높아집니다. 풀모달 입력 및 출력의 경우 여전히 한계가 매우 높습니다. 지능을 잃지 않고 이들을 하나로 모으려면 "비용과 시간이 필요합니다."
Lin Dahua의 관점에서 지능의 본질은 인간이 세계와 상호 작용하는 능력, 즉 지각, 지식에 대한 기억, 다단계 추론, 명령 발행, 여러 요소의 조합으로 인한 복합 결과입니다. 인간의 IQ 테스트 문제와 마찬가지로 지능의 다양한 측면을 반영하는 공간, 기억, 추론 등 다양한 유형으로 나뉩니다.
이 정의에 따라 3년 이상에 걸쳐 대형 모델의 개발을 되돌아보면 그의 판단은 "불균형"하다는 것입니다.
텍스트와 프로그램 시퀀스로 작성할 수 있는 수학, 프로그래밍, 장거리 작업 측면에서 모델은 일반 사람들의 수준을 능가했으며 심지어 최고 수준에 가깝습니다. 공간적, 물리적 지능은 아직 초기 단계이고 로봇은 이전보다 훨씬 빠르게 발전하고 있지만 여전히 간단한 동작만 수행할 수 있습니다.
디지털 지능에서 물리적 공간으로의 전환은 기술적 판단뿐만 아니라 해당 기술이 실제 사용자 시나리오에서 폐쇄 루프를 통과하고 시장 테스트를 견딜 수 있는 성적표를 제공할 수 있는지 여부에 달려 있습니다.
03
닫힌 루프가 있는 경우에만 반복이 있습니다.
SenseTime의 비즈니스 답변
SenseTime이 AI 기술적 판단을 제품과 수익으로 전환하는 과정을 되돌아보면서 Lin Dahua는 다음과 같이 말했습니다.
상탕의 길은 생각하지 않고 걷는 것으로 이루어진다.
빅모델 시대, 센스타임이 최초로 지급한 '등록금'은 '토론'이라는 제품이었다. 2023년 초에 출시되면 다른 채팅 제품과 같을 것입니다. Lin Dahua는 아내에게 제품을 시험해 보라고 준 적이 있지만 '토론'은 근처 레스토랑을 추천하는 말도 안되는 소리로 끝났습니다.
전복은 전적으로 모델의 품질 때문이 아닙니다. 대화형 상품의 기본은 리뷰, 지도 등 정보 인프라인데, 그게 센스타임의 인재는 아닙니다.
2023년 말, 센스타임은 업무 콘텐츠와 엔터테인먼트 콘텐츠라는 두 가지 방향으로 초점을 맞춰 대형 모델 제품의 콘텐츠와 상호작용에 집중할 예정이다. 전자는 이제 사무실 지능형 너구리로 성장했습니다. 올해 중간 결과 발표에 따르면 이 사업 부분은 6~7배 성장했습니다. 후자는 Seko로 성장했습니다.
세코의 플레이 스타일은 사실 '창작'과 '세대'의 차이 뒤에 숨어 있다. 아름다운 30초 클립을 생성하고 100개의 에피소드로 구성된 단편을 만드세요. 모두 스크립트, 스토리보드, 특성화 및 에피소드 간 일관성으로 구분됩니다. Seko는 창작 과정에서 통일된 이해와 생성, 그래픽과 텍스트의 인터레이스적 사고와 같은 기술을 사용하며 기본 렌더링은 Seedance와 같은 다른 모델에 의존합니다. 생성 품질만으로는 비교할 수 없으므로 Seko 자체 워크플로우의 일부가 됩니다. Lin Dahua에 따르면 제작자들은 Seko를 사용하여 조회수가 1억 회가 넘는 단편극을 제작했습니다.
이러한 제품 선택을 지원하는 것은 SenseTime의 폐쇄 루프 방법론입니다. Lin Dahua는 "모든 면에서 효과적으로 반복하려면 폐쇄 루프가 필요합니다. 그렇지 않으면 순위만 있고 반복은 없을 것입니다."라고 직설적으로 지적했습니다. 오늘 벤치마크의 챔피언이 되는 것은 다음 달이 아닐 수도 있습니다. 이런 종류의 성취는 유지될 수 없습니다. 실제로 남는 것은 사용자가 창출한 가치이다. 그는 작은 단계로 빠르게 달리는 것이 한 번에 장거리를 걷는 것보다 낫다는 강화 학습의 원리를 R&D 계획에 적용했습니다. 단일 스프린트의 높이보다 반복 속도와 올바른 방향이 더 중요합니다.
Lin Dahua는 자신의 인생에서 이러한 변화를 한 번 경험했습니다. 그의 초기 논문에서는 20~30개의 공식이 표준이었습니다. 그러나 2013년 이후에는 이 숫자가 5명 이하로 떨어졌습니다. 그의 판단 기준은 '수학적 증명이 아름다운지'에서 '사용상 차별화된 가치가 있는지'로 바뀌었다.
올해 센스타임 중간보고서에는 '1차 이익'이라는 공식 성명이 나왔다. 그러나 Lin Dahua는 SenseTime이 실제로 관심을 갖는 것은 항상 그것이 더 건강해지고 활력이 높아지는지 여부이며, 비즈니스의 폐쇄 루프 반복은 활력의 표현 중 하나라고 믿습니다.
The 1 + 시장에서의 경쟁은 충분히 치열하지만 창업자와 비즈니스 모두에 성장을 가져옵니다.
센스타임의 관점에서 보면 제품과 사업은 마치 생명체와 같습니다. 우리는 그들이 미성숙할 때 밀어붙이지 않습니다. 우리는 투자 증가를 결정하기 전에 자연적인 성장을 신호로 사용합니다. 내부적으로 미리 설정된 지표를 반복하는 대신 제품이 먼저 시장에 출시되고 폐쇄 루프에서 테스트되도록 합니다.
그러나 어느 정도 비즈니스 폐쇄 루프는 "생존"이라는 질문에만 답할 뿐입니다. 미래의 경쟁에 직면한 중국 AI 기업은 증류 이후 시대에서 자신의 위치와 장기적인 경쟁력을 찾고, 지능의 경계가 어디인지 명확하게 파악해야 합니다.
04
손 속도 외에:
중국 AI의 장기적 경쟁력과 지능의 경계
Lin Dahua는 장기적인 경쟁력을 위한 첫 번째 퍼즐 조각이 오픈 소스라고 믿습니다.
2018년 초 Lin Dahua는 MMLab에서 오픈 소스 OpenMMLab을 홍보하여 현장의 대표적인 알고리즘을 통합 벤치마크 시스템으로 구성하여 연구자들이 재현 및 비교 실험의 더러운 작업을 하지 않게 했습니다. 이 프로젝트는 이후 수십만 명의 스타와 수백만 명의 개발자가 사용하는 AI 1.0 시대에 가장 영향력 있는 오픈 소스 알고리즘 라이브러리가 되었습니다.
몇 년 후 대형 모델 시대에도 같은 논리가 다시 등장했다. 오픈소스의 내생적인 원동력은 영향력입니다. 영향력은 자금을 모으고 인력을 모집할 수 있습니다. DeepSeek의 시연을 통해 모든 사람이 이 경로를 명확하게 볼 수 있습니다. 객관적으로 이는 전체 커뮤니티에 시행착오 비용을 분배하기도 합니다. 모델 훈련은 R&D 비용의 약 10%만 차지하고 나머지 90%는 다양한 실험에 사용됩니다. 개방형 가중치를 통해 각 회사는 최첨단 기술 레시피를 더 빠르게 선택할 수 있습니다.
이는 또한 중국의 총 투자가 미국에 비해 훨씬 뒤떨어져 있음에도 불구하고 매우 가깝게 따라잡을 수 있는 이유를 설명합니다. 린다화는 "가장 큰 걱정은 길이 어디인지 모른다는 점"이라고 말했다. 도로가 보이면 세세하게 채워 넣는 것이 중국 엔지니어들의 강점이다.
그러나 오픈소스로는 추세를 따르는 문제를 해결할 수 없습니다. Lin Dahua는 지난 3년 동안 중국 대형 모델의 주류 경로는 미국이 개척한 방향으로 최적화하고 혁신하는 것이라고 솔직하게 말했습니다. 산업적 가치는 훌륭하지만 "중국이 좀 더 지속적인 기여를 하고 싶다면 뭔가 다른 것을 내놓아야 한다"고 말했다. 그는 DeepSeek를 긍정적인 사례로 사용했습니다. 이는 여전히 대규모 패러다임 측면에서 표준 LLM 경로이지만 아키텍처 효율성에 많은 노력을 기울였습니다.
동시에, 모델 시장 자체는 구매자를 수용할 수 없습니다. 비용, 다양성, 전문성은 불가능한 삼각형을 형성합니다. 모든 것을 할 수 있고 모든 것을 전문적으로 수행하는 모델은 거대하고 비용이 많이 들 수밖에 없습니다. 일상적인 시나리오에서는 "지능 과잉"이 널리 퍼져 있습니다. 8B 또는 32B 오픈 소스 모델은 대부분의 작업을 처리할 수 있으며 사용자는 이를 위해 수십 달러의 토큰을 지불할 필요가 없습니다. Hugging Face에는 300만 개가 넘는 모델이 있지만 각 모델마다 고유한 삶의 방식이 있습니다.
실제 분수령은 증류 후 시대에 올 수 있습니다.
Lin Dahua는 증류의 주제가 끝났다고 판단했습니다. 기존 사고 사슬 질문이 구성되었고 다음 병목 현상은 수천, 수만, 심지어 수십만 개의 실제 작업 시나리오를 구성하여 모델이 자체적으로 작업을 탐색하고 완료할 수 있도록 하는 새로운 문제를 생성하는 능력이었습니다.
이 문제의 병목 현상은 실제로 컴퓨팅 성능이 아닙니다. 중국은 좋은 손을 잡고 있습니다. 삶과 산업의 다양성은 세계에서 드물고 엔지니어 보유량은 세계에서 가장 많습니다. 낮은 곳의 열매를 따고 나면, 높은 곳의 열매는 사람들이 나무 위로 올라가야 합니다.
그러나 시나리오와 인력은 정보의 "폭"을 확장할 뿐입니다. 지능의 "깊이"는 지능 자체의 성장 속도에 따라 달라집니다.
최근 많은 주목을 받고 있는 RSI(재귀적 자기 개선)가 이에 초점을 맞추고 있지만 린다화는 RSI는 지능적 성장의 수단 중 하나일 뿐이라고 강조했다. 병목 현상은 훈련의 자동화가 아니라 진화의 효율성입니다. 기계는 효과적인 관찰 지점을 얻으려면 여전히 엄청난 양의 훈련을 실행해야 합니다. 새로운 기술을 습득하기 위해 완전한 훈련이 필요하지 않습니다. 현재의 AI는 진화 측면에서 아직 인간과 거리가 매우 멀다. 이 비밀이 밝혀지면 “AI 개발과 경쟁의 지형이 크게 바뀔 것입니다.”
그는 또한 현재 상황이 무한정 추정될 수 있다고 믿지 않습니다. 광범위한 자원 소비는 조만간 궤도 폭발을 일으킬 것입니다. 기존 경로가 끝까지 도달할 수 있는지 여부는 열린 질문입니다.
경계 확장과 관련하여 그가 우려하는 첫 번째 질문은 언어 이외의 양식이 지능에서 어떤 역할을 하는가입니다. 이러한 이해는 아직 초기 단계이지만 이에 대한 답에 따라 자원을 어디에 배치해야 하는지가 결정될 것입니다. 그는 다중 양식과 공간의 통합에 희망을 걸고 있습니다. 단순히 생성하는 것만으로도 시각적 품질이 향상될 뿐입니다. 공간 인식을 사고 과정에 통합하면 지능이 더욱 완성됩니다.
지능이 경계를 뛰어넘기 위해서는 학습과 진화의 효율성에 병목 현상이 발생합니다. 이는 바로 인간이 가장 잘하는 일이지만 기계는 여전히 훨씬 뒤처져 있습니다. 이 질문에 대한 SenseTime의 대답은 모델에 모두 기록되어 있지 않습니다. 계속해서 새로운 사람을 양성할 수 있는 조직은 그 자체로 가장 실행 가능한 지능입니다.
Lin Dahua는 또한 현재 자신의 가장 중요한 임무는 젊은이들을 위한 환경을 조성하고 생존 가능한 조직을 보호하는 것이라고 말했습니다. 이것은 또한 SenseTime의 20% 자원의 기본 논리이기도 합니다: 적극적으로 씨앗을 뿌리고 성장을 보호합니다. 이 씨앗은 제품일 수도 있고, 사업일 수도 있고, 조직 내에서 성장하는 사람일 수도 있습니다. SenseTime이 하고 있는 일은 씨앗이 싹을 틔우고 인생은 나름대로의 길을 가지기를 기다리는 것입니다.
Leifeng.com(공용 계정: Leifeng.com)
Leifeng.com의 원본 기사, 무단 복제는 금지되어 있습니다. 자세한 내용은 재인쇄 지침을 참조하세요.
편집하다
WeChat에서 저자를 팔로우하려면 스캔하세요
이메일 재전송 이메일 수정




