Автор: Чжоу Лэй

Редактор 丨 Цен Фэн

Когда в начале этого года был выпущен фильм Byte's Seedance 2.0, многие практикующие были взволнованы и шокированы качеством фильма «на уровне кино». Перед ними медленно разворачивался новый творческий план, но для команды Seko из SenseTime это был «смятенный» день.

Линь Дахуа, соучредитель и главный научный сотрудник SenseTime, вспоминал в недавнем интервью, что в то время, когда он ездил на встречи с инвесторами и посещал отраслевые конференции, ему почти всегда задавали один и тот же вопрос: в чем разница между вашим Seko и Seedance? Вы когда-нибудь это делали?

В команде раздался голос неуверенности в себе: стоит ли продолжать это делать?

Позже история не закончилась тем, что Секо «сражался» с Сидэнсом в одиночку. Seedance рендерит 30-секундные видеоклипы на высшем уровне; в то время как Секо нацелен на создателей и в конечном итоге представляет 100 эпизодов коротких драм, которые состоят из сценариев, раскадровки, настроек персонажей и согласованности изображений в эпизодах, что представляет собой полный творческий процесс.

После ясного размышления об этом вопросе жизнь Секо стала лучше: по словам Линь Дахуа в интервью, число пользователей этого продукта в этом году увеличилось в 7-8 раз, а на платформе были созданы короткие драмы с более чем 100 миллионами просмотров.

Сам Линь Дахуа откровенно оценивает популярность SenseTime на рынке крупных моделей: «Возможно, он не самый большой». Маршрут этой компании никогда полностью не следовал самому горячему направлению в отрасли.

Но у SenseTime есть привычка, сохраняющаяся уже много лет: по сей день компания по-прежнему вкладывает 20% своих ресурсов в предварительные исследовательские работы без какого-либо экспорта продукции.

В определенной степени это тоже своего рода «посев». Когда семена посажены в землю, не нужно обещать урожай. Фраза, о которой часто говорит Тан Сяоу — жизнь находит свой путь, «жизнь находит свой путь», может быть логикой этих инвестиций.

В недавнем интервью для колонки «Technology Talk», совместно подготовленной Weibo Technology. Но есть только одна подсказка: 20% ресурсов и поддерживающее их суждение — почему по некоторым дорогам стоит идти очень-очень долго, даже если выхода еще нет.

01

Затраты на обучение невозможно остановить: китайский ИИ конкурирует со скоростью рук

Деньги в индустрии крупных моделей горят неудержимо.

Раньше в отрасли существовало распространенное предположение: потратив огромную сумму денег на обучение хорошей модели, затраты можно амортизировать в последующих масштабных сервисах.

Линь Дахуа отметил в интервью, что это предположение может быть неверным — проблема не в том, что модель недостаточно хороша, а в том, что «если вы не продолжите обучать следующую, другие превзойдут вас». Конкуренция вынуждает компании проходить переподготовку один раунд за другим, поэтому затраты на обучение не могут остановиться и становятся все выше и выше.

Хотя в прошлом году в отрасли почти доминировал лозунг «чем больше, тем сильнее», путь объемных параметров подвергается контратаке. Он упомянул два сигнала:

Во-первых, размерный подбор модели стал более прагматичным. Недавно различные производители выпустили модели малого и среднего размера с поддержкой Flash: GLM 5.3 Flash, DeepSeek 4.1 Flash, а Google и OpenAI также выпустили продукты с аналогичными характеристиками.

Линь Дахуа в интервью особо отметил производительность DeepSeek: «Уровень производительности Flash 4.1 лучше, чем у 4.0 Pro». Модель с масштабом в несколько сотен B и хорошо обученным обучением превзошла Pro предыдущего поколения, что указывает на то, что пространство оптимизации в модели среднего размера далеко не исчерпано.

Во-вторых, качество данных перед обучением было снова вынесено на обсуждение. Когда модель с сотнями миллиардов параметров превзошла противника с 2 триллионами параметров в реальном бою, многие люди начали оглядываться назад и проверять свои конвейеры данных.

У Линь Дахуа есть яркое объяснение этому: «В данных много примесей и много вещей, которые борются друг с другом, так что большая эффективность в середине будет компенсирована». В результате получается дорогая и неудовлетворительная модель. Параметры наворочены, но эффект не улучшен.

«Я не думаю, что это здоровое состояние, когда все слепо соревнуются по параметрам». По его мнению, эти два сигнала означают, что отрасль возвращается к рациональности: она больше не конкурирует вокруг одного показателя, а возвращается к ценности для конечного потребителя.

Похожая ситуация произошла и во время последнего цикла искусственного интеллекта, и сам SenseTime испытал ее. Каждый проект должен начинаться со сбора данных, специального обучения, настройки и тестирования. Весь процесс должен быть переделан, что трудно по-настоящему повторить. Просто тогда единицей измерения был проект, а сегодня его заменили параметром.

Борьба со скоростью рук – еще одна форма инволюции. Передовые лаборатории в США определяют потолок SOTA. Как только новая модель будет выпущена, это будет равнозначно указанию пути практикующим специалистам в Китае. Ряд продуктов, претендующих на использование аналогичных решений, часто появляются в течение двух-трех месяцев в Китае, чтобы занять экологическую нишу. Недавно популярный RSI (рекурсивное самосовершенствование) также разрабатывается несколькими компаниями одновременно.

«Честно говоря, соревноваться в скорости рук на самом деле довольно утомительно». Линь Дахуа заметил, что трудно создать долгосрочную ценность, если все с оптимизмом смотрят в одном направлении. Если десять компаний одновременно займут одну и ту же экологическую нишу, дивиденды первого встречного будут быстро размыты.

Так от чего же зависит долгосрочная конкурентоспособность? Его ответ: дорога достаточно длинная и глубокая. Этот вопрос является отправной точкой для понимания 20% ресурсов SenseTime.

02

Сущность интеллекта:

От закона против масштабирования к языку и мультимодальности

· 20% ресурсов и пространственного интеллекта

Эти 20% ресурсов явно вложены в работу, которая «не имеет продукции на экспорт». Линь Дахуа подтвердил в интервью, что независимо от того, с каким операционным давлением сталкивается SenseTime, деньги продолжают поступать по сей день. «В любое время мы по-прежнему сохраняем определенные ресурсы».

По его словам, отправной точкой этого типа работы является вопрос: почему: когда проблему невозможно решить существующими методами, нужно вернуться к основам. Он не преследует цели использования сложных математических формул для объяснения принципа, а требует, чтобы этот принцип «можл эффективно решать некоторые проблемы, которые в настоящее время трудно решить другими методами».

Так было выбрано одно из направлений исследований SenseTime — пространственный интеллект.

Логика выбора разделена на два этапа. Первый шаг — протестировать самые сильные модели на данный момент и выяснить, с чем они не справляются. Второй шаг — задать еще один вопрос: можно ли компенсировать эти недостатки добавлением некоторых данных? Если это можно сделать хорошо, добавляя данные по исходному пути, тогда это имеет прикладную ценность, но не может поддерживать принципиальные инновации. Только в тех направлениях, которые невозможно выполнить хорошо, сколько бы данных ни добавлялось, могут быть скрыты реальные принципиальные проблемы – и пространственный интеллект оказывается последним.

Происхождение этого набора стандартов суждения можно проследить до его наследства. Когда Тан Сяоу преподает студентам, он почти никогда не спрашивает о технических деталях. Он смотрит только на одно: сможет ли он в одном-двух предложениях объяснить коренное отличие своего произведения от других. «В мире нет двух одинаковых листьев». Технически всегда можно найти различия в деталях, но инновационная ценность таких различий ограничена; если вы не можете выразить это в одном предложении, возможно, это не настоящая инновация.

Линь Дахуа отметил, что «ненормальность» пространственного интеллекта заключается в том, что закон масштабирования здесь не работает.

В отрасли редко публично подвергают сомнению закон масштабирования. В последние несколько лет в отрасли сложился консенсус, согласно которому почти все стратегии делают ставку на этот путь: чем больше параметры, тем больше данных и тем сильнее возможности. Предложение «Закона против масштабирования» в этом контексте, по крайней мере, побуждает отрасль пересмотреть один вопрос: имеет ли практика простого объединения данных и параметров незамеченные белые пятна в определенных измерениях интеллекта.

В задачах, связанных с пространственным интеллектом, тенденция, наблюдаемая командой SenseTime, в точности противоречит Закону масштабирования — чем больше добавляется данных, тем нестабильнее становится производительность модели.

В ходе испытаний в то время модель неудовлетворительно справилась с задачей съемки перспективы. Когда люди перемещаются в пространстве, они, естественно, предсказывают изменения, которые видят: по мере удаления объекты перед вами должны становиться меньше. Но мультимодальные модели того времени не имели такого рода прогнозирования — даже если Google Gemini известен своим собственным мультимодальным маршрутом и является одним из лучших исполнителей, он также не может судить, какой формы объекты будут выглядеть под разными углами обзора и масштабами.

«Он может распознать, что это паршивая овца, но не может ответить, как выглядит паршивая овца, если смотреть под другим углом. Что модель помнит, так это массивную связь между изображением и семантикой: она выглядит как паршивая овца на расстоянии, но все равно выглядит как паршивая овца, если смотреть вблизи».

Команда продолжала добавлять релевантные данные, но производительность модели не улучшалась, а становилась «все более запутанной»: семантические связи постоянно укреплялись, но между данными отсутствовала пространственная корреляция, и модель все больше полагалась на семантику, чтобы объяснить все, что она видела. Чем больше данных, тем глубже затвердевание и стабильнее ошибка.

Пример, который Линь Дахуа часто приводил ранее, может проиллюстрировать последствия этого затвердевания. Дайте модели шесть пальцев на тот момент, и GPT, Близнецы и Грок ответят, что все пять пальцев. Путь суждения модели таков: сначала определите «это ладонь», а затем прямо ответьте на основе априорного «на ладони обычно пять пальцев» в обучающем корпусе.

Он также напомнил, что эта проблема, скорее всего, исправлена ​​в последнем поколении моделей, но механизм, лежащий в ее основе, все еще действует - "Она опирается только на семантический перевод, а затем на основе этого перевода делаются другие рассуждения".

Когда в начале этого года SenseTime выпустила свою модель пространственного интеллекта, это направление еще оставалось техническим резервом в глазах внешнего мира. Более чем через полгода отрасль начала догонять. Несколько моментов, которые широко обсуждались сообществом после выпуска GPT-6 — принятие архитектуры Recurrent Transformer и возможности роботов, продемонстрированные после ввода огромных объемов воплощенных данных в языковую модель — все указывают на одно и то же: мультимодальные и пространственные возможности входят в ядро ​​передовых моделей.

По мнению Линь Дахуа, это означает, что маршрут SenseTime проверен: «GPT-6 фактически доказывает, что путь, по которому мы идем, определенно ценен». Ресурсы SenseTime на порядки уступают OpenAI, но он считает, что непрерывное накопление в течение одного-двух лет позволит SenseTime разработать что-то отличное от других команд в отрасли.

Специфика пространственного интеллекта в некоторой степени показывает, что направление с большим количеством данных и более глубокой консолидацией может стать входом в принципиальные инновации. Поиск принципов путем отслеживания «аномалий» — одна из идей SenseTime для вынесения технических суждений. Сделав еще один шаг дальше в этом направлении мышления, вы столкнетесь с неизбежным вопросом: что же такое интеллект и каково место в нем языка.

· Язык и мультимодальность: Сущность интеллекта – взаимодействие с миром

С момента появления больших моделей вопрос о том, «является ли язык ключом к интеллекту», стал предметом споров.

Линь Дахуа считает, что язык структурированным образом вводит наиболее важные человеческие знания в систему символов и является «представителем человеческого знания и интеллекта очень высокого уровня». Плотность и эффективность разведки может быть самым высоким носителем. Языковые модели имеют наиболее зрелый инженерный опыт и самый быстрый прогресс, и им уделяется повышенное внимание в отрасли. Это тоже реальность.

Но сам по себе язык, по его мнению, был неполным. Точно так же, как пребывание в шумном городе и тихом горном лесу, впечатления людей совершенно разные, и подробно описать окружающую среду словами может оказаться невозможным. Предположим, вы даете портретную фотографию лучшей мультимодальной модели и позволяете ей сгенерировать максимально подробное описание, состоящее из тысяч слов, а затем позволяете текстовой модели нарисовать ее, то сгенерировать идентичную фотографию будет сложно.

Он охарактеризовал это явление как взаимодополняемость информационного спектра: язык несет в себе высокую плотность информации, которая была сжата, тогда как изображения фиксируют большое количество информации, которая не была сжата и не может быть сжата.

У каждого из двух режимов есть своя эффективная территория — при написании программ и выполнении логических выводов эффективность языка выше; эстетическое чувство, быстрое суждение о пространственной структуре и передача визуальных деталей повышает эффективность изображения. Что касается полномодального ввода и вывода, то потолок по-прежнему очень высок. Объединение их вместе без потери интеллекта «требует затрат и времени».

По мнению Линь Дахуа, суть интеллекта — это способность человека взаимодействовать с миром — восприятие, память знаний, многоэтапное рассуждение, выдача инструкций и составной результат комбинации множества элементов. Как и вопросы теста IQ человека, они также делятся на разные типы, такие как пространство, память, рассуждение и т. д., которые отражают различные аспекты интеллекта.

Следуя этому определению и оглядываясь назад на развитие большой модели на протяжении более трех лет, он пришел к выводу, что она «несбалансирована»:

С точки зрения математики, программирования и дальновидных задач, которые можно записать в виде текстовых и программных последовательностей, модели превзошли уровень обычных людей и даже близки к вершине; пространственный и физический интеллект все еще находятся на ранних стадиях развития, а роботы развиваются гораздо быстрее, чем раньше, но они все еще могут выполнять только простые действия.

Переход от цифрового интеллекта к физическому пространству зависит не только от технических решений, но и от того, сможет ли технология пройти замкнутый цикл в реальных пользовательских сценариях и предоставить табель успеваемости, способный выдержать рыночное тестирование.

03

Итерация происходит только в том случае, если существует замкнутый цикл:

Бизнес-ответы SenseTime

Оглядываясь назад на процесс SenseTime, превращающий технические решения ИИ в продукты и доходы, Линь Дахуа сказал следующее:

Путь Шантана лежит через ходьбу, а не размышления об этом.

В эпоху больших моделей первой платой за обучение, которую платила SenseTime, был продукт под названием «Дискуссия». Когда он выйдет в начале 2023 года, он будет похож на любой другой чат-продукт. Линь Дахуа однажды дал продукт жене опробовать, но «обсуждение» закончилось ерундой о рекомендации близлежащих ресторанов.

Переворот происходит не совсем из-за качества модели. Основой диалоговых продуктов является информационная инфраструктура, такая как обзоры и карты, но это не талант SenseTime.

В конце 2023 года SenseTime сосредоточится на контенте и взаимодействии для своих крупных модельных продуктов, сосредоточив внимание на двух направлениях: рабочий контент и развлекательный контент. Первый теперь превратился в офисного умного енота — согласно объявлению промежуточных результатов этого года, эта часть бизнеса выросла в шесть-семь раз; последний превратился в Секо.

Стиль игры Секо на самом деле лежит в основе разницы между «созданием» и «генерацией». Создавайте красивые 30-секундные клипы и короткометражки из 100 эпизодов, разделенные сценариями, раскадровками, характеристиками и согласованностью между эпизодами. Seko использует такие технологии, как унифицированное понимание и генерация, а также чересстрочное мышление графики и текста в творческом процессе, а базовый рендеринг опирается на другие модели, такие как Seedance — качество генерации само по себе невозможно сравнивать, поэтому оно становится частью ее собственного рабочего процесса. По словам Линь Дахуа, создатели использовали Секо для создания коротких пьес, набравших более 100 миллионов просмотров.

Поддержка такого выбора продуктов — это методология замкнутого цикла SenseTime. Линь Дахуа прямо отметил: «Во всем необходим замкнутый цикл, чтобы иметь возможность эффективно выполнять итерации, иначе будут только рейтинги и никаких итераций». Стать чемпионом по Benchmark сегодня, возможно, не получится в следующем месяце. Такого рода достижения невозможно сохранить; что действительно остается, так это ценность, создаваемая пользователями. Он перевел принцип обучения с подкреплением, согласно которому быстрый бег маленькими шагами лучше, чем идти сразу на большое расстояние, в планирование исследований и разработок: скорость итерации и правильное направление важнее, чем высота одного спринта.

Линь Дахуа однажды в жизни испытал эту трансформацию. В его ранних работах двадцать или тридцать формул были нормой; но после 2013 года это число упало до не более пяти. Его критерий суждения изменился с «красиво ли математическое доказательство» на «имеет ли оно дифференцированную ценность в использовании».

В промежуточном отчете SenseTime за этот год мы увидели официальное заявление о «первой прибыли». Однако Линь Дахуа считает, что SenseTime действительно беспокоит то, стал ли он более здоровым и жизнеспособным, а замкнутый цикл бизнеса является одним из проявлений жизнеспособности.

1+ Конкуренция на рынке достаточно жесткая, но она приносит рост как основателям, так и бизнесу.

С точки зрения SenseTime, продукты и бизнес подобны живым существам. Мы не давим на них, когда они незрелые. Прежде чем принять решение об увеличении инвестиций, мы используем естественный рост в качестве сигнала: позвольте продуктам сначала выйти на рынок и протестировать их в замкнутом цикле, а не выполнять внутренние итерации по заданным индикаторам.

Однако в определенной степени замкнутый цикл бизнеса отвечает лишь на вопрос «выживания». Столкнувшись с будущей конкуренцией, китайские компании, занимающиеся искусственным интеллектом, должны найти свое собственное позиционирование и долгосрочную конкурентоспособность в эпоху пост-дистилляции и четко видеть, где находятся границы интеллекта.

04

Помимо скорости рук:

Долгосрочная конкурентоспособность ИИ Китая и границы интеллекта

Линь Дахуа считает, что первая часть головоломки долгосрочной конкурентоспособности — это открытый исходный код.

Еще в 2018 году Линь Дахуа продвигал OpenMMLab с открытым исходным кодом на MMLab: организовывал репрезентативные алгоритмы в этой области в единую систему тестирования, избавляя исследователей от грязной работы по воспроизведению и сравнительным экспериментам. Позже этот проект стал самой влиятельной библиотекой алгоритмов с открытым исходным кодом в эпоху AI 1.0, которой пользовались сотни тысяч звезд и миллионы разработчиков.

Спустя годы та же логика вновь появилась в эпоху больших моделей. Эндогенной движущей силой открытого исходного кода является влияние: влияние может собирать средства и вербовать людей. Демонстрация DeepSeek позволяет каждому ясно увидеть этот путь. Объективно это также распределяет стоимость проб и ошибок на все сообщество — на обучение моделей приходится лишь около 10% затрат на НИОКР, а остальные 90% — это различные эксперименты; Открытое взвешивание позволяет каждой компании быстрее выбирать рецепты передовых технологий.

Это также объясняет, почему общий объём инвестиций Китая значительно отстаёт от объёма инвестиций США, но он может так близко его догнать. Линь Дахуа сказал: «Самое большое беспокойство — это не знать, где находится дорога». Как только дорога станет видна, доработка деталей — сила китайских инженеров.

Но открытый исходный код не может решить проблему следования за тенденцией. Линь Дахуа прямо сказал, что основной путь больших моделей Китая в последние три года заключался в оптимизации и инновациях в направлении, впервые начатом Соединенными Штатами. Промышленная ценность велика, «но если Китай хочет внести более долгосрочный вклад, он должен придумать что-то другое». Он использовал DeepSeek как положительный пример: это по-прежнему стандартный маршрут LLM с точки зрения большой парадигмы, но он приложил большие усилия для повышения эффективности архитектуры.

В то же время сам модельный рынок не может вместить покупателей. Стоимость, универсальность и профессионализм образуют невозможный треугольник. Модель, которая может все и делает все профессионально, обязательно будет огромной и дорогой. В повседневных сценариях наблюдается даже широко распространенный «избыток интеллекта»: модель с открытым исходным кодом 8B или 32B может справиться с большинством задач, и пользователям не нужно платить за это десятки долларов токенами. На Hugging Face более 3 миллионов моделей, но у каждой свой образ жизни.

Настоящий переломный момент может наступить в пост-перегонную эпоху.

Линь Дахуа решил, что тема дистилляции исчерпана: существующие вопросы цепочки мышления построены, и следующим узким местом стала способность генерировать новые проблемы — строить тысячи, десятки тысяч или даже сотни тысяч реальных рабочих сценариев, позволяя модели самостоятельно исследовать и выполнять задачи.

Узким местом в этом вопросе на самом деле являются не вычислительные мощности. Китай, оказывается, держит хорошую руку: разнообразие жизни и промышленности редко встречается в мире, а резерв инженеров самый большой в мире. После того, как фрукты в нижних местах собраны, люди должны забраться на дерево по плодам в более высоких местах.

Однако сценарии и рабочая сила лишь расширяют «ширину» разведки; «глубина» интеллекта зависит от скорости роста самого интеллекта.

На этом акцентирует внимание RSI (рекурсивное самосовершенствование), привлекающее в последнее время много внимания, но Линь Дахуа подчеркнул, что RSI — это лишь одно из средств разумного роста. Узким местом является не автоматизация обучения, а эффективность эволюции: машине все равно придется провести огромное количество тренировок, чтобы получить эффективную точку наблюдения; Чтобы овладеть новым навыком, человеку не требуется полного обучения. Нынешний ИИ все еще очень далек от человека с точки зрения эволюции. Как только этот секрет будет раскрыт, «это в значительной степени изменит ландшафт развития ИИ и конкуренции».

Он также не верит, что нынешнюю ситуацию можно экстраполировать до бесконечности: экстенсивное потребление ресурсов рано или поздно приведет к взрыву траектории. Сможет ли существующий путь дойти до конца – вопрос открытый.

Что касается расширения границ, то первый вопрос, который его беспокоит, заключается в следующем: какую роль в интеллекте играют иные модальности, чем язык. Это понимание все еще находится на ранней стадии, но ответ определит, куда следует направить ресурсы. Он возлагает надежду на интеграцию мультимодальности и пространства — простая генерация только улучшит визуальное качество; интеграция пространственного восприятия в процесс мышления сделает интеллект более полным.

Чтобы интеллект смог преодолеть свои границы, узким местом является эффективность обучения и эволюции, а это именно то, в чем люди преуспевают лучше всего, но машины все еще сильно отстают. Ответ SenseTime на этот вопрос не полностью записан в модели: организация, которая может продолжать порождать новых людей, сама по себе является наиболее жизнеспособным интеллектом.

Линь Дахуа также сказал, что его самая важная работа на данный момент — создать среду для молодежи и защитить жизнеспособную организацию. Это также основная логика 20% ресурсов SenseTime: активно сеять семена и защищать рост. Этим семенем может быть продукт, бизнес или человек, выросший в организации. SenseTime ждет, пока семена прорастут, и жизнь найдет свой выход.

Leifeng.com (публичный аккаунт: Leifeng.com)

Оригинальные статьи с сайта Leifeng.com, несанкционированное воспроизведение запрещено. Подробности см. в инструкциях по перепечатке.

редактировать

Отсканируйте, чтобы подписаться на автора в WeChat.

Повторно отправить электронное письмо Изменить электронное письмо