Em 6 de novembro, a 26ª Cerimônia de Premiação de Patentes da China foi realizada em Wuxi. A patente "Um método e dispositivo de processamento de solicitação de usuário" submetida pela Alibaba Cloud ganhou o China Patent Gold Award. Este foi o único fornecedor de nuvem a ganhar o prêmio ouro este ano. Esta tecnologia patenteada pode detectar dinamicamente mudanças na demanda de energia de computação em tempo real, especialmente em resposta às violentas marés de demanda na era da Internet e da IA, e consegue alocação sob demanda, escalonamento sob demanda e fornecimento seguro de potência de computação inteligente em escala ultralarga – ela pode sustentá-la durante horários de pico, recuperá-la durante períodos de baixa e isolar com segurança vários locatários.

O Prêmio de Patente da China é selecionado conjuntamente pelo Escritório Estatal de Propriedade Intelectual e pela Organização Mundial de Propriedade Intelectual. É a maior honra na área de patentes no meu país. Não há mais de 30 prêmios de ouro de patentes de invenção em cada seleção nacional. É uma certificação oficial de nível nacional de capacidades de inovação corporativa e valor de industrialização de patentes. Atualmente, o Alibaba Cloud implantou mais de 10.000 patentes em todo o mundo, cobrindo mais de dez países e regiões, concentrando-se em campos tecnológicos essenciais, como computação em nuvem, inteligência artificial, grandes modelos e chips.

Resolvendo três problemas principais no agendamento de energia de computação inteligente em escala ultralarga na era da IA

Clusters de poder de computação inteligente de ultragrande escala na era da IA ​​enfrentam violentas marés de demanda: tráfego repentino, picos de treinamento e picos de inferência estão interligados e sobrepostos, testando constantemente os limites da elasticidade do poder de computação. Entre picos e vales, a demanda por poder computacional pode variar centenas de vezes - de acordo com a configuração de pico, um grande número de recursos ficará ocioso em condições normais; de acordo com a configuração diária, quando chegar o pico, haverá riscos de capacidade insuficiente e serviço instável. Portanto, a unificação elástica do poder de computação heterogêneo, a resposta instantânea a cargas dinâmicas e o isolamento seguro em um ambiente multilocatário tornaram-se os três principais desafios do poder de computação em escala ultralarga na era da IA.

A principal invenção da patente do Alibaba Cloud é uma nova forma de processar solicitações de usuários. As soluções tradicionais dependem da pré-alocação de recursos e da espera passiva por solicitações, resultando em uma incompatibilidade de longo prazo entre a configuração dos recursos e a carga real. O método proposto nesta patente pode detectar dinamicamente as mudanças de demanda em tempo real e combinar de forma inteligente as solicitações com o poder de computação heterogêneo subjacente, de modo que cada solicitação possa receber uma resposta oportuna e adaptável do poder de computação.

Especificamente, o sistema detecta flutuações na carga de negócios em tempo real entre as solicitações do usuário e o enorme poder computacional, e aloca dinamicamente o poder computacional onde ele é mais necessário. Expande automaticamente a capacidade durante os horários de pico dos negócios e diminui automaticamente durante os períodos de baixa dos negócios, permitindo que a capacidade de computação seja fornecida sob demanda, como “água e eletricidade”, e usada a qualquer momento, utilizando todos os recursos de ponta. A estratégia de pré-aquecimento elástico e a melhoria da eficiência do agendamento também fazem com que as aplicações sejam iniciadas em segundos, e grandes respostas de inferência de modelos em milissegundos se tornem uma realidade. Ao mesmo tempo, os dados de cada aplicação são processados ​​e armazenados em ambientes operacionais independentes, isolados entre si e que não interferem entre si. Ao mesmo tempo que melhora a eficiência da utilização de recursos, também cria uma barreira protetora de ponta a ponta para a segurança dos dados.

O poder da computação elástica atende vários setores na era da IA ​​com mais eficiência

Baseando-se no acúmulo de tecnologias como o agendamento elástico do poder de computação, o Alibaba Cloud continuou a incubar uma série de produtos que abrangem computação geral, treinamento de modelos e operação de agentes. Instâncias de supernó Lingjun Zhenwu, Agent Sandbox, conjunto de inferência de IA de serviço de contêiner AI Serving Stack, cache distribuído Fluid, etc. foram lançados um após o outro e têm sido amplamente utilizados em milhares de setores na era da IA.

Por exemplo, o MiniMax pode lançar 5.000 sandboxes em 10 segundos com base no Alibaba Cloud Agent Sandbox, reduzindo o custo total de propriedade em 25%; Dark Side of the Moon Kimi alcança expansão elástica de dezenas de milhares de sandboxes por minuto, reduzindo o tempo de inicialização em 50% e apoiando resposta de negócios estável com fornecimento elástico; Step Star combina Agent Sandbox com Alibaba Cloud ACK para executar milhões de sandboxes de forma estável, comprimindo o ciclo de avaliação do modelo de semanas para dias. O 51job AI Recruitment Assistant aceita solicitações de pulso de 10.000 níveis por meio de Agent Sandbox e hibernação hierárquica e oferece suporte à recuperação de dados de sessão; Kingsoft Office é baseado na infraestrutura nativa da nuvem do Agent Sandbox e Alibaba Cloud, alcançando aquisição de sandbox em nível de milissegundos por meio do pool de pré-aquecimento, combinando programação de marés e recuperação de desastres de vários clusters, levando em consideração experiência, custo e continuidade de serviço.

Yi Li, inventor de patentes e chefe de pesquisa e desenvolvimento de contêineres e sandbox da Alibaba Cloud, disse: "A computação em nuvem se tornou uma produtividade chave tão importante quanto a conservação de eletricidade e água. Da Internet móvel à era da IA, a Alibaba Cloud sempre se concentrou na percepção em tempo real de mudanças de carga, agendamento unificado de poder de computação heterogêneo e isolamento seguro em ambientes multilocatários. Permitir que o poder de computação flua e corresponda com precisão sob demanda, reduza o limite para inferência de treinamento de grande modelo e operação de agente, e promova a grande escala implementação de aplicações inteligentes."

editar

Reenviar e-mail Modificar e-mail