Antrópico submetido à Comissão de Valores Mobiliários (SEC) dos EUA em 10 de novembroA segunda versão revista do prospecto, adicionou uma descrição de risco: A empresa determinou que atingiu o “limiar de capacidade de P&D de IA” em sua “Política de Escalabilidade Responsável”, que é a linha na qual a IA começa a acelerar significativamente a velocidade de desenvolvimento da própria IA.

A Anthropic enfatiza que este julgamento se baseia nas expectativas para os modelos futuros e na velocidade geral do progresso, e não no que os modelos existentes alcançaram. Este texto não apareceu nem na edição original de 26 de outubro nem na primeira edição revisada de 2 de novembro.

Contagens “observadas ou esperadas”, a Anthropic opta por identificá-las antecipadamente

O prospecto explica que a definição deste limite é que a empresa “observa ou antecipa” um certo grau de aceleração de P&D. A Antthropic escreveu que a utilização de sistemas de IA já está a acelerar a sua investigação e desenvolvimento, e as estimativas internas mostram que a taxa de progresso nas capacidades de IA pode aumentar ainda mais, pelo que está determinado que o limiar foi atingido; os dados relevantes ainda estão sendo avaliados e um relatório será divulgado posteriormente para ilustrar o impacto.

A Anthropic chama esse ciclo de uso de modelos da geração anterior para ajudar a construir a próxima geração de “fechando o ciclo”. O prospecto admite francamente que a maior parte da aceleração da I&D só pode ser medida por indicadores defasados. “No passado, a aceleração não era notada até depois de ocorrer, e este pode ser o caso no futuro”. Se as capacidades ultrapassarem as medidas de segurança, alinhamento e proteção, poderá ser mais difícil avaliar os riscos.

Antrópico postado em junhoApelar aos laboratórios de ponta em todo o mundo para considerarem a coordenação e a desaceleração do desenvolvimento, mencionou na época que Claude havia escrito mais de 80% do código interno da empresa.

O modelo durante o teste acessou o sistema computacional real sem autorização e alguns testes foram suspensos.

Os factores de risco constantes do prospecto revelaram também que durante a avaliação de segurança antes do lançamento do modelo em 2026, ocorreu um incidente em que o modelo acedeu ao sistema informático real sem autorização. Desde então, a Anthropic suspendeu algumas dessas avaliações, bem como ambientes de treinamento de aprendizagem por reforço de alto risco. O prospecto não especifica qual modelo ou quais sistemas foram acessados.

Esta revelação foi incluída no prospecto inicial em 26 de outubro. O relatório de risco divulgado pela Anthropic em agosto também citou recentes incidentes de avaliação de segurança como o motivo.Aumentar a classificação de risco de precisão de “muito baixo” para “baixo”。

Pré-treinamento do novo modelo básico atrasado por mais de um mês

A Antrópica disse que para modelos que deverão ter novas capacidades ou novos riscos, a segurança será avaliada separadamente nas fases de pré-treinamento, pós-treinamento e implantação interna. Se não houver certeza, poderá ser adiado ou suspenso. Por exemplo, o prospecto afirmava que a empresa adiou recentemente o pré-treinamento de uma nova geração de modelos básicos de ponta por mais de um mês e primeiro reforçou as medidas de segurança da informação para evitar o vazamento de pesos de modelo e proteger a propriedade intelectual.

A Anthropic também está considerando revisar sua política de escalonamento responsável, o que exigirá revisão humana e aprovação de certas decisões no processo de desenvolvimento, à medida que os modelos assumem cada vez mais trabalhos de pesquisa e desenvolvimento. Esta frase foi adicionada na primeira versão revisada em 2 de novembro.

O prospecto também mencionou que quando a Anthropic lançou o modelo de ponta Mythos em abril, porque sua capacidade de encontrar vulnerabilidades de segurança da informação era muito forte, ele foi inicialmente aberto apenas a organizações específicas para fins de segurança da informação por meio do Projeto Glasswing. O lançamento posterior do Fable 5 estabeleceu restrições a algumas capacidades de segurança da informação, biológicas e químicas. A empresa lembra aos investidores que atrasar ou limitar o lançamento de modelos pode afetar a posição competitiva e o relacionamento com os clientes.

este artigo A Anthropic determinou que atingiu o limite de pesquisa e desenvolvimento acelerado de IA, e o modelo em teste invadiu o sistema real apareceu pela primeira vez em Cadeia de Notícias ABMedia。