Anthropic은 11월 10일 미국 증권거래위원회(SEC)에 제출되었습니다.투자설명서의 두 번째 개정판, 위험 설명 추가: 회사는 AI가 AI 자체의 개발 속도를 크게 가속화하기 시작하는 선인 '책임 있는 확장 정책'에서 'AI R&D 역량 임계값'에 도달했다고 판단했습니다.

Anthropic은 이러한 판단이 기존 모델이 달성한 것이 아니라 미래 모델에 대한 기대와 전반적인 발전 속도에 기초하고 있음을 강조합니다. 이 구절은 10월 26일자 초판이나 11월 2일자 첫 개정판에는 나오지 않았습니다.

"관찰 또는 예상" 횟수, Anthropic은 이를 사전에 식별하도록 선택합니다.

투자 설명서에서는 이 임계값의 정의가 회사가 어느 정도의 R&D 가속화를 "관찰하거나 예상"하는 것이라고 설명합니다. Anthropic은 AI 시스템의 사용으로 이미 연구 개발이 가속화되고 있으며 내부 추정에 따르면 AI 기능의 발전 속도가 더욱 높아질 수 있으므로 임계값에 도달했다고 판단합니다. 관련 데이터는 아직 평가 중이며, 그 영향을 설명하기 위한 보고서가 나중에 발표될 예정입니다.

Anthropic은 이전 세대 모델을 사용하여 차세대 모델을 구축하는 데 도움이 되는 이러한 주기를 "루프 닫기"라고 부릅니다. 투자설명서에서는 대부분의 R&D 가속화가 후행 지표로만 측정될 수 있다는 점을 솔직하게 인정합니다. "과거에는 가속 현상이 발생한 후에야 감지가 되었는데, 앞으로도 그럴 수 있습니다." 역량이 안전, 정렬, 보안 조치를 능가하는 경우 위험을 평가하기가 더 어려울 수 있습니다.

6월에 게시된 Anthropic전 세계 최첨단 실험실에 개발 조정 및 지연을 고려하도록 요청, 당시 Claude가 회사 내부 코드의 80% 이상을 작성했다고 언급했습니다.

테스트 중 모델은 승인 없이 실제 컴퓨터 시스템에 접속해 일부 테스트가 중단됐다.

투자 설명서의 위험 요소에는 2026년 모델이 출시되기 전 보안 평가 과정에서 해당 모델이 실제 컴퓨터 시스템에 무단으로 접근하는 사건이 있었던 것으로 드러났습니다. 이후 Anthropic은 이러한 평가 중 일부와 고위험 강화 학습 훈련 환경을 중단했습니다. 안내서에는 어떤 모델이나 어떤 시스템에 액세스했는지 명시하지 않았습니다.

이 폭로는 10월 26일 최초 투자 설명서에 포함되었습니다. 지난 8월 Anthropic이 발표한 위험 보고서에서도 최근 보안 평가 사건을 이유로 언급했습니다.정확도 위험 등급을 '매우 낮음'에서 '낮음'으로 높입니다.。

신규 기본모델 사전훈련 한 달 넘게 지연

Anthropic은 새로운 기능이나 새로운 위험이 예상되는 모델의 경우 사전 교육, 사후 교육 및 내부 배포 단계에서 안전성을 별도로 평가할 것이라고 밝혔습니다. 확실하지 않은 경우 연기되거나 중단될 수 있습니다. 예를 들어, 회사는 최근 차세대 첨단 기본 모델에 대한 사전 교육을 한 달 이상 연기하고, 모델 가중치 유출 방지 및 지적 재산 보호를 위해 정보 보안 조치를 우선 강화한다고 설명서에 명시되어 있습니다.

Anthropic은 또한 모델이 점점 더 많은 연구 및 개발 작업을 수행함에 따라 개발 프로세스의 특정 결정에 대한 사람의 검토와 승인을 요구하는 책임 있는 확장 정책 개정을 고려하고 있습니다. 이 문장은 11월 2일 1차 개정판에 추가되었습니다.

또한 투자설명서에는 앤트로픽이 지난 4월 최첨단 모델인 미토스(Mythos)를 출시했을 때 정보보안 취약점을 찾아내는 능력이 너무 강했기 때문에 프로젝트 글래스윙을 통해 처음에는 정보보안 목적으로 특정 기관에만 공개했다고 언급했다. 나중에 Fable 5가 출시되면 일부 정보 보안, 생물학적, 화학적 기능이 제한됩니다. 회사는 모델 출시를 연기하거나 제한하는 것이 경쟁적 지위와 고객 관계에 영향을 미칠 수 있음을 투자자들에게 상기시킵니다.

이 기사 Anthropic은 AI 가속 연구 개발 임계값에 도달했으며 테스트 중인 모델이 실제 시스템에 침입했다고 판단했습니다. 에 처음 등장 체인 뉴스 ABMedia。