구하다

거대 기술 기업인 마이크로소프트, 구글, xAI는 미국 연방 정부가 국가 안보 테스트를 위해 새로운 인공 지능 모델에 접근할 수 있도록 허용할 것이라고 밝혔습니다.

상무부의 AI 표준 및 혁신 센터(CAISI)는 Anthropic이 새로 공개한 Mythos 모델이 해커에게 제공할 수 있는 기능에 대한 우려가 커지는 가운데 화요일에 이 합의를 발표했습니다.

추천 스토리

새로운 계약에 따라 미국 정부는 모델을 배포하기 전에 평가하고 해당 모델의 기능과 보안 위험을 평가하기 위한 연구를 수행할 수 있습니다.

이번 협약은 지난 7월 도널드 트럼프 미국 대통령 행정부가 기술 기업과 협력해 AI 모델의 '국가 안보 위험'을 조사하겠다는 약속을 이행한 것이다.

마이크로소프트는 성명을 통해 “예상치 못한 행동을 조사하는 방식으로” AI 시스템을 테스트하기 위해 미국 정부 과학자들과 협력할 것이라고 밝혔다. 그들은 함께 회사의 모델을 테스트하기 위한 공유 데이터 세트와 워크플로우를 개발할 것이라고 회사는 말했습니다.

성명에 따르면 마이크로소프트는 영국 AI 보안 연구소와 유사한 계약을 체결했다.

워싱턴에서는 강력한 AI 시스템으로 인한 국가 안보 위험에 대한 우려가 커지고 있습니다. 미 관리들은 첨단 모델에 대한 조기 접근을 보장함으로써 도구가 널리 배포되기 전에 사이버 공격부터 군사적 오용에 이르는 위협을 식별하는 것을 목표로 하고 있습니다.

최근 몇 주 동안 Anthropic의 Mythos를 포함한 고급 AI 시스템의 개발은 미국 관료와 미국 기업을 포함하여 전 세계적으로 해커 능력을 강화하는 데 큰 관심을 불러일으켰습니다.

CAISI 국장 크리스 폴(Chris Fall)은 성명을 통해 “개척지 AI와 그것이 국가 안보에 미치는 영향을 이해하려면 독립적이고 엄격한 측정 과학이 필수적”이라고 말했습니다.

이러한 움직임은 CAISI가 미국 인공지능 안전 연구소로 알려졌던 조 바이든 대통령 행정부 하에서 OpenAI 및 Anthropic과의 2024년 계약을 기반으로 합니다. Biden 하에서 연구소는 AI 테스트, 정의 및 자발적 안전 표준 개발에 중점을 두었습니다. LinkedIn 프로필에 따르면 이후 Anthropic에 합류한 Biden 기술 고문 Elizabeth Kelly가 주도했습니다.

정부의 AI 모델 테스트 주요 허브 역할을 하는 CAISI는 아직 대중에게 공개되지 않은 최첨단 모델을 포함해 이미 40개 이상의 평가를 완료했다고 밝혔습니다.

개발자들은 센터가 국가 안보 위험을 조사할 수 있도록 안전 가드레일을 제거한 모델 버전을 자주 넘겨준다고 기관은 말했습니다.

xAI는 논평 요청에 즉시 응답하지 않았습니다. 구글은 논평을 거부했다.

월스트리트에서는 이 발표 직후 정오 거래에서 마이크로소프트 주가가 0.6% 하락했다. 반면 구글의 모회사인 알파벳은 반대 방향으로 움직이고 있다. 주가는 1.3% 상승했다. xAI는 공개적으로 거래되지 않습니다.

이번 발표는 국방부와 Google, Microsoft, Amazon Web Services, Nvidia, OpenAI, Reflection, SpaceX 등 7개 주요 기술 기업이 기밀 컴퓨터 네트워크에서 AI 시스템을 사용하기로 합의한 데 따른 것입니다.

국방부는 이 협정이 "복잡한 작전 환경에서 전투원의 의사 결정을 강화"하는 데 도움이 되는 자원을 제공할 것이라고 말했습니다.

AI 회사인 앤트로픽(Anthropic)은 전쟁 중 AI 사용의 윤리와 안전을 놓고 트럼프 행정부와 공개 분쟁과 법적 싸움을 벌인 뒤 목록에서 눈에 띄게 빠졌다.