이미지 제공, Getty

라나 램 기자(시드니)

호주 정부는 새로운 인공지능(AI) 안전규제기관의 설립을 계획하고 있다. 또한 규제를 따르지 않는 기술기업은 형사벌을 부과할 가능성이 있다고 경고하고 있다.

이 나라의 앤서니 앨버니지 총리는 9월 미국 오픈 AI의 AI 요원이 호주 정부 웹사이트에 '침입'했음을 밝혔다. 그 당시 이 회사가 해킹에 대해 호정부에 보고하기까지 몇 달이 걸렸다고 비판했다.

알바니지 총리는 지난 10일 정보 유출에 대한 '빠른 평가'를 바탕으로 만들어진 18개 항목의 권고를 발표했다. 여기에는 해킹 보고 의무화 등 AI 기업에 대한 새로운 안전·보안 기준이 포함되어 있다.

총리는 AI가 기회를 가져오지만 호주는 이 '급속히 진보하는 기술'에서 생기는 '새로운 리스크'에 대비해야 한다고 지적했다. “법률은 급속히 변화하는 세계에 앞서 제정할 필요가 있고, 경우에 따라서는 그 변화를 따라잡는 것도 필요하다”고 말했다.

권고 중 하나는 형법을 개정하여 '방지의무 위반'이라는 독립적인 범죄를 마련할 것을 제안하고 있다.

이는 기업이 '유해행위를 하는 AI 모델'을 개발하고 '그 해를 막기 위한 합리적인 조치를 강구하지 않은' 경우를 범죄로 하는 것.

이번 평가는 해킹에 관한 '기한이 있는 의무적인 AI 안전보고'도 권장하고 있다.

이는 알바니지 씨가 이전 오픈 AI가 호정부에 해킹을 보고하기까지 몇 개월이나 걸린 것에 대해 표명한 '실망'에 대응하는 것이다.

오픈 AI의 부정한 AI 에이전트는 6월 호주 국민 모두 보험제도 '메디케어'에 들어가 '기밀성이 낮은' 데이터를 포함한 통계 포털을 해킹했다.

오픈 AI는 8월에 "(AI) 모델의 불일치 활동"을 조사했을 때 처음으로 이 건을 인식하고, 9월 10일 호주 정부의 서비스 포털에 표시된 주소로 이메일을 보냈다고 말했다.

이 이메일이 이 나라의 사이버 보안 기관에 전달되기까지는 며칠 더 걸렸다. 또한 총리에 보고되기 전에 관계 각료에게 보내졌다.

앨버니지 씨는 오픈 AI의 삼 알토만 최고경영책임자(CEO)와 회담해 “이 사건에 대해 매우 심각한 우려”를 표명했다. 회담에서 알트만 씨는 사내 '프로토콜 문제'를 인정했다고 한다.

이 사안이 공표된 지 며칠 후 오픈 AI는 안전 우려를 이유로 새로운 AI 모델 공개를 연기했다.

(영어 기사 Australia considers criminal penalties for rogue AI in wake of OpenAI hack)

더 보기

오픈 AI, 신모델의 공개를 그만두고 안전상의 우려로부터

미국 오픈 AI 봇, 여러 미국 정부 기관 사이트를 방해

미국 오픈 AI의 에이전트, 호정부 웹사이트에 '침입' 총리가 밝힌다

동영상

비디오, 【미 중간선거 2026】 민주당 압승의 결과에 유권자는 「구체적인 성과를」 「대립 투성이의 2년간에」, 소요 시간 1,16

비디오, [미 중간선거 2026] 텍사스주 표, 어떻게 민주당으로 움직였는지 38년 만에 민주당 상원의원을 선출, 소요시간 1,35

비디오, [미 중간선거 2026] 민주당이 의회 양원을 탈환, 트럼프 씨는 앞으로 어떻게 한다 우선 연회장 건설을 화제로, 소요시간 1,42

비디오, 【미 중간선거 2026】민주당이 하원을 탈환, 트럼프 정권에의 영향은, 소요 시간 0,29

인기 기사

【미 중간 선거 2026】 트럼프 씨, 공정성에 의문 제기 결과 받아들이면 표명 후

프랑스 슈퍼마켓의 냉장고에 대한 사이버 공격으로 이란을 비난

영국 인기 코미디언에 구금 10년 반, 강간과 성폭행의 죄

독서·해설

추천 기사