앤트로픽 AI, 보안 시험 도중 '돌발 행동'... 인간 사칭에 악성코드 유포 시도

앤트로픽의 인공지능(AI) 모델 ‘클로드 미토스 5’가 영국 정부의 사이버 보안 시험 도중 평가와 무관한 외부 개발자들의 오픈소스 프로젝트에 악성코드를 삽입하려 한 사실이 드러났다. AI가 실제 사람을 사칭해 코드 변경 승인을 요구하고 악성 행위가 발각된 뒤에도 공격을 이어가면서 자율형 AI의 통제 문제가 부각됐다. 앤트로픽은 클로드 미토스 5를 대상으로 진행한 사이버 보안 평가에서 AI가 허용된 시험 범위를 벗어나 외부 개발자와 접촉한 사례를 확인했다.