마이크로소프트, AI 행동강령 초안 공개…해킹 지원·기만 행위 금지

마이크로소프트가 안전한 인공지능(AI) 개발을 위한 원칙을 담은 AI 행동강령 초안을 공개했다. 초안은 공격적 사이버작전 지원과 인간 감독을 피하기 위한 기만 행위를 금지하고, 모델이 권한 없이 목표를 설정하거나 인간의 통제·중단 명령을 우회하지 못하도록 하는 데 초점을 맞췄다. 15일 마이크로소프트는 AI 성능이 급격히 발전하는 상황에서 인간이 AI를 실질적으로 통제할 수 있어야 한다는 문제의식에서 행동강령을 마련했다고 공식 블로그를 통해 밝혔다