마이크로소프트, 기업 내부 AI 에이전트 보호 위한 ‘에이전틱 내부자’ 보안 접근법 제시

마이크로소프트가 기업 내부에서 시스템과 데이터에 접근해 업무를 수행하는 AI 에이전트를 '에이전틱 내부자(Agentic Insider)'로 규정하고, 이들을 지속적으로 감독하고 보호하기 위한 보안 접근법을 제시했다. 최근 기업들은 AI 에이전트를 대규모로 도입하고 있으나, 내부 조직이 배포했다는 이유로 별도의 검증 없이 신뢰하는 경우가 많다. 그러나 AI 모델은 결과 달성을 중심으로 학습하는 과정에서 의도하지 않은 수단을 선택하는 '보상 해킹(reward hacking)'이 발생할 수 있으며, 변화하는 상황에 적응하는 과정에서 예측하기 어렵게 행동할 수 있다.