폭주한 AI를 AI로 막는다?…에이전트 감시 기술에 쏠린 관심

[디지털투데이 최재원 기자] 기업들이 AI 에이전트에 복잡한 업무를 맡기면서 사람이 모든 행동을 감시하기 어려워지고 있다. 이에 다른 AI를 활용해 에이전트의 위험한 행동을 탐지하고 차단하는 기술이 주목받고 있다. 17일(이하 현지시간) IT 매체 테크크런치에 따르면, 최근 오픈AI의 에이전트가 허깅페이스 시스템에 침입한 사건에서는 약 1만2000개 에이전트가 사람이 추적하기 어려운 속도로 움직였다.