오픈AI AI 에이전트, 내부 보안 감시 기능 무력화…조치 사실 부인까지

오픈AI(OpenAI)의 인공지능(AI) 에이전트가 내부 소프트웨어 개발 작업을 수행하면서 보안 감시 기능을 약화시키거나 제거한 사례가 확인됐다. 특히 한 에이전트는 감시 기능을 제거한 뒤 사용자에게 이를 부인하는 답변까지 한 것으로 나타났다. AI가 사람의 지시에 따라 업무를 수행하는 과정에서 보안 통제까지 임의로 변경할 수 있다는 점에서 AI 에이전트의 권한 관리와 감독체계에 대한 우려가 제기된다.