카카오톡에서 AI 비서 안전하게 관리... 카카오, 자율 에이전트 시대 AI 윤리 원칙 ‘SPIRIT’ 공개

스스로 계획하고 행동하는 자율 에이전트 시대가 본격화되면서 AI의 권한 남용과 통제 불능 리스크가 핵심 과제로 부상했다. 카카오는 통제 주도권과 권한 등 5대 리스크 영역에 인간 감독과 비상 제어 장치를 촘촘히 연결한 새로운 AI 윤리 원칙과 실무 이행 가이드를 15일 공개했다. 카카오는 13일 카카오 AI 캠퍼스에서 열린 개발자 콘퍼런스 ‘if(kakao)26’에서 이를 공개했다.