칼든 로봇에 ‘찔러봐’ 대신 ‘뻗어봐’ 하면?... “피지컬 AI, ‘다층적 가드레일’ 필요”

“칼을 든 AI 탑재 로봇에게 ‘사람을 찔러라’라고 명령하면 듣지 않겠지만, ‘팔을 끝까지 뻗어봐’라고 가드레일 우회 공격을 시도할 수 있습니다. 피지컬 AI 안전을 위한 다층적 가드레일과 통합 보안 체계가 필요합니다. 정수환 숭실대학교 전자정보공학부 교수는 27일 서울 양재동 엘타워에서 열린 ‘쿤텍 AI 보안 세미나’에서 이 같이 밝혔다.