[Tech Insigt] "AI 해킹, 보안 문제로만 보는 건 위험한 착각"

[디지털투데이 황치규 기자]최근 AI 에이전트들이 통제를 벗어나 사고를 치는 사건들이 잇따르고 있는 가운데 딥러닝 분야 세계적인 석학들 중 한명인 요슈아 벤지오(Yoshua Bengio) 캐나다 몬트리올대 교수는 "모델 학습용 샌드박스(격리된 실험 환경) 보안만 높이면 된다는 시각이 힘을 얻고 있는데, 이는 '위험한 신화'(dangerous myth)"라고 잘라 말했다. 그는 최근 파이낸셜타임스(FT)에 쓴 칼럼에서 이같이 주장하며 "최근 벌어진 사건들은 정렬 실패(misalignment)가 핵심이다. AI 에이전트가 사람이 원하는 것과 다른 목표를 스스로 정해 움직이는 것은 학습 방식에서 비롯된다"고 지적했다.