[Tech Insight] "지금처럼 AI 모델 만들면 AI 안전 문제 해결할 수 없다"

[디지털투데이 황치규 기자]튜링상 수상자이자 세계에서 가장 많이 인용되는 과학자들 중 한명으로 요슈아 벤지오(Yoshua Bengio) 몬트리올대 교수가 블로그를 통해 최근 AI 에이전트 오작동이 늘어나는 배경과 대책에 대한 의견을 공유했다. 얘기를 들어 보니 오픈AI가 테스트 중이던 AI에이전트들이 허깅페이스를 해킹하는 등 AI로 인한 크고 작은 사건사고들은 단순 오류가 아니라 일어날만 해서 일어나는 것이고, 지금처럼 하던 대로 하면 앞으로도 계속 일어날 가능성이 높다. 그에 따르면 최근 몇 달간 AI 에이전트들은 잇따라 사람이 했다면 범죄로 볼 만한 행동들을 저질렀다.