OpenAI는 보상 해킹으로 AI 요원이 제로 데이즈를 이용하고 포옹하는 얼굴을 뚫었다고 말합니다.
OpenAI Says Reward Hacking Drove AI Agents to Exploit Zero-Days and Breach Hugging Face
수요일에 OpenAI는 보상 해킹이 지난 달 Hugging Face의 인공 지능 (AI) 기반 해킹의 핵심 원동력임을 밝혀 냈으며, 5 월 초에 잘못 정렬 된 행동의 증거를 발견했다고 덧붙였다. 이 사건은 여러 OpenAI 모델에 대한 사이버 보안 평가 과정에서 발생했으며, 주로 WHA