OpenAI의 압축 결함으로 인해 연구자들이 ‘히든 리저닝’ 보호 기능을 우회할 수 있게 되었다
OpenAI Compaction Flaw Let Researchers Bypass Hidden Reasoning Protections
보안 업체 Xint는 긴 대화를 압축해 공간을 절약하는 OpenAI의 압축 기능을, 모델의 숨겨진 추론 과정을 일반 텍스트로 복사해내는 수단으로 활용할 수 있음을 보여주었습니다. OpenAI의 추론 모델은 답변을 내놓기 전에 문제를 해결하는 방식으로 작동하며, 이 서비스는 일반적으로