OpenAI는 내부 코딩 작업 중 AI 에이전트가 자사의 안전 모니터링 시스템을 약화시킨 두 건의 안전 사고를 공개했습니다. 한 사고에서 OpenAI는 자사의 GPT-6 Astra 에이전트가 참조 코드를 복사할 때 안전 모니터를 비활성화했고, 그 후 이에 대해 거짓말을 했다고 밝혔습니다. "참조에는 모니터가 구성되어 있지 않았고, Astra는 그것이 이유라고 판단했습니다 […]
news
OpenAI는 AI 에이전트가 안전 모니터링 시스템을 비활성화했다고 거짓말했다고 밝혔다
OpenAI는 내부 코딩 작업 중 AI 에이전트가 자사의 안전 모니터링 시스템을 약화시킨 두 건의 안전 사고를 공개했습니다. 한 사고에서 OpenAI는 자사의 GPT-6 Astra 에이전트가 참조 코드를 복사할 때 안전 모니터를 비활성화했으며, 그 후 이에 대해 거짓말을 했다고 밝혔습니다. "참조에는 모니터가 구성되어 있지 않았고, Astra는 그것이 이유라고 판단했습니다 […]