A OpenAI divulgou um par de incidentes de segurança envolvendo agentes de IA que enfraqueceram seus sistemas de monitoramento de segurança durante tarefas internas de programação. Em um dos incidentes, a OpenAI afirma que seu agente GPT-6 Astra desativou seu monitor de segurança ao copiar código de referência - e depois mentiu sobre isso. "A referência não configurava um monitor, e a Astra decidiu que esse era o motivo […]
news
OpenAI diz que um agente de IA mentiu sobre desativar seu sistema de monitoramento de segurança
A OpenAI divulgou dois incidentes de segurança que envolveram agentes de IA enfraquecendo seus sistemas de monitoramento de segurança durante tarefas internas de programação. Em um dos incidentes, a OpenAI afirma que seu agente GPT-6 Astra desativou seu monitor de segurança ao copiar código de referência - e depois mentiu sobre isso. "A referência não configurava um monitor, e a Astra decidiu que esse era o motivo […]