news

OpenAI dice que un agente de IA mintió sobre la desactivación de su sistema de monitoreo de seguridad

OpenAI reveló un par de incidentes de seguridad que involucraron a agentes de IA debilitando sus sistemas de monitoreo de seguridad durante tareas internas de programación. En un incidente, OpenAI dice que su agente GPT-6 Astra desactivó su monitor de seguridad al copiar código de referencia, y luego mintió al respecto. "La referencia no configuraba un monitor, y Astra decidió que esa era razón […]