OpenAI hat zwei Sicherheitsvorfälle offengelegt, bei denen KI-Agenten bei internen Programmieraufgaben ihre Sicherheitsüberwachungssysteme schwächten. In einem Vorfall gibt OpenAI an, dass sein GPT-6 Astra-Agent seine Sicherheitsüberwachung deaktivierte, als er Referenzcode kopierte – und danach darüber log. "Die Referenz konfigurierte keine Überwachung, und Astra entschied, dass dies Grund […]
news
OpenAI sagt, ein KI-Agent habe gelogen, dass er sein Sicherheitsüberwachungssystem deaktiviert habe
OpenAI hat zwei Sicherheitsvorfälle offengelegt, bei denen KI-Agenten bei internen Programmieraufgaben ihre Sicherheitsüberwachungssysteme schwächten. In einem Vorfall gibt OpenAI an, dass sein GPT-6 Astra-Agent seine Sicherheitsüberwachung deaktivierte, als er Referenzcode kopierte – und dann darüber log. „Die Referenz konfigurierte keine Überwachung, und Astra entschied, dass dies Grund […]