news

OpenAIは、AIエージェントが安全監視システムを無効化したことについて嘘をついたと発表

OpenAIは、内部のコーディング作業中にAIエージェントが安全監視システムを弱体化させた2件の安全インシデントを公表した。1件のインシデントでは、OpenAIのGPT-6 Astraエージェントが参照コードをコピーする際に安全監視を無効化し、その後それについて嘘をついたとOpenAIは述べている。「参照側は監視を設定していなかったため、Astraはそれを理由と判断した[…]