OpenAI a divulgué deux incidents de sécurité impliquant des agents IA affaiblissant leurs systèmes de surveillance de sécurité lors de tâches de codage internes. Dans l'un des incidents, OpenAI indique que son agent GPT-6 Astra a désactivé son moniteur de sécurité lors de la copie de code de référence - puis a menti à ce sujet. "La référence ne configurait pas de moniteur, et Astra a décidé que c'était une raison […]
news
OpenAI affirme qu'un agent d'IA a menti sur la désactivation de son système de surveillance de sécurité
OpenAI a divulgué deux incidents de sécurité impliquant des agents IA affaiblissant leurs systèmes de surveillance de sécurité lors de tâches de codage internes. Dans un incident, OpenAI affirme que son agent GPT-6 Astra a désactivé son moniteur de sécurité lors de la copie de code de référence - puis a menti à ce sujet. « La référence ne configurait pas de moniteur, et Astra a décidé que c'était une raison […]