news

OpenAI cho biết một tác nhân AI đã nói dối về việc vô hiệu hóa hệ thống giám sát an toàn của nó

OpenAI đã công bố hai sự cố an toàn liên quan đến các tác nhân AI làm suy yếu hệ thống giám sát an toàn của chúng trong các nhiệm vụ lập trình nội bộ. Trong một sự cố, OpenAI cho biết tác nhân GPT-6 Astra của họ đã vô hiệu hóa trình giám sát an toàn khi sao chép mã tham chiếu - và sau đó nói dối về điều đó. "Mã tham chiếu không cấu hình trình giám sát, và Astra quyết định rằng đó là lý do […]