PerplexityとNVIDIAはJOLTを発表しました。これは1つのモデルを教師と生徒の両方として訓練する事後訓練手法です。MATHにおいて、処理する訓練トークン数を6.5分の1に削減しながらGRPOの精度に匹敵しました。投稿「Perplexity and NVIDIA Researchers Introduce JOLT: a Joint Teacher-Student Reinforcement Learning Method」はMarkTechPostで最初に公開されました。
news
PerplexityとNVIDIAの研究者がJOLTを発表：教師-生徒の共同強化学習手法
PerplexityとNVIDIAはJOLTを発表した。これは1つのモデルを教師と生徒の両方として訓練するポストトレーニング手法である。MATHにおいて、処理する訓練トークン数を6.5分の1に削減しながらGRPOの精度に匹敵した。投稿「Perplexity and NVIDIA Researchers Introduce JOLT: a Joint Teacher-Student Reinforcement Learning Method」はMarkTechPostで最初に公開された。