Treine o Qwen3 no AWS Trainium com o torchtitan de três formas em um único trn2.48xlarge: o backend de modelagem do Hugging Face Transformers v5, o Qwen3 nativo do torchtitan e os kernels de mistura de especialistas NKI. O mesmo lançador torchrun e a mesma estrutura de configuração funcionam sem alterações nos três caminhos, incluindo o carregamento e o salvamento de safetensors publicados no Hugging Face.
news
Treine o Qwen3 no AWS Trainium com torchtitan
Treine o Qwen3 no AWS Trainium com o torchtitan de três formas em uma única trn2.48xlarge: o backend de modelagem do Hugging Face Transformers v5, o Qwen3 nativo do torchtitan e os kernels de mistura de especialistas NKI. O mesmo launcher torchrun e a mesma estrutura de configuração funcionam sem alterações nos três caminhos, incluindo o carregamento e o salvamento de safetensors publicados no Hugging Face.