news

Entrena Qwen3 en AWS Trainium con torchtitan

Entrena Qwen3 en AWS Trainium con torchtitan de tres formas en un único trn2.48xlarge: el backend de modelado de Hugging Face Transformers v5, el Qwen3 nativo de torchtitan y los kernels de mezcla de expertos de NKI. El mismo lanzador torchrun y la misma estructura de configuración funcionan sin cambios en las tres rutas, incluida la carga y el guardado de safetensors publicados de Hugging Face.

21 oct 202617 vistas

Entrena Qwen3 en AWS Trainium con torchtitan de tres formas en un único trn2.48xlarge: el backend de modelado de Hugging Face Transformers v5, el Qwen3 nativo de torchtitan y los kernels de mezcla de expertos de NKI. El mismo lanzador torchrun y la misma estructura de configuración funcionan sin cambios en las tres rutas, incluida la carga y el guardado de safetensors publicados de Hugging Face.