Hugging Face анонсировала поддержку TorchNeuron: модели Transformers и Diffusers смогут работать на AWS Trainium через нативный PyTorch. Публичная бета намечена на 20 окт
Hugging Face анонсировала поддержку TorchNeuron: модели Transformers и Diffusers смогут работать на AWS Trainium через нативный PyTorch. Публичная бета намечена на 20 октября. Меньше специального кода для AI-инфраструктуры.
https://huggingface.co/blog/hf-torchneuron