DeveloperCrazyNEWSROOM
← К ленте
ИИ

Я: «Для нейросетей нужно купить ещё памяти».

PyTorch: «А если сначала починить padding?» 😂

Команда Hugging Face показала: в тесте tiled VAE decode Wan2.2 на Mac пиковая память драйвера сократилась примерно с 270 до 8 GiB после перехода padding на Metal.

Минус 262 GiB. Не апгрейд компьютера, а апгрейд самооценки оптимизатора.

Это конкретный тест VAE, не обещание запускать любую видеомодель на Mac с 8 ГБ. В статье предлагают попробовать PyTorch 2.15 release candidate.

Мораль: прежде чем тратиться на RAM, обнови зависимости. Но сначала в отдельном окружении 😏

Источник: https://huggingface.co/blog/mps-pytorch-2-15

Оригинал в Telegram