Производительность ЛЛМ и PCIe-каналы: ключевые аспекты
Думаете об установке второго GPU для LLMs?
Как количество PCIe-полос влияет на производительность LLM? Зависит от задачи. Для обучения и многопроцессорной инференции - значительное падение производительности.