DeepLearning

Как количество линий PCIe влияет на производительность LLM? В зависимости от задачи. Для обучения и многопроцессорного инференса снижение производительности значительное.

В условиях хаоса современного мира здесь я сравниваю технические характеристики различных карт, подходящих для задач AI (Deep Learning, Обнаружение объектов и LLMs). Однако они все невероятно дорогие.

Я довольно часто использовал MMDetection (mmengine, mdet, mmcv),
но теперь выглядит так, будто он вышел из игры.
К сожалению. Мне нравился его модельный зоопарк.