Pensez-vous à installer une deuxième carte graphique pour les LLM ?
Comment les voies PCIe affectent les performances des LLM ? Selon la tâche. Pour l’entraînement et l’inférence multi-GPU, la baisse de performance est significative.
L'IA nécessite beaucoup de puissance...
Dans le chaos du monde moderne ici, je compare les spécifications techniques de différentes cartes adaptées aux tâches IA
(Deep Learning,
Détection d’objets
et LLMs).
Elles sont toutes extrêmement coûteuses toutefois.
L'ensemble complet des outils MM* est en fin de vie...
J’ai utilisé MMDetection (mmengine, mdet, mmcv) assez souvent,
et maintenant il semble qu’il ait quitté la scène.
C’est une perte. J’aimais sa zoo de modèles.
