DeepLearning

PCIe レーンがLLMの性能に与える影響? タスクによります。トレーニングやマルチGPUの推論では、パフォーマンスの低下が顕著です。

現代の世界の混乱の中でここにいて、さまざまなカードのテクスペックを比較 で、AI のタスクに適したものを確認しています。
(Deep Learning, オブジェクト検出、 LLMs など)。
しかし、これらはすべて非常に高価です。

私はMMDetection (mmengine, mdet, mmcv)をかなり使い、
今ではそのゲームから出てしまったようです。
残念です。私はそのモデルズーが好きでした。