Hardware

現代の世界の混乱の中でここにいて、さまざまなカードのテクスペックを比較 で、AI のタスクに適したものを確認しています。
(Deep Learning, オブジェクト検出、 LLMs など)。
しかし、これらはすべて非常に高価です。

Ollama サーバーが同時に2つのリクエストを受けると、その動作は設定と利用可能なシステムリソースに依存します。

ET-8500をWindowsにインストールする方法は、インストール手順に詳しく記載されています。
ET-8500 Linuxドライバのインストールは簡単ですが、簡単ではありません。

いくつかのLLM（llama3、phi3、gemma、mistral）のCPUおよびGPUでの予測速度の比較。