Hardware

テスト: Ollama がインテル CPU のパフォーマンスコアと効率コアをどのように利用しているか

テスト: Ollama がインテル CPU のパフォーマンスコアと効率コアをどのように利用しているか

インテルCPUにおけるOllamaの効率的なコアとパフォーマンスコアの比較

私はある仮説をテストしたいと思っています。すなわち、「インテルCPUのすべてのコアを活用することで、LLMの速度が向上するか?」というものです。このテストについては、ALL cores on Intel CPU would raise the speed of LLMs?をご覧ください。

新しいgemma3 27bitモデル(gemma3:27b、ollama上では17GB)が私のGPUの16GB VRAMに収まらず、部分的にCPU上での実行に頼っているという点が気になります。

Ollamaによる並行リクエストの処理方法

Ollamaによる並行リクエストの処理方法

Ollamaの並行処理とキューイング、およびOLLAMA_NUM_PARALLELのチューニング方法を通じて、安定した並行リクエストを実現するための理解を深める。

このガイドでは、Ollama が並行リクエスト(同時処理、キューイング、リソース制限)をどのように処理するか、および OLLAMA_NUM_PARALLEL 環境変数(および関連する調整項目)を使用してそれをどのようにチューニングするかを説明します。

エプソン エコタンク ET-8500 リナックスドライバーのインストール

エプソン エコタンク ET-8500 リナックスドライバーのインストール

古いプリンタードライバと比べてはるかに簡単です

ET-8500をWindowsにインストールする方法は、マニュアルに詳細に記載されています。ET-8500 Linuxドライバのインストールは簡単ですが、簡単ではありません。このガイドは、2026年のドキュメントツール: Markdown、LaTeX、PDFおよび印刷ワークフロー ハブの一部です。

大規模言語モデルの速度テスト

大規模言語モデルの速度テスト

LLMのGPUとCPUでの速度をテストしてみましょう

いくつかのLLM(大規模言語モデル)のバージョン(llama3(メタ/Facebook)、phi3(マイクロソフト)、gemma(グーグル)、mistral(オープンソース))におけるCPUおよびGPUでの予測速度の比較。