Self-Hosting

Ollamaが並列リクエストをどのように処理するか

Ollamaが並列リクエストをどのように処理するか

Ollamaの並行処理、キューイングの仕組み、および安定した並列リクエストのためにOLLAMA_NUM_PARALLELを調整する方法を理解する。

このガイドでは、Ollamaが並行リクエストをどのように処理するか(並行性、キュー잉、リソース制限)と、OLLAMA_NUM_PARALLEL 環境変数(および関連する調整項目)を使用してそれをチューニングする方法について説明します。

Ollama上でDeepseek-R1をテストする

Ollama上でDeepseek-R1をテストする

2つのdeepseek-r1モデルを2つのベースモデルと比較する

DeepSeekの 1世代目の推論モデルで、OpenAI-o1と同等の性能を備えています。 これは、LlamaおよびQwenに基づいてDeepSeek-R1から蒸留された6つの密結合モデルです。

PyInstaller クイックスタート

PyInstaller クイックスタート

Pythonプログラムを単一ファイルに組み合わせる

PyInstallerを使用して、Linux、Windows、Macで動作するスタンドアロンの実行ファイルとしてPythonのプログラムをパッケージ化できます。

最も効率的ではありませんが、使用可能です。

Hugo に構造化データのマークアップを追加する

Hugo に構造化データのマークアップを追加する

Hugoのテーマが構造化データをサポートしない場合...

Googleは検索結果に、Movie details(映画の詳細)、Job postings(求人情報)、Event(イベント)およびCourse information(コース情報)などの強化を表示しています。これらはウェブサイトの Structured Dataから取得しています。以下に、 How to add Structured Data to the site using Hugo generatorの方法を紹介します。