Ai

Ollamaによる並行リクエストの処理方法

Ollamaによる並行リクエストの処理方法

Ollamaの並行処理とキューイング、およびOLLAMA_NUM_PARALLELのチューニング方法を通じて、安定した並行リクエストを実現するための理解を深める。

このガイドでは、Ollama が並行リクエスト(同時処理、キューイング、リソース制限)をどのように処理するか、および OLLAMA_NUM_PARALLEL 環境変数(および関連する調整項目)を使用してそれをどのようにチューニングするかを説明します。

Ollama上でDeepseek-R1をテストする

Ollama上でDeepseek-R1をテストする

2つのdeepseek-r1モデルを2つのベースモデルと比較する

DeepSeekの 1世代目の推論モデルで、OpenAI-o1と同等の性能を備えています。 これは、LlamaおよびQwenに基づいてDeepSeek-R1から蒸留された6つの密結合モデルです。

Ollama を使用した Perplexica のセルフホスティング

Ollama を使用した Perplexica のセルフホスティング

ローカルで Copilot 風サービスを実行?簡単です!

それはとても素晴らしいことです! Copilot や Perplexity.ai を呼び出して、世界中に何を求めているかを知られる代わりに、 今ではご自身の PC やラップトップで同様のサービスをホストできるようになりました!

Gemma2 vs Qwen2 vs Mistral Nemo vs...

Gemma2 vs Qwen2 vs Mistral Nemo vs...

論理的誤謬の検出のテスト

最近、いくつかの新しいLLMがリリースされました。
非常にエキサイティングな時代です。
論理的誤謬の検出能力を確認するためにテストしてみましょう。

LLMフロントエンド

LLMフロントエンド

選択肢は多くないが、それでもなお....

LLMの実験を始めた当初は、それらのUIが活発な開発段階にありました。現在では、いくつかのUIが非常に良いものになっています。

LLM用の効果的なプロンプトの作成

LLM用の効果的なプロンプトの作成

いくつかの試行錯誤が必要ですが、

まだ、LLMがあなたの意図を理解しようとする際に混乱しないようにするための、良いプロンプトを書くためのいくつかの一般的なアプローチがあります。