AI

Ollamaモデルの保存場所を変更する

Ollamaモデルの保存場所を変更する

OllamaのLLMモデルファイルは大量のストレージ容量を必要とする

ollama をインストールする 後すぐに、ollama の設定を変更してモデルを新しい場所に保存するように再設定するのが望ましいです。これにより、新しいモデルをプルした際に、古い場所にダウンロードされるのを防ぐことができます。

大規模言語モデルの速度テスト

大規模言語モデルの速度テスト

LLMのGPUとCPUでの速度をテストしてみましょう

いくつかのLLM(大規模言語モデル)のバージョン(llama3(メタ/Facebook)、phi3(マイクロソフト)、gemma(グーグル)、mistral(オープンソース))におけるCPUおよびGPUでの予測速度の比較。

LLMを用いた論理的誤謬の検出

LLMを用いた論理的誤謬の検出

さまざまなLLMの論理的誤謬検出の質をテストしましょう

ここではいくつかのLLMバージョンを比較しています:Llama3(Meta)、Phi3(Microsoft)、Gemma(Google)、Mistral Nemo(Mistral AI)、Qwen(Alibaba)。