AI

トークン最適化は、コスト効率の高いLLMアプリケーションと、予算を浪費するだけの実験を分ける重要なスキルです。

Immich は、あなたの思い出を完全にコントロールできる、革新的なオープンソースでセルフホスト型の写真および動画管理ソリューションです。Google Photos と競合する機能を備えており、AI による顔認識、スマート検索、自動モバイルバックアップを含みながら、あなたのデータをプライバシーとセキュリティを保ったまま、あなたのサーバー上に保管します。

私は、Ollama上でGPT-OSS 120bのパフォーマンステストを3つの異なるプラットフォームで確認しました：NVIDIA DGX Spark, Mac Studio, and RTX 4080。OllamaライブラリのGPT-OSS 120bモデルは65GBあり、これはRTX 4080（または新しいRTX 5080の16GB VRAMには収まらないことを意味します。

モデルコンテキストプロトコル（MCP）は、AIアシスタントが外部データソースやツールとどのように相互作用するかを革命的に変えてきました。本ガイドでは、ウェブ検索およびスクレイピング機能に焦点を当てた例を用いて、MCPサーバーをPythonで構築する方法について説明します。

Docker Model Runner (DMR) は、2025年4月に導入された Docker の公式ソリューションで、AIモデルをローカルで実行するためのものです。このチートシートでは、すべての必須コマンド、構成、およびベストプラクティスのクイックリファレンスを提供しています。

ローカルで大規模言語モデル（LLM）を実行する は、プライバシー、コスト管理、オフライン機能のためにますます人気になってきています。 2025年4月にDockerが**Docker Model Runner (DMR)**を導入し、AIモデルの展開用の公式ソリューションとして登場したことで、状況は大きく変わりました。

AIの未来は、より賢いモデルに関するものだけでなく、それらのモデルが実際にサーブされる方法に合致したシリコンについてもです。LLM推論向けに特化したハードウェアは、Bitcoin採掘がGPUから目的構築されたASICへ移行したことを彷彿とさせる道を進んでいますが、モデルと精度のレシピが絶えず進化しているため、より厳しい制約条件があります。

NVIDIA DGX Spark は実在しており、2025年10月15日に発売開始予定です。CUDA環境でのローカルLLM作業を必要とする開発者向けに、統合されたNVIDIA AIスタックを搭載しています。アメリカのMSRPは3,999ドルですが、英国/ドイツ/日本の小売価格はVAT（付加価値税）や流通経費により高くなります。豪ドル/韓ウォンでの公定価格はまだ広く公開されていません。

このガイドでは、利用可能な Ollama 用の Go SDK の概要を網羅的に示し、その機能セットを比較します。

以下は、Qwen3:30b と GPT-OSS:20bの比較です。 指示への追従（Instruction Following）および性能パラメータ、仕様、速度に焦点を当てています。

OllamaのGPT-OSSモデルは、LangChainやOpenAI SDK、vllmなどのフレームワークと使用する際に、構造化された出力を処理する際に繰り返し問題が発生しています。

大規模言語モデル（LLM） は強力ですが、プロダクション環境では自由形式の段落を欲しがることは稀です。 むしろ、アプリケーションに投入できる予測可能なデータ（属性、事実、構造化オブジェクト）が欲しいのです。 それがLLM構造化出力です。

ここでは、新しいバージョンのOllamaがモデルに対してどのくらいのVRAMを割り当てているかについて、Ollama VRAM割り当てと以前のOllamaバージョンを比較しています。新しいバージョンは、以前のバージョンよりも劣っています。

Ollamaは、LLM（大規模言語モデル）をローカルで実行するための最も人気のあるツールの一つに急速に成長しました。 そのシンプルなCLIと、洗練されたモデル管理は、クラウド外でAIモデルを扱いたい開発者にとって、定番の選択肢となっています。

ローカルにホストされた Ollama は、あなたのマシン上で大規模言語モデルを実行できるが、コマンドライン経由での使用はユーザーにとって使いにくい。
以下に、ローカルの Ollama に接続するための、いくつかのオープンソースプロジェクトが提供する ChatGPTスタイルのインターフェース がある。

The Pragmatic Engineerのレターは数日前に、2025年中盤におけるプログラミング言語、IDE、AIツールの普及状況などのデータを掲載しました。