NVidia

ドッカー・モデル・ランナーでのコンテキストサイズの設定は、本来よりも複雑です。

ブラックフォレスト・ラボズは、FLUX.1-Kontext-devという高度な画像から画像へのAIモデルをリリースしました。このモデルは、テキストの指示を使って既存の画像を補強します。

Docker Model Runner は、AIモデルをローカルで実行するためのDocker公式ツールですが、NVIDIA GPU加速をDocker Model Runnerで有効にする には特定の設定が必要です。

私は、NVIDIA DGX Spark、Mac Studio、およびRTX 4080の3つの異なるプラットフォーム上で、Ollama上で動作するGPT-OSS 120bの興味深いパフォーマンステストをいくつか見つけました。OllamaライブラリのGPT-OSS 120bモデルは65GBあり、これはRTX 4080（または新しいRTX 5080の16GBのVRAMには収まらないことを意味します。

Docker Model Runner (DMR) は、2025年4月に導入されたDocker公式のAIモデルをローカルで実行するためのソリューションです。このチートシートは、すべての必須コマンド、設定、ベストプラクティスのクイックリファレンスを提供しています。

ローカルで大規模言語モデル（LLM）を実行する は、プライバシー、コスト管理、オフライン機能のため、ますます人気になっています。 2025年4月にDockerがDocker Model Runner（DMR）、AIモデルの展開用公式ソリューションを導入したことで、状況は大きく変わりました。

NVIDIA DGX Spark は現実のものであり、2025年10月15日に販売開始され、CUDA開発者向けに、統合されたNVIDIA AIスタックを使用してローカルLLM作業を行う必要がある人を対象としています。US MSRPは**$3,999**; UK/DE/JPの小売価格はVATとチャネルの影響で高くなっています。AUD/KRWの公開価格はまだ広く掲載されていません。

またまた、LLM（大規模言語モデル）に特に、AI全般に適した上位レベルの消費者向けGPUの価格を比較してみましょう。具体的には、以下を確認しています。

RTX-5080およびRTX-5090の価格
価格はわずかに下がっています。

GPU負荷監視アプリケーション: nvidia-smi vs nvtop vs nvitop vs KDE plasma systemmonitor.

NVIDIAは、NVIDIA DGX Sparkを近日中にリリースする予定です。これは、ブラックウェルアーキテクチャを採用し、128GB以上の統合RAMと1 PFLOPSのAI性能を備えた小型のAIスーパーコンピュータです。LLMを実行するための非常に便利なデバイスです。

トップレベルの消費者向けGPUの価格を比較しましょう。特にLLM（大規模言語モデル）やAI全体に適したGPUについて詳しく見てみましょう。
具体的には、RTX 5080およびRTX 5090の価格を見てみましょう。わずかに価格が下がっています。

ちょうど3か月前には、RTX 5090は店頭に並んでいなかったが、今やそれらが販売されている。ただし、価格はMRSPよりもやや高くなっている。

最も安いオーストラリアでのRTX 5080およびRTX 5090の価格を比較してみよう。

トップの自動化システムで、ある素晴らしい仕事に使用されます。