LLM

GoogleのAgent2Agentプロトコル、通称A2Aは、最初の1年を非常に奇妙な形で過ごしました。

ポーリングエージェントは、AIアシスタントのアーキテクチャにおいて最も華やかさを感じない部分の一つですが、同時に最も実用的な部分の一つでもあります。

AIエージェントアーキテクチャは、2つのレイヤーに分かれつつあります。

A2Aプロトコル（Agent2Agent Protocolの略）は、独立したAIエージェントシステム間の通信のためのオープンな規格です。

Design decisions for production LLM systems — routing, cost, guardrails, and multi-model orchestration. The layer between running models and building reliable AI applications.

LLMのコストは利用量に対して線形に比例して増加します。1日10,000リクエスト、1リクエストあたり0.01ドルで処理するシステムの場合、日額コストは100ドル、年間では365ドルになります。エンタープライズ規模では、それが1万ドルを超えます。

LLM（大規模言語モデル）は予測不可能な性質を持っています。ハルシネーション（幻覚）を起こしたり、データを漏洩させたり、有害なコンテンツを生成したり、正当なリクエストを拒否したりすることがあります。ガードレール（安全策）は、モデルの機能を損なうことなく、その振る舞いを制限します。

シングルモデルのシステムはシンプルです。マルチモデルのシステムは強力です。課題はモデルを選ぶことではなく、それらを調整するアーキテクチャを設計することにあります。

700億パラメータのモデルを使って200語のメールを要約するのは無駄です。30億パラメータのモデルで本番環境のコードレビューを行うのは無謀です。多くのシステムはその中間に位置しており、そこがモデルルーティングの登場シーンです。

メモリはアシスタントを反応型から永続型へと変えますが、同時に多くのシステムが静かに劣化してしまう箇所でもあります。調査では、短期的メモリと長期的メモリの二分法是では現代のエージェントメモリには不十分であると指摘されています。OpenAIやLangGraphのSDKは、よりシンプルな構成、つまりワーキングメモリ、永続的な状態、および検索による取得（リトリーブ）へと焦点を移しています。

本番環境向けのAIアシスタントは「プロンプト付きLLM」ではありません。それは、意図を受け取り、状態を保持し、検索やアクションの実行タイミングを決定し、障害のデバッグに必要なランタイムの詳細を公開するシステムです。

AIは知識管理を置き換えるものではありません。むしろ、個人およびチームにとって知識管理の形そのものを変革しています。

オープンソースのAIエージェントフレームワークは、GitHub上でその人気を急速に高めています。セルフホスト型AIシステムのエコシステムの中核をなす2つのプロジェクト、OpenClawとHermes Agentは、他を大きく引き離し、残りのライバルたちは遠い3位の座を争う状況になっています。

RTX 4080（16 GB VRAM）環境で、Qwen 3.6 27Bおよび35Bにおける推論デコーディング（マルチトークン予測、MTP）のパフォーマンスをテストしました。

llama.cpp ラーターモード は、llama-server における数年間で最も有用な変更の一つです。これにより、ローカルLLM運用者は、Ollamaで期待されるようなモデル管理体験に近いものをようやく手に入れることができました。同時に、llama-server を使い続ける価値がある生のパフォーマンスと低レベルの制御も維持されています。

前提はシンプルです。コンパイルされた知識は、取得された断片的な情報よりも再利用性が高いというものです。 RAG（検索強化生成）は、LLM（大規模言語モデル）に外部知識へのアクセスをどのように与えるかという直接的な問いに対するデフォルトの答えとなりました。