A2AおよびMCPエージェントのセキュリティ：アイデンティティ、委任、および監査証跡
プロトコルセキュリティはモデルではなく、誰が実行できるか（誰が操作を行えるか）を定義するものです。
LLMシステムにおけるセキュリティの関心は、プロンプトインジェクションに最も集中していますが、それは確かに注目を集めるべきものです。しかし、エージェントがツールを呼び出し、他のエージェントに作業を委任し始めると、それは問題の一部に過ぎなくなります。
LLM Architecture
LLMアーキテクチャ：プロダクションAIのためのシステム設計
Design decisions for production LLM systems — routing, cost, guardrails, and multi-model orchestration. The layer between running models and building reliable AI applications.
LLMシステムのコスト最適化：費用の実際の使途
本当に重要な場所でトークンを活用しましょう。
LLMのコストは利用量に対して線形に比例して増加します。1日10,000リクエスト、1リクエストあたり0.01ドルで処理するシステムの場合、日額コストは100ドル、年間では365ドルになります。エンタープライズ規模では、それが1万ドルを超えます。
マルチモデルシステム設計：単一モデルでは不十分な場合
「機能する最もシンプルなパターンを選びましょう。」
シングルモデルのシステムはシンプルです。マルチモデルのシステムは強力です。課題はモデルを選ぶことではなく、それらを調整するアーキテクチャを設計することにあります。
モデルルーティング：すべてのタスクに1つのモデルを使うのをやめましょう
適切なタスクに最適なモデル。
700億パラメータのモデルを使って200語のメールを要約するのは無駄です。30億パラメータのモデルで本番環境のコードレビューを行うのは無謀です。多くのシステムはその中間に位置しており、そこがモデルルーティングの登場シーンです。
実践におけるLLMのガードレール：実際に有効な手法
管理すべきはモデルではなく、リスクです。
LLM（大規模言語モデル）は予測不可能です。幻覚（ハルシネーション）を起こし、データを漏洩させ、有害なコンテンツを生成したり、正当なリクエストを拒否したりします。ガードレール（防護策）は、機能を損なわずにモデルの動作を制限します。