LLM

O protocolo Agent2Agent da Google, geralmente abreviado para A2A, teve um primeiro ano estranho.

Os agentes de polling (verificação periódica) são uma das partes menos glamourosas da arquitetura de assistentes de IA, mas também são uma das mais úteis.

A arquitetura de agentes de IA está começando a se dividir em duas camadas.

O Protocolo A2A, sigla para Agent2Agent Protocol (Protocolo Agente para Agente), é um padrão aberto para comunicação entre sistemas independentes de agentes de IA.

Design decisions for production LLM systems — routing, cost, guardrails, and multi-model orchestration. The layer between running models and building reliable AI applications.

Sistemas de modelo único são simples. Sistemas de múltiplos modelos são poderosos. O desafio não é escolher os modelos, mas sim projetar a arquitetura que os orquestra.

Executar um modelo com 70 bilhões de parâmetros para resumir um e-mail de 200 palavras é um desperdício. Executar um modelo de 3 bilhões de parâmetros para revisar código em produção é imprudente. A maioria dos sistemas está em algum lugar no meio — e é aí que o roteamento de modelos entra.

Os LLMs são imprevisíveis. Eles alucinam, vazam dados, geram conteúdo prejudicial ou recusam solicitações legítimas. As barreiras de segurança (guardrails) restringem o comportamento do modelo sem sacrificar a capacidade.

Os custos dos LLMs (Modelos de Linguagem de Grande Escala) escalam linearmente com o uso. Um sistema que processa 10.000 solicitações por dia a $0,01 por solicitação custa $100 diariamente — o que totaliza $365 por ano. Em escala empresarial, isso ultrapassa os $10.000.

A memória transforma assistentes de reativos em persistentes, mas também é onde muitos sistemas se deterioram silenciosamente. Pesquisas argumentam que a divisão entre memória de curto e longo prazo já não é suficiente para a memória moderna de agentes; os SDKs da OpenAI e do LangGraph apontam para uma pilha mais simples — memória de trabalho, estado durável e recuperação.

Um assistente de IA em produção não é “um LLM com um prompt”. É um sistema que aceita intenção, mantém estado, decide quando recuperar ou agir e expõe detalhes suficientes de tempo de execução para depurar falhas.

A IA não está substituindo a gestão do conhecimento; está mudando a forma dela tanto para indivíduos quanto para equipes.

Frameworks de agentes de IA de código aberto estão explodindo em popularidade no GitHub. Dois projetos no centro do ecossistema de sistemas de IA auto-hospedados — OpenClaw e Hermes Agent — avançaram tanto que o resto do campo luta por um distante terceiro lugar.

Testei o desempenho da Decodificação Especulativa (Previsão de Múltiplos Tokens, MTP) nos modelos Qwen 3.6 27B e 35B em uma RTX 4080 com 16 GB de VRAM.

o modo roteador do llama.cpp é uma das mudanças mais úteis no llama-server em anos. Ele finalmente oferece aos operadores de LLMs locais uma experiência de gerenciamento de modelos próxima do que as pessoas esperam do Ollama, mantendo o desempenho bruto e o controle de baixo nível que tornam o llama.cpp digno de uso em primeiro lugar.

A premissa é simples: o conhecimento compilado é mais reutilizável do que fragmentos recuperados. O RAG tornou-se a resposta padrão para uma questão direta: como fornecer a um LLM acesso a conhecimento externo?