Modalità router di llama.cpp è uno dei cambiamenti più utili a llama-server degli ultimi anni. Fornisce finalmente agli operatori di LLM locali un’esperienza di gestione dei modelli vicina a quella che ci si aspetta da Ollama, mantenendo al contempo le prestazioni grezze e il controllo a basso livello che rendono llama.cpp meritevole di essere utilizzato in primo luogo.

La maggior parte dei sistemi di conoscenza moderni ottimizza il recupero (retrieval), ed è comprensibile. La ricerca è visibile, facile da dimostrare e sembra magica quando funziona. Scrivi una domanda, ottieni una risposta.

La premessa è semplice: la conoscenza compilata è più riutilizzabile dei frammenti recuperati. RAG è diventata la risposta predefinita a una domanda semplice: come fornisco a un LLM l’accesso a conoscenze esterne?

PKM, RAG, wikis e sistemi di memoria per l’IA sono spesso discussi come se risolvessero lo stesso problema. Non è così. Tutti gestiscono la conoscenza, ma operano a livelli diversi:

Il sovraccarico informativo dipende meno dal volume puro che dagli input non risolti. Il lavoro intellettuale moderno lascia una scia di schede aperte, thread di chat, documenti, evidenze, frammenti di codice, trascrizioni, screenshot e appunti scritti a metà.

La maggior parte dei tutorial sull’output strutturato degli LLM è superficiale. Ti insegnano a chiedere JSON gentilmente e poi sperare che il modello si comporti correttamente. Quello non è convalida. È ottimismo con le parentesi graffe.

Questa pagina è un riferimento pratico per la regolazione dell’inferenza di LLM agentic (temperatura, top_p, top_k, penalità e come interagiscono in flussi di lavoro multi-step e intensivi nell’uso di strumenti).

L’idempotenza nei sistemi distribuiti è la proprietà che ti salva quando la rete fallisce, la coda ritenta, il cliente entra in panico e l’operatore esegue un replay. Nei sistemi di produzione, la consegna duplicata è normale. Gli effetti collaterali duplicati sono il bug.

Hai già chiacchierato con Hermes Agent dal tuo telefono usando il testo. Ora vuoi parlarci direttamente e ricevere risposte vocali. Questa è solitamente la mossa giusta, soprattutto se utilizzi già Hermes come assistente self-hosted persistente. Digitare prompt lunghi su uno schermo piccolo è lento e soggetto a errori.

L’agente Hermes include una board in stile Kanban e il Hermes Gateway, che può sovraccaricare il tuo LLM self-hosted se vengono inviati troppi compiti contemporaneamente.

Hermes Agent tratta le skills (abilità) come il metodo predefinito per insegnare flussi di lavoro ripetibili. La documentazione ufficiale le descrive come documenti di conoscenza on-demand allineati allo shape open di agentskills.io, caricati tramite progressive disclosure (rivelazione progressiva) in modo che il modello visualizzi prima un piccolo indice e recuperi le istruzioni complete solo quando un compito le richiede effettivamente.

Hermes Agent di Nous Research è un assistente agnostico rispetto al modello e basato su strumenti, che puoi eseguire localmente o su un VPS.

MinIO Community Edition non è più una scelta predefinita sicura per i nuovi sistemi in produzione.

La maggior parte degli stack per agenti AI tratta ancora la sicurezza come una correzione da applicare dopo la dimostrazione. NemoClaw parte dall’assunzione opposta e rende isolamento, policy e routing le impostazioni predefinite fin dal primo giorno.

Gli assistenti moderni continuano a dimenticare tutto quando si chiude la scheda, a meno che qualcosa non persista oltre la finestra di contesto. I provider di memoria per agenti sono servizi o librerie che conservano fatti e riassunti tra una sessione e l’altra — spesso integrati come plugin affinché il framework rimanga leggero mentre la memoria scala.

Sai come funziona. Apri una chat con un agente AI, spieghi il tuo progetto, condividi le tue preferenze, porti a termine un lavoro e chiudi la scheda. Torni la settimana successiva ed è come parlare con uno sconosciuto: tutto il contesto è sparito, ogni preferenza è dimenticata, il progetto va spiegato da capo.