I file dei modelli LLM di Ollama occupano molto spazio
Dopo aver installato Ollama, è meglio riconfigurare immediatamente Ollama per archivarli nel nuovo luogo. In questo modo, quando viene scaricato un nuovo modello, non verrà salvato nella vecchia posizione.
Verifichiamo la velocità degli LLM su GPU rispetto al CPU
Confronto della velocità di previsione di diverse versioni degli LLM (Large Language Models): llama3 (Meta/Facebook), phi3 (Microsoft), gemma (Google), mistral (open source) su CPU e GPU.
Verifichiamo la qualità del rilevamento delle fallacie logiche di diversi LLM
Ecco qui che confronto diverse versioni di LLM: Llama3 (Meta), Phi3 (Microsoft), Gemma (Google), Mistral Nemo (Mistral AI) e Qwen (Alibaba).
