Los archivos de modelos LLM de Ollama ocupan mucho espacio.
Después de instalar ollama, es mejor reconfigurar ollama para guardarlos en la nueva ubicación de inmediato. Así, cuando descarguemos un nuevo modelo, no se descargará en la ubicación anterior.
Probemos la velocidad de los LLM en GPU frente a CPU
Comparando la velocidad de predicción de varias versiones de LLMs: llama3 (Meta/Facebook), phi3 (Microsoft), gemma (Google), mistral (open source) en CPU y GPU.
Probemos la calidad de detección de falacias lógicas de diferentes LLMs
Aquí estoy comparando varias versiones de LLM: Llama3 (Meta), Phi3 (Microsoft), Gemma (Google), Mistral Nemo (Mistral AI) y Qwen (Alibaba).
