Pliki modeli LLM w Ollama zajmują dużo miejsca
Po zainstalowaniu ollama lepiej jest natychmiast przełączyć ollama, aby przechowywał je w nowym miejscu. Dzięki temu po pobraniu nowego modelu nie zostanie on zapisany w starej lokalizacji.
Sprawdźmy prędkość LLM na GPU vs CPU
Porównanie prędkości przewidywania kilku wersji LLM: llama3 (Meta/Facebook), phi3 (Microsoft), gemma (Google), mistral (open source) na CPU i GPU.
Sprawdźmy jakość wykrywania błędów logicznych przez różne LLM-y
Oto porównanie kilku wersji LLM: Llama3 (Meta), Phi3 (Microsoft), Gemma (Google), Mistral Nemo (Mistral AI) oraz Qwen (Alibaba).
