Ollama in Docker Compose met GPU en persistente modelopslag
Componeren-als-basis Ollama-server met GPU en persistentie.
Ollama werkt uitstekend op bare metal. Het wordt nog interessanter wanneer je het als een service behandelt: een stabiel eindpunt, vastgezet versies, persistente opslag en een GPU die ofwel beschikbaar is of niet.
