Cheatsheet

Test: Wie Ollama die Intel CPU Performance und Efficient Cores verwendet

Test: Wie Ollama die Intel CPU Performance und Efficient Cores verwendet

Ollama auf Intel CPU: Effiziente vs. Leistungscores

Ich habe eine Theorie, die ich testen möchte – wenn man alle Kerne eines Intel-Prozessors nutzt, würde das die Geschwindigkeit von LLMs erhöhen? Test: Wie Ollama die Leistung des Intel-Prozessors und der effizienten Kerne nutzt

Es nervt mich, dass das neue Gemma3-Modell mit 27 Bit (gemma3:27b, 17 GB auf Ollama) nicht in die 16 GB VRAM meines GPUs passt und teilweise auf dem CPU läuft.

PyInstaller Schnellstart

PyInstaller Schnellstart

Python-Programm in eine einzelne Datei zusammenführen

Verwenden Sie PyInstaller, um Python-Programme als eigenständige Ausführbare Dateien zu verpacken. Es funktioniert unter Linux, Windows und Mac.

Nicht die effizienteste Methode, aber nutzbar.