LLM

Hastighetstest för stora språkmodeller

Hastighetstest för stora språkmodeller

Låt oss testa LLM:s hastighet på GPU jämfört med CPU

Jämförelse av förutsägelsehastighet hos flera versioner av LLMs: llama3 (Meta/Facebook), phi3 (Microsoft), gemma (Google), mistral (open source) på CPU och GPU.

Detektion av logiska felslutningar med LLMs

Detektion av logiska felslutningar med LLMs

Låt oss testa kvaliteten på logiska felslutdetektering hos olika LLMs

Här jämför jag flera LLM-versioner: Llama3 (Meta), Phi3 (Microsoft), Gemma (Google), Mistral Nemo (Mistral AI) och Qwen (Alibaba).