Hardware

Docker Model Runner (DMR) é a solução oficial do Docker para executar modelos de IA localmente, introduzida em abril de 2025. Esta lista de comandos essenciais fornece uma referência rápida para todos os comandos, configurações e melhores práticas.

No cenário atual de computação, a virtualização tornou-se essencial para desenvolvimento, testes e execução de múltiplos sistemas operacionais. Para os usuários de Linux que buscam uma maneira simples e intuitiva de gerenciar máquinas virtuais, o GNOME Boxes destaca-se como uma opção leve e amigável, que prioriza a facilidade de uso sem sacrificar a funcionalidade.

O futuro da IA não se trata apenas de modelos mais inteligentes, mas de silício mais inteligente. Hardware especializado para inferência de LLM está impulsionando uma revolução semelhante à mudança para ASICs na mineração de Bitcoin.

NVIDIA DGX Spark é real, à venda a partir de 15 de outubro de 2025, e voltado para desenvolvedores de CUDA que necessitam de trabalho local com LLMs, com uma pilha de IA da NVIDIA integrada. O MSRP nos EUA é de $3.999; o varejo no Reino Unido/Alemança/Japão é mais alto devido ao IVA e aos canais de distribuição. Os preços públicos de etiqueta em AUD/KRW ainda não foram amplamente divulgados.

Vamos comparar os preços das GPUs de consumo de topo, adequadas em particular para LLMs e para IA em geral. Especificamente, estou a olhar para Preços da RTX-5080 e RTX-5090. Eles caíram ligeiramente.

Aplicações de monitoramento de carga da GPU: nvidia-smi vs nvtop vs nvitop vs KDE plasma systemmonitor.

A Nvidia está prestes a lançar o NVIDIA DGX Spark - um pequeno supercomputador de IA baseado na arquitetura Blackwell, com mais de 128 GB de RAM unificada e desempenho de IA de 1 PFLOPS. Um ótimo dispositivo para executar LLMs.

Vamos comparar os preços das principais GPUs de consumo, adequadas em particular para LLMs e para IA em geral. Especificamente, observe os preços da RTX 5080 e RTX 5090. Eles caíram ligeiramente.

Há apenas 3 meses, não víamos a RTX 5090 nas lojas, e agora elas estão aqui, mas os preços são ligeiramente superiores ao MRSP. Vamos comparar os preços mais baixos para RTX 5080 e RTX 5090 na Austrália e ver como está a situação.

Top sistema automatizado para um trabalho incrível.

Como as Pistas PCIe Afetam o Desempenho de LLM? Depende da tarefa. Para treinamento e inferência multi-GPU, a queda de desempenho é significativa.

Fui duramente afetado por este problema. Mas você deve investigar e testar seu PC se o seu BSOD for igual ao meu. A causa foi o Problema de Degradação de CPU da Intel nas 13ª e 14ª Gerações.

Tenho uma teoria para testar: se utilizar todos os núcleos de uma CPU Intel aumentaria a velocidade dos LLMs? Isso tem me incomodado: o novo modelo gemma3 de 27 bilhões (gemma3:27b, 17GB no Ollama) não cabe nos 16GB de VRAM da minha GPU e está rodando parcialmente na CPU.

No meio da agitação do mundo moderno, estou comparando as especificações técnicas de diferentes placas adequadas para tarefas de IA (Aprendizado Profundo, Detecção de Objetos e LLMs). No entanto, todas elas são incrivelmente caras.

Este guia explica como o Ollama gerencia solicitações paralelas (concorrência, filas e limites de recursos) e como ajustá-lo usando a variável de ambiente OLLAMA_NUM_PARALLEL (e configurações relacionadas).

A instalação do ET-8500 no Windows está bem documentada no manual. A instalação do driver do ET-8500 para Linux é simples, mas não trivial.