Self-Hosting

Fiz uma pesquisa sobre alguns interessantes testes de desempenho do GPT-OSS 120b em execução no Ollama em três diferentes plataformas: NVIDIA DGX Spark, Mac Studio e RTX 4080. O modelo GPT-OSS 120b da biblioteca Ollama tem 65GB, o que significa que não cabe na VRAM de 16GB de um RTX 4080 (ou no mais recente RTX 5080).

Docker Model Runner (DMR) é a solução oficial do Docker para executar modelos de IA localmente, introduzida em abril de 2025. Esta folha de dicas fornece uma referência rápida para todos os comandos essenciais, configurações e melhores práticas.

Executar grandes modelos de linguagem (LLMs) localmente tornou-se cada vez mais popular por motivos de privacidade, controle de custos e capacidades offline. O cenário mudou significativamente em abril de 2025, quando o Docker introduziu Docker Model Runner (DMR), sua solução oficial para implantação de modelos de IA.

No cenário atual da computação, a virtualização tornou-se essencial para desenvolvimento, testes e execução de múltiplos sistemas operacionais. Para usuários de Linux que buscam uma forma simples e intuitiva de gerenciar máquinas virtuais, GNOME Boxes destaca-se como uma opção leve e amigável ao usuário que prioriza a facilidade de uso sem sacrificar a funcionalidade.

Multipass é um gerenciador leve de máquinas virtuais que facilita a criação e o gerenciamento de instâncias de nuvem Ubuntu no Linux, Windows e macOS.

Enquanto o Google domina o mercado de motores de busca com mais de 90% de participação no mercado global, há um ecossistema em crescimento de motores de busca alternativos que oferecem abordagens diferentes para a busca na web.

O futuro do IA não é apenas sobre modelos mais inteligentes modelos — é sobre silício mais inteligente.
Hardware especializado para inferência de LLM está impulsionando uma revolução semelhante à migração do mineração de Bitcoin para ASICs.

A web foi originalmente concebida como uma rede descentralizada onde qualquer pessoa poderia publicar e se conectar. Com o tempo, plataformas corporativas consolidaram o controle, criando jardins fechados onde os usuários são produtos e o conteúdo está bloqueado. O movimento Indie Web tem como objetivo restaurar a promessa original da web: posse pessoal, liberdade criativa e conexão genuína.

NVIDIA DGX Spark é real, disponível para venda a partir de 15 de outubro de 2025, e direcionado a desenvolvedores de CUDA que precisam de trabalho local com LLM com uma pilha integrada de IA da NVIDIA. Preço de venda sugerido nos EUA $3.999; o preço retalhista em UK/DE/JP é mais alto devido ao imposto sobre o valor agregado e ao canal. Preços públicos em AUD/KRW ainda não estão amplamente divulgados.

O protocolo Gemini representa um retorno aos fundamentos da comunicação na internet - uma alternativa leve, segura e respeitosa à privacidade ao moderno web cada vez mais complexo.

Este guia fornece uma visão abrangente dos disponíveis SDKs Go para Ollama e compara seus conjuntos de funcionalidades.

Aqui está uma comparação entre Qwen3:30b e GPT-OSS:20b
focando em seguir instruções e parâmetros de desempenho, especificações e velocidade.

Aqui está uma rápida informação sobre Write.as / WriteFreely – como ele se encaixa no fediverse, onde obter hospedagem gerenciada, como é a tendência de uso e como hospedar por conta própria (mais estimativas de custos aproximados).

Neste post, vamos explorar duas formas de conectar seu aplicativo Python ao Ollama: 1. Via HTTP REST API; 2. Via a biblioteca oficial do Ollama para Python.

Proxmox Virtual Environment (Proxmox VE) é um hipervisor de tipo 1 e uma plataforma de orquestração de datacenter de código aberto construída sobre o Debian.

Mais uma vez, vamos comparar os preços das GPUs de alto desempenho para consumidores, que são adequadas, em particular, para LLMs e, em geral, para IA.

Especificamente, estou olhando para preços do RTX-5080 e RTX-5090. Eles tiveram uma leve redução.