AI

Aquí comparo la velocidad de varios LLMs (modelos de lenguaje grande) ejecutándose en una GPU con 16 GB de VRAM, y elijo el mejor para autoalojamiento.

Ollama funciona muy bien en hardware físico (bare metal). Se vuelve aún más interesante cuando lo tratas como un servicio: un punto de conexión estable, versiones fijas, almacenamiento persistente y una GPU que está disponible o no lo está.

Ejecutar Ollama detrás de un proxy inverso es la forma más sencilla de obtener HTTPS, control de acceso opcional y un comportamiento de transmisión predecible.

SGLang es un marco de servicio de alto rendimiento para grandes modelos de lenguaje y modelos multimodales, diseñado para ofrecer inferencia de baja latencia y alto rendimiento en todo, desde una sola GPU hasta clústeres distribuidos.

Pronto estarás manejando vLLM, llama.cpp y más, cada stack en su propio puerto. Todo lo que viene aguas abajo aún quiere una URL base /v1; de lo contrario, seguirás moviendo puertos, perfiles y scripts de una sola vez. llama-swap es el proxy /v1 antes de esos stacks.

La mayoría de las configuraciones locales de IA comienzan con un modelo y un entorno de ejecución.

Oh My Opencode promete un “equipo de desarrollo de IA virtual”: Sisyphus orquestando especialistas, tareas ejecutándose en paralelo y la palabra mágica ultrawork activando todo ello.

Oh My Opencode transforma OpenCode en un andamio de codificación multiagente: un orquestador delega el trabajo a agentes especialistas que se ejecutan en paralelo.

He probado cómo funciona OpenCode con varios LLM alojados localmente en Ollama y llama.cpp, y para comparar, he añadido algunos modelos gratuitos de OpenCode Zen.

El mayor salto de capacidad en OpenCode proviene de los agentes especializados: la separación deliberada de la orquestación, la planificación, la ejecución y la investigación.

OpenHands es una plataforma de código abierto e agnóstica a modelos para agentes de desarrollo de software impulsados por IA. Permite que un agente se comporte más como un compañero de codificación que como una simple herramienta de autocompletado.

LocalAI es un servidor de inferencia autohospedado y local-first diseñado para comportarse como una API de OpenAI de reemplazo directo para ejecutar cargas de trabajo de IA en tu propio hardware (portátil, estación de trabajo o servidor local).

Sigo volviendo a llama.cpp para la inferencia local: te ofrece un control que Ollama y otras herramientas abstraen, y simplemente funciona. Es fácil ejecutar modelos GGUF de forma interactiva con llama-cli o exponer una API HTTP compatible con OpenAI con llama-server.

La inteligencia artificial está transformando la forma en que se escribe, revisa, despliega y mantiene el software. Desde los asistentes de código basados en IA hasta la automatización de GitOps y los flujos de trabajo de DevOps, los desarrolladores ahora dependen de herramientas impulsadas por IA en todo el ciclo de vida del software.

Airtable se considera mejor como una plataforma de aplicación de bajo código construida alrededor de una interfaz de usuario “similar a una base de datos” colaborativa - excelente para crear rápidamente herramientas operativas (seguimiento interno, CRM ligero, pipelines de contenido, colas de evaluación de IA) donde los no desarrolladores necesitan una interfaz amigable, pero los desarrolladores también necesitan una superficie de API para la automatización e integración.

OpenCode es un agente de código con IA de código abierto que puedes ejecutar en la terminal (TUI + CLI) con interfaces de escritorio e IDE opcionales. Este es el Inicio Rápido de OpenCode: instalación, verificación, conexión de un modelo/proveedor y ejecución de flujos de trabajo reales (CLI + API).