Saltar al contenido
Foto de perfil de Pablo Viniegra Picazopablo_viniegra
English
AtajoD

Proyecto seleccionado04 / 10

Ollama-Fit

Problema
Elegir un modelo local suele exigir descargar varios archivos grandes y probarlos a ciegas hasta encontrar uno compatible.
Decisión
Combiné detección de hardware, un catálogo de Ollama con caché y una heurística explícita que clasifica cada modelo como Good, Tight o No.
Ollama-Fit: TUI y CLI en Go que cruza el hardware del equipo con el catálogo de Ollama para estimar qué modelos locales puede ejecutar.
Ollama-Fit
Dificultad
Normalizar VRAM y memoria unificada entre plataformas y mantener el catálogo sin depender de una API pública oficial.
Resultado
Antes de descargar nada sabes qué modelos caben en tu máquina: cada uno sale como Good, Tight o No, presentado como estimación y no como benchmark.

Sesión remota

terminal@pablo.dev

Abrir aparte

Conectando con terminal@pablo.dev…