Durante los últimos años, ejecutar Inteligencia Artificial en local ha tenido una limitación bastante fácil de entender: cuanto mayor era el modelo, mayor era también la cantidad de memoria necesaria para cargarlo. Podíamos cuantizarlo, reducir su precisión, repartirlo entre varias tarjetas gráficas o aceptar modelos más pequeños, pero la relación entre tamaño del modelo y hardware disponible seguía marcando la frontera de lo que era posible hacer en un ordenador convencional.

Colibrì propone abordar el problema de una forma diferente. El proyecto nació el 1 de julio de 2026 de la mano de un desarrollador que firma como JustVugg y llamó rápidamente la atención por una demostración difícil de ignorar: ejecutar GLM-5.2, un modelo Mixture-of-Experts de 744.000 millones de parámetros, en un ordenador con unos 25 GB de RAM y sin necesidad de utilizar una tarjeta gráfica.

La cifra invita inevitablemente al titular fácil. Un modelo de 744.000 millones de parámetros funcionando con 25 GB de RAM parece casi una contradicción, pero precisamente ahí está lo interesante de Colibrì: no ha conseguido meter un modelo de 744B dentro de 25 GB, sino cuestionar que todo el modelo tenga que estar cargado en memoria rápida para poder utilizarlo.

El modelo sigue siendo gigantesco

Conviene aclararlo desde el principio, porque es probablemente la confusión más habitual cuando se habla de Colibrì. La versión cuantizada de GLM-5.2 utilizada por el proyecto ocupa alrededor de 372 GB en disco. Para ejecutarla, la documentación actual establece unos 16 GB de RAM como mínimo y aproximadamente 24 GB como una configuración más cómoda. Una GPU no es obligatoria.

Por tanto, aquí no hay ninguna compresión milagrosa que convierta cientos de gigabytes en unos pocos. Lo que cambia es dónde están esos datos mientras el modelo está funcionando.

Para entenderlo hay que fijarse primero en la arquitectura del propio GLM-5.2. Se trata de un modelo de tipo Mixture-of-Experts, o MoE, una arquitectura en la que no todos los parámetros del modelo participan en cada operación. GLM-5.2 tiene 744.000 millones de parámetros totales, pero alrededor de 40.000 millones están activos para cada token generado. Dicho de una forma sencilla: el modelo completo es enorme, pero en cada momento sólo necesita utilizar una parte de esa capacidad, y Colibrì explota precisamente esa característica.

Una enorme plantilla de especialistas que no trabaja toda a la vez

La expresión Mixture-of-Experts puede llevar a pensar que existe dentro del modelo una colección de pequeñas inteligencias independientes, pero no funciona exactamente así. Podemos imaginarlo, simplificando mucho, como una empresa con una plantilla enorme de especialistas: todos forman parte de la organización, pero no es necesario reunirlos a todos cada vez que aparece un problema.

Dependiendo de la tarea que se esté procesando, el sistema selecciona únicamente una parte de ellos. En un modelo MoE existe un mecanismo de enrutamiento que decide qué expertos deben intervenir en cada momento, y eso tiene una consecuencia muy importante: aunque el modelo contenga cientos de miles de millones de parámetros, no necesita utilizar simultáneamente todos ellos para generar cada token.

El enfoque habitual sigue intentando mantener una gran cantidad de esos pesos en RAM o, preferiblemente, en VRAM. Ahí es donde aparecen rápidamente las limitaciones económicas: las tarjetas gráficas con grandes cantidades de memoria son caras y, cuando un modelo crece lo suficiente, empiezan a ser necesarias configuraciones con varias GPU. Colibrì cambia esa lógica.

El verdadero truco de Colibrì está en la memoria

La idea central del proyecto consiste en tratar VRAM, RAM y almacenamiento NVMe como diferentes niveles de una única jerarquía de memoria para la inferencia. La memoria más rápida se utiliza para aquello que interesa tener disponible de forma inmediata; otras partes del modelo permanecen en RAM y una gran cantidad de los expertos puede quedarse almacenada en el SSD hasta que sea necesaria.

En GLM-5.2, por ejemplo, la parte densa del modelo —atención, embeddings y expertos compartidos— puede permanecer residente en RAM utilizando aproximadamente 9,9 GB en la configuración de referencia de Colibrì, mientras que los miles de expertos enrutados permanecen principalmente en disco y se recuperan según los necesita el modelo.

Pero Colibrì no se limita a leer expertos desde el SSD. El motor analiza cuáles se utilizan con más frecuencia, mantiene algunos en memoria, utiliza cachés, anticipa qué pesos pueden ser necesarios en la siguiente capa e intenta solapar las operaciones de lectura con el propio cálculo.

Los desarrolladores utilizan una comparación especialmente interesante: un JIT, pero aplicado a los pesos del modelo. Un compilador Just-In-Time no necesita compilar de antemano absolutamente todo lo que podría ejecutar un programa; observa qué partes se utilizan y optimiza aquellas que realmente necesita. Colibrì aplica una idea parecida a los pesos de una red neuronal: en lugar de considerar que todos deben estar permanentemente cargados, los trata como información que puede moverse entre diferentes niveles de almacenamiento en función de cuándo se necesita.

Y eso cambia bastante la pregunta. Ya no es únicamente «¿cuánta VRAM necesito para este modelo?», sino también «¿cómo distribuyo y muevo eficientemente sus pesos entre los recursos que ya tiene mi máquina?».

El SSD pasa a formar parte de la inferencia

En la mayoría de los sistemas de IA local, el almacenamiento es simplemente el lugar donde está el modelo hasta que lo cargamos en memoria. Con Colibrì, el disco pasa a formar parte activa del proceso, y eso significa que su velocidad importa mucho.

Un SSD NVMe rápido puede marcar una diferencia considerable porque el sistema está leyendo continuamente los expertos que necesita para generar nuevos tokens. El proyecto incorpora técnicas para reducir ese cuello de botella: precarga de expertos, cachés basadas en su frecuencia de utilización, lectura agrupada, solapamiento entre entrada/salida y cálculo e incluso la posibilidad de utilizar varios SSD para aumentar el ancho de banda disponible.

Aquí hay una diferencia que conviene tener muy clara: Colibrì permite ejecutar modelos enormes en hardware mucho más modesto, pero eso no significa que permita ejecutarlos rápidamente en cualquier ordenador.

Con poca memoria rápida, el modelo recurrirá más veces al almacenamiento y la generación será más lenta. Una GPU puede acelerar determinadas operaciones y disponer de más RAM permite mantener más información residente, pero ninguna de las dos cosas es imprescindible para que el modelo funcione. La propia filosofía del proyecto parte de una idea bastante sensata: la falta de hardware rápido puede reducir el rendimiento, pero no debería modificar silenciosamente el comportamiento del modelo sólo para aparentar mejores cifras.

GLM-5.2 ya no es el límite

Otro aspecto que ha cambiado rápidamente desde la aparición de Colibrì es su alcance. GLM-5.2 sigue siendo el mejor ejemplo para entender el proyecto, pero Colibrì ya soporta varias familias diferentes de modelos MoE: OLMoE, Qwen3.6, DeepSeek V4 Flash, Inkling y Kimi K3, entre otras.

Este último llega hasta 2,8 billones de parámetros totales. La cifra impresiona, pero lo importante vuelve a ser lo mismo: Colibrì no ha hecho pequeño el modelo, sino que está demostrando que arquitecturas de una escala que antes obligaban a pensar directamente en servidores especializados pueden empezar a plantearse con otra estrategia de inferencia.

Eso convierte a Colibrì en algo bastante más interesante que una prueba puntual con GLM-5.2.

Colibrì no es otro Ollama

Es inevitable compararlo con Ollama porque ambos se mueven dentro de la IA local, pero resuelven problemas diferentes. Ollama está pensado para facilitar enormemente la descarga, gestión y ejecución de modelos en un ordenador. Combinado con interfaces como Open WebUI, permite construir un entorno cómodo para trabajar con diferentes modelos, documentos, instrucciones personalizadas y herramientas.

Colibrì parte de otra pregunta: ¿podemos ejecutar modelos que, por su tamaño, normalmente quedarían fuera del alcance de este ordenador?

Por eso también es una herramienta mucho más técnica. No dispone de un instalador gráfico convencional para Windows, macOS o Linux. Actualmente existen paquetes con el motor ya compilado, por lo que no es obligatorio compilar el código desde cero, pero sigue siendo necesario descomprimirlos y trabajar desde la terminal. En Windows hablamos de CMD o PowerShell; en macOS, de Terminal; y en Linux, de la shell correspondiente.

Además, hay que descargar y preparar por separado los modelos, que pueden ocupar cientos de gigabytes o incluso más de un terabyte. No es una aplicación de «siguiente, siguiente, finalizar», y creo que es importante decirlo porque una tecnología puede ser muy interesante sin necesidad de convertirla inmediatamente en un producto para todos los públicos.

Lo interesante empieza cuando dejamos de pensar en Colibrì como un chat

Otro elemento que puede pasar desapercibido es que Colibrì no está pensado únicamente para escribir una pregunta en una terminal y esperar una respuesta. El proyecto puede funcionar como servidor y ofrece una interfaz compatible con la API de OpenAI, lo que permite que otras aplicaciones se comuniquen con el modelo utilizando un esquema parecido al que emplearían para conectarse con servicios externos.

Y ahí empiezan a aparecer casos bastante más interesantes. Un flujo de n8n podría utilizar un modelo ejecutándose mediante Colibrì. También podría hacerlo un agente, una aplicación interna o cualquier software capaz de consumir esa API.

En lugar de llamar necesariamente a un modelo alojado por un proveedor externo, determinadas tareas podrían procesarse dentro de una infraestructura controlada por la propia organización. No significa que debamos sustituir mañana las APIs comerciales por un ordenador debajo de una mesa con un SSD de 2 TB, pero sí que empiezan a aparecer más opciones.

La soberanía del dato ya no depende únicamente de comprar un servidor lleno de GPU

Uno de los argumentos habituales a favor de la IA local es la privacidad. Si el modelo, los documentos y el proceso de inferencia permanecen dentro de nuestra infraestructura, podemos tener un control mucho mayor sobre dónde se encuentra la información y quién tiene acceso a ella.

Hasta ahora esa conversación tenía una barrera bastante importante: los modelos de gran escala podían requerir una infraestructura que muchas empresas simplemente no podían justificar económicamente. Colibrì no elimina ese problema, pero sí reduce una de sus barreras.

Si podemos sustituir parte de la necesidad de memoria extremadamente cara por una gestión inteligente entre almacenamiento, RAM y aceleradores opcionales, la barrera económica para experimentar con modelos de gran tamaño empieza a bajar. Para sectores que trabajan con información sensible —industria, ingeniería, despachos profesionales, sanidad, investigación o administraciones públicas— esto puede tener bastante recorrido.

Pero ejecutar un modelo dentro de la empresa no convierte automáticamente el sistema en seguro. Seguiremos necesitando controlar accesos, proteger los servidores, gestionar los documentos, registrar operaciones, actualizar software y aplicar políticas de seguridad. La soberanía tecnológica no consiste únicamente en que los datos no salgan a Internet; consiste también en asumir la responsabilidad de la infraestructura que los procesa.

¿Tiene sentido Colibrì para una pyme hoy?

Depende completamente del problema. Si lo que necesitamos es un asistente que consulte documentación interna, resuma informes, genere textos o se conecte con nuestras automatizaciones, probablemente existan soluciones mucho más sencillas. Ollama, Open WebUI y modelos considerablemente más pequeños pueden resolver una enorme cantidad de casos empresariales con mucha menos complejidad.

Si, en cambio, existe un equipo técnico interesado en evaluar modelos MoE de gran escala, estudiar inferencia local, experimentar con soberanía tecnológica o analizar hasta dónde puede llegar el hardware existente antes de invertir en nueva infraestructura, Colibrì empieza a resultar mucho más interesante.

A día de hoy lo veo, sobre todo, como una tecnología que merece ser probada y observada, no como una recomendación general para producción. El propio proyecto se define simultáneamente como motor de inferencia y plataforma abierta de investigación, no ofrece garantías de velocidad y buena parte de sus optimizaciones se están evaluando todavía sobre configuraciones de hardware muy diferentes.

Eso no disminuye su importancia; al contrario, ayuda a entender correctamente dónde estamos.

Lo importante no son los 744.000 millones de parámetros

Es probablemente la cifra que ha hecho famoso a Colibrì, pero creo que quedarse con ella sería perderse lo verdaderamente interesante. Hoy son 744.000 millones con GLM-5.2, después aparecen 975.000 millones con Inkling y ahora hablamos de 2,8 billones con Kimi K3. Seguramente esas cifras seguirán cambiando.

La aportación más relevante de Colibrì está en otro sitio: demostrar que el tamaño del modelo y la cantidad de memoria rápida disponible no tienen por qué mantener una relación tan rígida como habíamos asumido hasta ahora.

Si los modelos MoE utilizan sólo una fracción de sus parámetros en cada momento, quizá tenga más sentido diseñar motores capaces de mover inteligentemente los pesos que intentar mantener permanentemente cientos de gigabytes en el nivel de memoria más caro. Habrá compromisos de velocidad, límites físicos de ancho de banda y configuraciones en las que simplemente no compense, pero la frontera se ha movido.

Y para mí esa es la parte realmente interesante de Colibrì: no que permita presumir de ejecutar un modelo gigantesco en un portátil, sino que obliga a replantearnos qué hardware necesita realmente la IA local y cómo vamos a utilizarlo en los próximos años.

Como siempre, que algo sea técnicamente posible no significa que tu empresa lo necesite. La pregunta sigue siendo la misma: qué problema quieres resolver y si esta tecnología aporta realmente una ventaja para hacerlo.