Q.E.L.V.A.R.I.

Native Inference Engine

La mejor precisión y velocidad del mundo.※1

Un motor de inferencia creado desde cero para Mac. Kernels propios optimizados para Apple silicon, para llegar al límite de la velocidad. Una cuantización propia que aligera los modelos manteniendo una precisión cercana a la del modelo original. La inferencia se hace dentro de tu Mac y la conversación no se envía a la nube.

APPLE SILICONMETALMTPQ4T / Q3T

Why Native

Nada en medio.

Muchas IA locales ejecutan los modelos a través de un entorno de Python o de un servidor local. Q.E.L.V.A.R.I. es un motor nativo escrito solo para Mac, y ejecuta los modelos directamente desde R.E.V.I.S.

Para Apple silicon

Sobre la base de MLX, afinamos el cálculo con kernels propios de Metal. El diseño de Apple silicon, en el que la CPU y la GPU comparten la misma memoria, se convierte directamente en velocidad.

Ligero y fiel

Con una cuantización propia (Q4T, Q3T), hace el modelo más pequeño y ligero manteniendo una precisión cercana a la salida del modelo original.※1

Más sobre la cuantización

Solo dentro de tu Mac

La inferencia no establece ninguna comunicación. Las conversaciones, los archivos y el contexto que lee el modelo se quedan dentro de tu Mac.

Speculative Decoding

Escribe primero, comprueba de una vez.

Con MTP (Multi-Token Prediction), un pequeño modelo borrador escribe primero unas cuantas palabras y el modelo principal las comprueba de una vez. Solo se aceptan las palabras que el modelo principal ha verificado. La respuesta avanza en menos pasos que escribiendo palabra por palabra.

Cuando el borrador falla, el modelo principal lo reescribe. La mejora de velocidad depende del modelo, la longitud del contexto y el número de ejecuciones simultáneas.

Context Memory

Para continuar la conversación, no hay que releer.

El contexto que el modelo ya ha leído (caché KV) se guarda cifrado en el SSD de tu Mac. Al retomar una conversación, te ahorras volver a leerla desde el principio.

Cifrado y en tu equipo

El contexto guardado se cifra, y la conversación continúa a partir de ahí.

Varias cosas a la vez

Puede ejecutar en paralelo, en un solo Mac, las respuestas de la conversación y la generación de las tareas que avanzan en segundo plano.

La búsqueda semántica, en el mismo lugar

El mismo motor ejecuta también el modelo de embeddings, que convierte el significado de las palabras en vectores. Es la parte que sostiene la búsqueda de K.E.C.H.I.

Measured

En cifras.

No se vuelve a leer todo en cada turno de la conversación. El contexto ya leído se conserva en tu Mac y solo se lee lo nuevo que se añade —tu mensaje o el resultado de una herramienta— antes de escribir la respuesta. Por eso medimos en cinco Mac tanto la velocidad al leer una entrada nueva como la velocidad al escribir la respuesta, según la longitud del contexto ya leído. Cada una de estas velocidades se alcanzó sin reducir la precisión del cálculo.※2

Diferencias según el Mac

Comparamos con Qwen3.6 35B y Gemma 4 26B, que funcionan en cualquier Mac. Esta es la velocidad cuando el contexto que ya ha leído es de 16K (una longitud habitual en el uso diario).

Prefill (velocidad al leer una entrada nueva)tok/s
  1. M5 Ultra1,4431,505
  2. M5 Max1,2381,284
  3. M4 Max664628
  4. M5 Pro783815
  5. M4 Pro390372
Decode (velocidad al escribir la respuesta)tok/s
  1. M5 Ultra239241
  2. M5 Max196170
  3. M4 Max172144
  4. M5 Pro123106
  5. M4 Pro10386

Una idea de la velocidad de escritura

Reproduce en tiempo real la velocidad a la que escribe la respuesta (decode). Es la velocidad con Qwen3.6 35B y un contexto de 16K. Elige un Mac y dale a reproducir.

0.0 s

En lectura silenciosa, una persona lee unas 4 palabras por segundo.

Longitud del contexto y velocidad

Cuanto más largo es el contexto que ya ha leído, más bajan tanto la velocidad de lectura como la de escritura. El eje horizontal muestra la longitud del contexto (de 1K a 128K tokens) y el eje vertical, la velocidad. Elige un Mac.

Prefill (velocidad al leer una entrada nueva)tok/s
05001,0001,5002,0001K4K16K64K128KQwen3.8 27B 1K: 483 tok/sQwen3.8 27B 2K: 480 tok/sQwen3.8 27B 4K: 475 tok/sQwen3.8 27B 8K: 464 tok/sQwen3.8 27B 16K: 441 tok/sQwen3.8 27B 32K: 395 tok/sQwen3.8 27B 64K: 316 tok/sQwen3.8 27B 128K: 185 tok/sGemma 4 26B 1K: 1,766 tok/sGemma 4 26B 2K: 1,840 tok/sGemma 4 26B 4K: 1,735 tok/sGemma 4 26B 8K: 1,650 tok/sGemma 4 26B 16K: 1,505 tok/sGemma 4 26B 32K: 1,273 tok/sGemma 4 26B 64K: 959 tok/sGemma 4 26B 128K: 634 tok/sOrnith 1.5 35B 1K: 1,831 tok/sOrnith 1.5 35B 2K: 1,682 tok/sOrnith 1.5 35B 4K: 1,646 tok/sOrnith 1.5 35B 8K: 1,565 tok/sOrnith 1.5 35B 16K: 1,434 tok/sOrnith 1.5 35B 32K: 1,232 tok/sOrnith 1.5 35B 64K: 951 tok/sOrnith 1.5 35B 128K: 654 tok/sQwen3.6 35B 1K: 1,804 tok/sQwen3.6 35B 2K: 1,693 tok/sQwen3.6 35B 4K: 1,653 tok/sQwen3.6 35B 8K: 1,595 tok/sQwen3.6 35B 16K: 1,443 tok/sQwen3.6 35B 32K: 1,237 tok/sQwen3.6 35B 64K: 956 tok/sQwen3.6 35B 128K: 648 tok/sOrnith 1.5 35BQwen3.6 35BGemma 4 26BQwen3.8 27B
Decode (velocidad al escribir la respuesta)tok/s
01002003001K4K16K64K128KQwen3.8 27B 1K: 95 tok/sQwen3.8 27B 2K: 100 tok/sQwen3.8 27B 4K: 100 tok/sQwen3.8 27B 8K: 96 tok/sQwen3.8 27B 16K: 87 tok/sQwen3.8 27B 32K: 89 tok/sQwen3.8 27B 64K: 83 tok/sQwen3.8 27B 128K: 70 tok/sGemma 4 26B 1K: 260 tok/sGemma 4 26B 2K: 243 tok/sGemma 4 26B 4K: 254 tok/sGemma 4 26B 8K: 247 tok/sGemma 4 26B 16K: 241 tok/sGemma 4 26B 32K: 228 tok/sGemma 4 26B 64K: 220 tok/sGemma 4 26B 128K: 182 tok/sOrnith 1.5 35B 1K: 287 tok/sOrnith 1.5 35B 2K: 284 tok/sOrnith 1.5 35B 4K: 270 tok/sOrnith 1.5 35B 8K: 256 tok/sOrnith 1.5 35B 16K: 248 tok/sOrnith 1.5 35B 32K: 225 tok/sOrnith 1.5 35B 64K: 218 tok/sOrnith 1.5 35B 128K: 190 tok/sQwen3.6 35B 1K: 295 tok/sQwen3.6 35B 2K: 278 tok/sQwen3.6 35B 4K: 266 tok/sQwen3.6 35B 8K: 245 tok/sQwen3.6 35B 16K: 239 tok/sQwen3.6 35B 32K: 223 tok/sQwen3.6 35B 64K: 259 tok/sQwen3.6 35B 128K: 195 tok/sQwen3.6 35BOrnith 1.5 35BGemma 4 26BQwen3.8 27B
Prefill (velocidad al leer una entrada nueva)tok/s
05001,0001,5002,0001K4K16K64K128KQwen3.8 27B 1K: 371 tok/sQwen3.8 27B 2K: 369 tok/sQwen3.8 27B 4K: 364 tok/sQwen3.8 27B 8K: 355 tok/sQwen3.8 27B 16K: 334 tok/sQwen3.8 27B 32K: 295 tok/sQwen3.8 27B 64K: 240 tok/sQwen3.8 27B 128K: 147 tok/sGemma 4 26B 1K: 1,503 tok/sGemma 4 26B 2K: 1,485 tok/sGemma 4 26B 4K: 1,467 tok/sGemma 4 26B 8K: 1,394 tok/sGemma 4 26B 16K: 1,284 tok/sGemma 4 26B 32K: 1,088 tok/sGemma 4 26B 64K: 827 tok/sGemma 4 26B 128K: 556 tok/sOrnith 1.5 35B 1K: 1,597 tok/sOrnith 1.5 35B 2K: 1,445 tok/sOrnith 1.5 35B 4K: 1,435 tok/sOrnith 1.5 35B 8K: 1,343 tok/sOrnith 1.5 35B 16K: 1,231 tok/sOrnith 1.5 35B 32K: 1,023 tok/sOrnith 1.5 35B 64K: 777 tok/sOrnith 1.5 35B 128K: 519 tok/sQwen3.6 35B 1K: 1,555 tok/sQwen3.6 35B 2K: 1,454 tok/sQwen3.6 35B 4K: 1,421 tok/sQwen3.6 35B 8K: 1,338 tok/sQwen3.6 35B 16K: 1,238 tok/sQwen3.6 35B 32K: 1,021 tok/sQwen3.6 35B 64K: 778 tok/sQwen3.6 35B 128K: 519 tok/sGemma 4 26BOrnith 1.5 35BQwen3.6 35BQwen3.8 27B
Decode (velocidad al escribir la respuesta)tok/s
0501001502002501K4K16K64K128KQwen3.8 27B 1K: 62 tok/sQwen3.8 27B 2K: 65 tok/sQwen3.8 27B 4K: 64 tok/sQwen3.8 27B 8K: 64 tok/sQwen3.8 27B 16K: 59 tok/sQwen3.8 27B 32K: 58 tok/sQwen3.8 27B 64K: 53 tok/sQwen3.8 27B 128K: 37 tok/sGemma 4 26B 1K: 179 tok/sGemma 4 26B 2K: 171 tok/sGemma 4 26B 4K: 172 tok/sGemma 4 26B 8K: 167 tok/sGemma 4 26B 16K: 170 tok/sGemma 4 26B 32K: 156 tok/sGemma 4 26B 64K: 139 tok/sGemma 4 26B 128K: 114 tok/sOrnith 1.5 35B 1K: 215 tok/sOrnith 1.5 35B 2K: 220 tok/sOrnith 1.5 35B 4K: 213 tok/sOrnith 1.5 35B 8K: 205 tok/sOrnith 1.5 35B 16K: 191 tok/sOrnith 1.5 35B 32K: 192 tok/sOrnith 1.5 35B 64K: 163 tok/sOrnith 1.5 35B 128K: 133 tok/sQwen3.6 35B 1K: 218 tok/sQwen3.6 35B 2K: 204 tok/sQwen3.6 35B 4K: 202 tok/sQwen3.6 35B 8K: 209 tok/sQwen3.6 35B 16K: 196 tok/sQwen3.6 35B 32K: 192 tok/sQwen3.6 35B 64K: 188 tok/sQwen3.6 35B 128K: 143 tok/sQwen3.6 35BOrnith 1.5 35BGemma 4 26BQwen3.8 27B
Prefill (velocidad al leer una entrada nueva)tok/s
02004006008001,0001K4K16K64K128KQwen3.8 27B 1K: 170 tok/sQwen3.8 27B 2K: 169 tok/sQwen3.8 27B 4K: 166 tok/sQwen3.8 27B 8K: 162 tok/sQwen3.8 27B 16K: 152 tok/sQwen3.8 27B 32K: 133 tok/sQwen3.8 27B 64K: 111 tok/sQwen3.8 27B 128K: 80 tok/sGemma 4 26B 1K: 717 tok/sGemma 4 26B 2K: 736 tok/sGemma 4 26B 4K: 715 tok/sGemma 4 26B 8K: 680 tok/sGemma 4 26B 16K: 628 tok/sGemma 4 26B 32K: 528 tok/sGemma 4 26B 64K: 412 tok/sGemma 4 26B 128K: 259 tok/sOrnith 1.5 35B 1K: 943 tok/sOrnith 1.5 35B 2K: 852 tok/sOrnith 1.5 35B 4K: 811 tok/sOrnith 1.5 35B 8K: 761 tok/sOrnith 1.5 35B 16K: 661 tok/sOrnith 1.5 35B 32K: 519 tok/sOrnith 1.5 35B 64K: 375 tok/sOrnith 1.5 35B 128K: 226 tok/sQwen3.6 35B 1K: 933 tok/sQwen3.6 35B 2K: 846 tok/sQwen3.6 35B 4K: 822 tok/sQwen3.6 35B 8K: 761 tok/sQwen3.6 35B 16K: 664 tok/sQwen3.6 35B 32K: 525 tok/sQwen3.6 35B 64K: 372 tok/sQwen3.6 35B 128K: 218 tok/sGemma 4 26BOrnith 1.5 35BQwen3.6 35BQwen3.8 27B
Decode (velocidad al escribir la respuesta)tok/s
0501001502001K4K16K64K128KQwen3.8 27B 1K: 49 tok/sQwen3.8 27B 2K: 51 tok/sQwen3.8 27B 4K: 50 tok/sQwen3.8 27B 8K: 48 tok/sQwen3.8 27B 16K: 46 tok/sQwen3.8 27B 32K: 47 tok/sQwen3.8 27B 64K: 42 tok/sQwen3.8 27B 128K: 33 tok/sGemma 4 26B 1K: 148 tok/sGemma 4 26B 2K: 143 tok/sGemma 4 26B 4K: 140 tok/sGemma 4 26B 8K: 139 tok/sGemma 4 26B 16K: 144 tok/sGemma 4 26B 32K: 130 tok/sGemma 4 26B 64K: 118 tok/sGemma 4 26B 128K: 91 tok/sOrnith 1.5 35B 1K: 184 tok/sOrnith 1.5 35B 2K: 189 tok/sOrnith 1.5 35B 4K: 172 tok/sOrnith 1.5 35B 8K: 180 tok/sOrnith 1.5 35B 16K: 164 tok/sOrnith 1.5 35B 32K: 159 tok/sOrnith 1.5 35B 64K: 139 tok/sOrnith 1.5 35B 128K: 112 tok/sQwen3.6 35B 1K: 191 tok/sQwen3.6 35B 2K: 185 tok/sQwen3.6 35B 4K: 176 tok/sQwen3.6 35B 8K: 175 tok/sQwen3.6 35B 16K: 172 tok/sQwen3.6 35B 32K: 161 tok/sQwen3.6 35B 64K: 157 tok/sQwen3.6 35B 128K: 115 tok/sQwen3.6 35BOrnith 1.5 35BGemma 4 26BQwen3.8 27B
Prefill (velocidad al leer una entrada nueva)tok/s
02004006008001,0001K4K16K64K128KQwen3.8 27B 1K: 240 tok/sQwen3.8 27B 2K: 238 tok/sQwen3.8 27B 4K: 234 tok/sQwen3.8 27B 8K: 225 tok/sQwen3.8 27B 16K: 210 tok/sQwen3.8 27B 32K: 183 tok/sQwen3.8 27B 64K: 141 tok/sQwen3.8 27B 128K: 87 tok/sGemma 4 26B 1K: 991 tok/sGemma 4 26B 2K: 976 tok/sGemma 4 26B 4K: 953 tok/sGemma 4 26B 8K: 901 tok/sGemma 4 26B 16K: 815 tok/sGemma 4 26B 32K: 674 tok/sGemma 4 26B 64K: 501 tok/sGemma 4 26B 128K: 326 tok/sOrnith 1.5 35B 1K: 977 tok/sOrnith 1.5 35B 2K: 961 tok/sOrnith 1.5 35B 4K: 920 tok/sOrnith 1.5 35B 8K: 870 tok/sOrnith 1.5 35B 16K: 774 tok/sOrnith 1.5 35B 32K: 627 tok/sOrnith 1.5 35B 64K: 453 tok/sOrnith 1.5 35B 128K: 282 tok/sQwen3.6 35B 1K: 990 tok/sQwen3.6 35B 2K: 966 tok/sQwen3.6 35B 4K: 936 tok/sQwen3.6 35B 8K: 885 tok/sQwen3.6 35B 16K: 783 tok/sQwen3.6 35B 32K: 633 tok/sQwen3.6 35B 64K: 456 tok/sQwen3.6 35B 128K: 282 tok/sGemma 4 26BQwen3.6 35BOrnith 1.5 35BQwen3.8 27B
Decode (velocidad al escribir la respuesta)tok/s
0501001501K4K16K64K128KQwen3.8 27B 1K: 37 tok/sQwen3.8 27B 2K: 37 tok/sQwen3.8 27B 4K: 36 tok/sQwen3.8 27B 8K: 36 tok/sQwen3.8 27B 16K: 33 tok/sQwen3.8 27B 32K: 32 tok/sQwen3.8 27B 64K: 26 tok/sQwen3.8 27B 128K: 19 tok/sGemma 4 26B 1K: 107 tok/sGemma 4 26B 2K: 103 tok/sGemma 4 26B 4K: 106 tok/sGemma 4 26B 8K: 101 tok/sGemma 4 26B 16K: 106 tok/sGemma 4 26B 32K: 93 tok/sGemma 4 26B 64K: 85 tok/sGemma 4 26B 128K: 70 tok/sOrnith 1.5 35B 1K: 130 tok/sOrnith 1.5 35B 2K: 134 tok/sOrnith 1.5 35B 4K: 130 tok/sOrnith 1.5 35B 8K: 122 tok/sOrnith 1.5 35B 16K: 109 tok/sOrnith 1.5 35B 32K: 114 tok/sOrnith 1.5 35B 64K: 94 tok/sOrnith 1.5 35B 128K: 79 tok/sQwen3.6 35B 1K: 135 tok/sQwen3.6 35B 2K: 124 tok/sQwen3.6 35B 4K: 123 tok/sQwen3.6 35B 8K: 125 tok/sQwen3.6 35B 16K: 123 tok/sQwen3.6 35B 32K: 110 tok/sQwen3.6 35B 64K: 100 tok/sQwen3.6 35B 128K: 80 tok/sQwen3.6 35BOrnith 1.5 35BGemma 4 26BQwen3.8 27B
Prefill (velocidad al leer una entrada nueva)tok/s
02004006001K4K16K64K128KQwen3.8 27B 1K: 91 tok/sQwen3.8 27B 2K: 90 tok/sQwen3.8 27B 4K: 88 tok/sQwen3.8 27B 8K: 86 tok/sQwen3.8 27B 16K: 80 tok/sQwen3.8 27B 32K: 71 tok/sQwen3.8 27B 64K: 57 tok/sQwen3.8 27B 128K: 42 tok/sGemma 4 26B 1K: 454 tok/sGemma 4 26B 2K: 447 tok/sGemma 4 26B 4K: 436 tok/sGemma 4 26B 8K: 412 tok/sGemma 4 26B 16K: 372 tok/sGemma 4 26B 32K: 313 tok/sGemma 4 26B 64K: 235 tok/sGemma 4 26B 128K: 155 tok/sOrnith 1.5 35B 1K: 515 tok/sOrnith 1.5 35B 2K: 498 tok/sOrnith 1.5 35B 4K: 478 tok/sOrnith 1.5 35B 8K: 446 tok/sOrnith 1.5 35B 16K: 385 tok/sOrnith 1.5 35B 32K: 302 tok/sOrnith 1.5 35B 64K: 213 tok/sOrnith 1.5 35B 128K: 130 tok/sQwen3.6 35B 1K: 520 tok/sQwen3.6 35B 2K: 502 tok/sQwen3.6 35B 4K: 485 tok/sQwen3.6 35B 8K: 447 tok/sQwen3.6 35B 16K: 390 tok/sQwen3.6 35B 32K: 304 tok/sQwen3.6 35B 64K: 215 tok/sQwen3.6 35B 128K: 131 tok/sGemma 4 26BQwen3.6 35BOrnith 1.5 35BQwen3.8 27B
Decode (velocidad al escribir la respuesta)tok/s
02550751001251K4K16K64K128KQwen3.8 27B 1K: 28 tok/sQwen3.8 27B 2K: 28 tok/sQwen3.8 27B 4K: 28 tok/sQwen3.8 27B 8K: 27 tok/sQwen3.8 27B 16K: 26 tok/sQwen3.8 27B 32K: 26 tok/sQwen3.8 27B 64K: 20 tok/sQwen3.8 27B 128K: 17 tok/sGemma 4 26B 1K: 89 tok/sGemma 4 26B 2K: 86 tok/sGemma 4 26B 4K: 84 tok/sGemma 4 26B 8K: 92 tok/sGemma 4 26B 16K: 86 tok/sGemma 4 26B 32K: 86 tok/sGemma 4 26B 64K: 70 tok/sGemma 4 26B 128K: 57 tok/sOrnith 1.5 35B 1K: 111 tok/sOrnith 1.5 35B 2K: 114 tok/sOrnith 1.5 35B 4K: 104 tok/sOrnith 1.5 35B 8K: 107 tok/sOrnith 1.5 35B 16K: 99 tok/sOrnith 1.5 35B 32K: 95 tok/sOrnith 1.5 35B 64K: 85 tok/sOrnith 1.5 35B 128K: 65 tok/sQwen3.6 35B 1K: 107 tok/sQwen3.6 35B 2K: 105 tok/sQwen3.6 35B 4K: 104 tok/sQwen3.6 35B 8K: 106 tok/sQwen3.6 35B 16K: 103 tok/sQwen3.6 35B 32K: 96 tok/sQwen3.6 35B 64K: 85 tok/sQwen3.6 35B 128K: 66 tok/sQwen3.6 35BOrnith 1.5 35BGemma 4 26BQwen3.8 27B

※2 Medido con la misma configuración que el producto R.E.V.I.S. La velocidad varía según el modelo, el Mac y la entrada. tok/s es el número de tokens (unidades de palabras) procesados por segundo.

Models

Modelos compatibles.

Solo se pueden cargar los modelos cuyo funcionamiento hemos verificado con Q.E.L.V.A.R.I. Iremos añadiendo compatibilidad con nuevos modelos.

ModeloTamaño (Q4T / Q3T)
Gemma 4 26B MoE15.6 GB / 12.7 GB
Qwen3.6 35B MoE19.4 GB / 15.6 GB
Ornith 1.5 35B MoE19.4 GB / 15.6 GB
Qwen3.8 27B20.1 GB / 17.6 GB

Los tamaños incluyen el modelo borrador de MTP (GiB). Se pueden cargar modelos dentro de la memoria instalada menos unos 7 GB. Como referencia, un Mac con 24 GB de memoria ejecuta el Q3T de Gemma 4, Qwen3.6 y Ornith 1.5, y con 32 GB o más, el Q4T de todos los modelos.

Más sobre la cuantización

El modelo es una pieza.
La velocidad y la fiabilidad las decide el motor.

Convierte tu Mac en una IA de verdad.

※1 La precisión indica con qué fidelidad se reproduce la salida del modelo original; no significa un rendimiento superior al del modelo original. La velocidad varía según el modelo, el Mac y la entrada.

※ Las animaciones de esta página son ilustrativas y difieren de las pantallas reales del producto.