Q.E.L.V.A.R.I.

Native Inference Engine

Die weltweit beste Genauigkeit und Geschwindigkeit.^※1

Eine Inferenz-Engine, von Grund auf für den Mac gebaut. Eigene, für Apple Silicon optimierte Kernels holen das Letzte an Tempo heraus. Eigene Quantisierung macht Modelle leicht und hält die Genauigkeit nahe am Originalmodell. Die Inferenz läuft auf dem Mac; Gespräche werden nicht in die Cloud gesendet.

APPLE SILICONMETALMTPQ4T / Q3T

APPR.E.V.I.S.

ENGINEQ.E.L.V.A.R.I.Swift · C++ · Metal

MODELQ4T / Q3T

CHIPApple SiliconGemeinsamer Arbeitsspeicher

Why Native

Nichts dazwischen.

Viele lokale KIs betreiben Modelle über eine Python-Laufzeitumgebung oder einen lokalen Server. Q.E.L.V.A.R.I. ist eine native Engine, allein für den Mac geschrieben, und führt Modelle direkt in R.E.V.I.S. aus.

Für Apple Silicon

Auf Basis von MLX, mit eigenen Metal-Kernels feinabgestimmt. Die Bauweise von Apple Silicon, bei der CPU und GPU denselben Speicher nutzen, wird direkt in Tempo umgesetzt.

Leicht und originalgetreu

Eigene Quantisierung (Q4T, Q3T) macht Modelle kleiner und leichter und hält die Genauigkeit nahe an der Ausgabe des Originalmodells.^※1

Nur auf dem Mac

Für die Inferenz gibt es keine Netzwerkkommunikation. Gespräche, Dateien und der vom Modell gelesene Kontext bleiben auf deinem Mac.

Speculative Decoding

Vorausschreiben, gesammelt prüfen.

Bei MTP (Multi-Token Prediction) schreibt ein kleines Entwurfsmodell einige Wörter voraus, und das Hauptmodell prüft sie gesammelt. Übernommen werden nur Wörter, die das Hauptmodell bestätigt hat. So kommt die Antwort mit weniger Schritten voran als Wort für Wort.

Liegt der Entwurf daneben, schreibt das Hauptmodell neu. Der Tempogewinn hängt von Modell, Kontextlänge und Anzahl gleichzeitiger Ausführungen ab.

Context Memory

Fortsetzen, ohne neu zu lesen.

Den vom Modell bereits gelesenen Kontext (KV-Cache) speichert die Engine verschlüsselt auf der SSD deines Mac. Wird ein Gespräch fortgesetzt, entfällt das erneute Lesen von Anfang an.

Verschlüsselt, bei dir

Der gespeicherte Kontext wird verschlüsselt, und das Gespräch setzt beim nächsten Mal genau dort an.

Mehreres gleichzeitig

Antworten im Gespräch und die Generierung von Tasks im Hintergrund können parallel auf einem Mac laufen.

Bedeutungssuche am selben Ort

Auch das Embedding-Modell, das die Bedeutung von Wörtern in Vektoren umsetzt, läuft auf derselben Engine. Es ist die Grundlage der Suche von K.E.C.H.I.

Measured

In Zahlen.

Bei einem Gespräch wird nicht jedes Mal alles von Grund auf neu gelesen. Der bereits gelesene Kontext bleibt erhalten; gelesen wird nur, was neu hinzukommt – deine nächste Eingabe oder das Ergebnis eines Tools –, und daraus wird die Antwort geschrieben. Deshalb haben wir auf fünf Macs in Abhängigkeit von der Länge des bereits gelesenen Kontexts gemessen, wie schnell neue Eingaben gelesen und Antworten geschrieben werden. Jede dieser Geschwindigkeiten wurde ohne Abstriche bei der Rechengenauigkeit erreicht.^※2

Unterschiede je nach Mac

Verglichen mit Qwen3.6 35B und Gemma 4 26B, die auf jedem dieser Macs laufen. Gemessen bei einem bereits gelesenen Kontext von 16K – einer im Alltag typischen Länge.

Prefill (Geschwindigkeit beim Lesen neuer Eingaben)tok/s

M5 Ultra1,4431,505
M5 Max1,2381,284
M4 Max664628
M5 Pro783815
M4 Pro390372

Decode (Geschwindigkeit beim Schreiben der Antwort)tok/s

M5 Ultra239241
M5 Max196170
M4 Max172144
M5 Pro123106
M4 Pro10386

Schreibtempo erleben

Hier siehst du in Echtzeit, wie schnell die Antwort geschrieben wird (Decode) – mit Qwen3.6 35B bei 16K Kontext. Wähle einen Mac und klicke auf Abspielen.

0.0 s

Menschen lesen still etwa 4 Wörter pro Sekunde.

Kontextlänge und Geschwindigkeit

Je länger der bereits gelesene Kontext wird, desto langsamer werden sowohl das Lesen als auch das Schreiben. Die horizontale Achse zeigt die Kontextlänge (1K–128K Token), die vertikale Achse die Geschwindigkeit. Wähle einen Mac.