Q.E.L.V.A.R.I.
Native Inference Engine
세계 최고의 정확도와 속도를.※1
Mac을 위해 처음부터 만든 추론 엔진. Apple 실리콘에 최적화한 독자 커널로 속도를 한계까지. 독자적인 양자화로 원래 모델에 가까운 정확도를 유지한 채 가볍게 실행합니다. 추론은 Mac 안에서 이루어지며, 대화를 클라우드로 보내지 않습니다.
Why Native
사이에, 아무것도 두지 않습니다.
많은 로컬 AI는 Python 실행 환경이나 로컬 서버를 거쳐 모델을 실행합니다. Q.E.L.V.A.R.I.는 Mac만을 위해 작성한 네이티브 엔진으로, R.E.V.I.S. 안에서 직접 모델을 실행합니다.
Apple 실리콘을 위해
MLX를 토대로, Metal 독자 커널로 연산을 다듬었습니다. CPU와 GPU가 같은 메모리를 쓰는 Apple 실리콘의 구조를 그대로 속도로 바꿉니다.
Mac 안에서만
추론을 위한 통신은 없습니다. 대화도 파일도, 모델이 읽은 맥락도 당신의 Mac 안에 머뭅니다.
Speculative Decoding
먼저 쓰고, 한꺼번에 확인합니다.
MTP(Multi-Token Prediction)에서는 작은 초안 모델이 먼저 몇 단어를 쓰고, 본체 모델이 그것을 한꺼번에 확인합니다. 채택하는 것은 본체가 확인한 단어뿐입니다. 한 단어씩 쓰는 것보다 적은 단계로 답이 진행됩니다.
초안이 빗나갔을 때는 본체 모델이 다시 씁니다. 속도 향상 폭은 모델·맥락의 길이·동시에 실행하는 수에 따라 달라집니다.
Context Memory
이어지는 대화는, 다시 읽지 않습니다.
모델이 다 읽은 맥락(KV 캐시)을 암호화하여 Mac의 SSD에 남깁니다. 대화를 재개할 때 처음부터 다시 읽는 수고를 덜 수 있습니다.
암호화해서, 손안에
남겨 둔 문맥은 암호화해 저장하고, 이어지는 대화는 그 지점부터 다시 시작합니다.
동시에, 여러 개를
대화의 답변과 백그라운드에서 진행되는 태스크의 생성을 한 대의 Mac 위에서 나란히 실행할 수 있습니다.
의미 검색도, 같은 곳에서
단어의 의미를 벡터로 바꾸는 임베딩 모델도 같은 엔진이 실행합니다. K.E.C.H.I.의 검색을 뒷받침하는 부분입니다.
Measured
숫자로 봅니다.
대화할 때마다 모든 내용을 다시 읽지는 않습니다. 다 읽은 맥락은 그대로 두고, 새로 추가된 부분—당신의 한마디나 도구의 결과—만 읽고 답을 씁니다. 그래서 이미 읽은 맥락의 길이별로 새로운 입력을 읽는 속도와 답을 쓰는 속도를 5대의 Mac에서 측정했습니다. 이 모든 속도는 계산 정밀도를 낮추지 않고 달성한 결과입니다.※2
Mac에 따른 차이
어느 Mac에서나 작동하는 Qwen3.6 35B와 Gemma 4 26B로 비교했습니다. 이미 읽은 맥락이 16K(평소 사용에서 흔한 길이)일 때의 속도입니다.
- M5 Ultra
- M5 Max
- M4 Max
- M5 Pro
- M4 Pro
- M5 Ultra
- M5 Max
- M4 Max
- M5 Pro
- M4 Pro
쓰는 속도 가늠하기
답을 쓰는 속도(디코드)를 실제 속도로 재현합니다. Qwen3.6 35B, 맥락 16K일 때의 속도입니다. Mac을 선택하고 재생해 주세요.
사람이 눈으로 읽는 속도는 1초에 8~10자 정도입니다.
1.500자/초240경비 정산은 신청·승인·지급의 3단계로 진행됩니다. 먼저 신청입니다. 사용한 날로부터 1개월 이내에 신청 양식에 날짜·금액·목적을 입력하고, 영수증 사진을 첨부하여 보냅니다. 교통비는 탑승 구간과 운임만 적으면 영수증이 필요하지 않습니다. 단, 택시와 신칸센은 영수증이 필요합니다. 다음은 승인입니다. 신청이 접수되면 상사가 내용을 확인하고 승인합니다. 5만 엔을 넘는 건은 부장의 승인도 필요합니다. 내용이 부족하면 반려되므로, 목적은 '누구와, 무엇을 위해'까지 구체적으로 적어 두면 안심할 수 있습니다. 마지막으로 지급입니다. 경리 담당자의 확인을 거쳐 매월 20일까지 승인된 건은 그달 25일에 급여와 함께 입금됩니다. 20일이 지난 건은 다음 달에 지급됩니다. 헷갈릴 때는 먼저 사내 포털의 '경비 정산 절차'를 확인해 주세요. 그래도 모르는 점이 있다면 경리 창구에 문의하시면 대개 당일 안에 답변을 받을 수 있습니다.
맥락의 길이와 속도
이미 읽은 맥락이 길어질수록 읽는 속도와 쓰는 속도 모두 낮아집니다. 가로축이 맥락의 길이(1K~128K 토큰), 세로축이 속도입니다. Mac을 선택해 주세요.
※2 R.E.V.I.S. 제품과 동일한 설정으로 측정했습니다. 속도는 모델·Mac·입력에 따라 달라집니다. tok/s는 1초당 처리하는 토큰(말의 단위)의 수입니다.
Models
실행할 수 있는 모델.
Q.E.L.V.A.R.I.에서 동작을 확인한 모델만 불러올 수 있습니다. 새로운 모델도 순차적으로 지원해 나갑니다.
| 모델 | 크기(Q4T / Q3T) |
|---|---|
| Gemma 4 26B MoE | 15.6 GB / 12.7 GB |
| Qwen3.6 35B MoE | 19.4 GB / 15.6 GB |
| Ornith 1.5 35B MoE | 19.4 GB / 15.6 GB |
| Qwen3.8 27B | 20.1 GB / 17.6 GB |
크기는 MTP 초안 모델을 포함합니다(GiB). 탑재 메모리에서 약 7GB를 뺀 범위 안에서 모델을 불러올 수 있습니다. 기준으로, 메모리 24GB Mac에서는 Gemma 4·Qwen3.6·Ornith 1.5의 Q3T, 32GB 이상에서는 모든 모델의 Q4T를 사용할 수 있습니다.
양자화 자세히 보기모델은 부품.
속도와 정확성은 엔진이 결정합니다.
SEVEN CORES / ONE CONSCIOUSNESS