Local AI
Cloud AI / Local AI
Was es heißt, KI auf dem eigenen Mac zu haben.
Es gibt „Cloud-KI“, die auf Servern im Internet läuft, und „lokale KI“, die direkt in deinem Mac arbeitet. Beide haben ihre Stärken und Schwächen. Hier erfährst du den Unterschied – und wie R.E.V.I.S. daran arbeitet, die Schwächen lokaler KI zu überwinden.
CLOUD AI
- Du
- Internet
- Server des Dienstes
Deine Eingaben werden auf dem Server verarbeitet.
LOCAL AI — R.E.V.I.S.
- Du
- Dein Mac
Denken und Erinnern bleiben ganz im Mac.
The Difference
Der Unterschied liegt darin, wo gedacht wird.
Auch wenn beides „KI“ heißt: Je nachdem, wo sie läuft, ändert sich, wohin deine Daten gehen, wie du bezahlst und was du dafür brauchst.
| Cloud-KI | Lokale KI (R.E.V.I.S.) | |
|---|---|---|
| Wo gedacht wird | Auf den Servern des Dienstes | Auf deinem Mac |
| Eingegebene Daten | Werden über das Internet an den Dienst gesendet. | Verlassen deinen Mac nicht. |
| Kosten | Monatliches Abo oder nach Nutzung. | Einmalkauf. Egal wie viel du nutzt, es wird nicht teurer. |
| Modellgröße | Auch die größten Modelle sind nutzbar. | So groß, wie es in den Arbeitsspeicher deines Mac passt. |
| Was du brauchst | Ein Gerät mit Internetverbindung. | Einen Mac mit reichlich Arbeitsspeicher. |
| Was sich ändern kann | Modell und Nutzungslimits können sich jederzeit durch den Dienst ändern. | Du nutzt genau das Modell, das du selbst ausgewählt hast. |
Strengths
Was möglich wird, weil sie bei dir läuft.
Inhalte gelangen nicht nach außen
Ob vertrauliche Unterlagen oder persönliche Fragen – alles bleibt auf deinem Mac und wird niemals als Trainingsdaten verwendet.
Unser SicherheitskonzeptMehr Nutzung kostet nicht mehr
Ein einmaliger Kauf. Egal wie oft du lange Dokumente prüfen lässt oder wie viele Fragen du stellst: Es kommen keine Kosten hinzu.
Immer der gewohnte Begleiter
Dein Modell wird nicht unbemerkt ausgetauscht, und dein Nutzungsumfang wird nicht plötzlich gedrosselt.
Wächst auf deinem Mac mit dir
Gelernte Vorlieben, frühere Gespräche und recherchierte Inhalte bauen sich Stück für Stück auf deinem Mac auf.
Weaknesses — and Our Answers
Ehrlich bei den Schwächen. Entschlossen, sie zu überwinden.
Lokale KI hat klare Schwächen. R.E.V.I.S. begegnet jeder einzelnen davon von Grund auf – direkt in der eigenen Engine.
-
01
Modelle sind oft kleiner
Da das Modell in den Arbeitsspeicher des Mac passen muss, fällt es kleiner aus als die größten Modelle einer Cloud-KI.
Unsere eigene Quantisierung Q4T und Q3T macht Modelle kompakt, hält die Genauigkeit nahe am Original und bringt selbst Modelle der 35B-Klasse auf einem Mac mit 24GB Arbeitsspeicher zum Laufen. J.I.T.R.X. stellt die Anweisungen passend für jedes Modell zusammen und holt so dessen jeweilige Stärken heraus.
Mehr zur Quantisierung -
02
Das Tempo hängt vom Mac ab
Gerechnet wird nicht auf Spezialrechnern im Rechenzentrum, sondern direkt auf deinem Mac.
Die von Grund auf für den Mac geschriebene Inferenz-Engine Q.E.L.V.A.R.I. verwandelt die Kraft von Apple Silicon direkt in Geschwindigkeit. Mit MTP schreibt ein kleines Entwurfsmodell voraus und reduziert so die Schritte bis zur fertigen Antwort.
Geschwindigkeit in Zahlen -
03
Ein einzelner Mac hat Grenzen
Wie viel Arbeit gleichzeitig erledigt werden kann, bestimmen Arbeitsspeicher und Rechenleistung eines einzelnen Mac.
Sind mehrere Macs im selben Netzwerk, verteilt F.A.L.Q. die Arbeit automatisch auf freie Macs.PRO
Mehr zu F.A.L.Q. -
04
Wissen endet mit dem Trainingsstand
Ein Modell kennt keine Ereignisse, die nach seiner Erstellung stattgefunden haben.
Bei Bedarf sucht R.E.V.I.S. im Web, bevor es antwortet, und fügt Links zu den gelesenen Seiten hinzu. Gesprächsinhalte werden dabei nicht nach außen gesendet.
-
05
Lange Gespräche werden träge
Je länger ein Gespräch dauert, desto mehr muss erneut gelesen werden – und desto langsamer kommt die Antwort.
Bereits gelesener Kontext bleibt verschlüsselt auf dem Mac gespeichert; beim Fortsetzen wird nur das neu Hinzugekommene gelesen. Gespräche werden nach Themen getrennt gehalten, damit irrelevante Inhalte den Kontext nicht aufblähen.
-
06
Die Einrichtung ist aufwendig
Bei den meisten lokalen KI-Lösungen musst du Laufzeitumgebung und Modelle selbst einrichten.
Du musst weder Python noch andere Laufzeitumgebungen installieren. Nach dem Öffnen der App wählst du in den Einstellungen unter „Download“ einfach ein Modell aus. Vor dem Laden wird außerdem geprüft, ob es in den Arbeitsspeicher deines Mac passt.
Honestly
Wo dennoch ein Unterschied bleibt.
Eine lokale KI erreicht nicht in jedem Punkt exakt die Klugheit der allergrößten Cloud-KI-Modelle. Das Ziel von R.E.V.I.S. ist eine KI, der du deine tägliche Arbeit bedenkenlos anvertrauen kannst, ohne dass deine Daten deinen Mac verlassen. Und den Abstand verringern wir Schritt für Schritt – durch die Weiterentwicklung von Engine und Modellen.
KI, direkt auf deinem Mac.
Schwächen überwinden wir durch Ingenieurskunst.
SEVEN CORES / ONE CONSCIOUSNESS