Local AI
Cloud AI / Local AI
Garder l'IA entre vos mains.
Il existe l'« IA cloud », qui tourne sur des serveurs à l'autre bout d'Internet, et l'« IA locale », qui fonctionne directement dans votre Mac. Chacune a ses forces et ses limites. Voici ce qui les distingue, et comment R.E.V.I.S. s'attache à surmonter les points faibles de l'IA locale.
CLOUD AI
- Vous
- Internet
- Serveur du service
Vos saisies sont traitées sur le serveur.
LOCAL AI — R.E.V.I.S.
- Vous
- Votre Mac
Réflexion et mémoire restent dans votre Mac.
The Difference
Tout change selon l'endroit où l'IA réfléchit.
Même sous le nom d'« IA », l'endroit où elle tourne change la destination de vos données, la formule tarifaire et l'équipement requis.
| IA cloud | IA locale (R.E.V.I.S.) | |
|---|---|---|
| Lieu de réflexion | Le serveur du service | Votre Mac |
| Données saisies | Transitent par Internet jusqu'au service. | Ne quittent pas votre Mac. |
| Tarif | Mensuel ou selon l'utilisation. | Achat unique. Le coût n'augmente pas à l'usage. |
| Taille du modèle | Accès aux plus grands modèles. | Jusqu'à ce qui tient dans la mémoire du Mac. |
| Prérequis | Un appareil connecté à Internet. | Un Mac doté d'une mémoire importante. |
| Évolutions | Le modèle et les quotas peuvent changer selon le service. | Vous gardez le modèle que vous avez choisi. |
Strengths
Ce que permet une IA sur votre Mac.
Rien ne sort de chez vous
Documents confidentiels comme questions personnelles sont traités dans votre Mac. Ils ne servent jamais de données d'entraînement.
Notre approche de la sécuritéUtilisez-la sans compter
Un achat unique. Que vous fassiez relire de longs documents ou posiez des centaines de questions, le prix ne bouge pas.
Un compagnon qui reste fidèle
Le modèle utilisé ne change pas à votre insu, et votre volume d'utilisation n'est jamais bridé.
Elle grandit auprès de vous
Vos préférences retenues, vos conversations passées et vos recherches s'accumulent directement sur votre Mac.
Weaknesses — and Our Answers
Reconnaître les faiblesses. Puis les dépasser.
L'IA locale a des limites bien réelles. R.E.V.I.S. répond à chacune d'elles dès la conception de son moteur.
-
01
Des modèles souvent plus petits
Pour tenir dans la mémoire du Mac, il faut utiliser des modèles plus compacts que les plus grands modèles de l'IA cloud.
Notre quantification propriétaire Q4T et Q3T réduit la taille des modèles tout en restant proche de leur précision d'origine, pour faire tourner un modèle de classe 35B sur un Mac doté de 24GB de mémoire. J.I.T.R.X. adapte les instructions à chaque modèle pour en tirer le meilleur.
En savoir plus sur la quantification -
02
Une vitesse qui dépend du Mac
Les calculs sont effectués par votre Mac, et non par les machines spécialisées d'un centre de données.
Conçu de zéro pour le Mac, le moteur d'inférence Q.E.L.V.A.R.I. transforme directement la puissance d'Apple silicon en vitesse. Et grâce à MTP, où un petit modèle brouillon écrit d'abord quelques mots, la réponse avance en moins d'étapes.
Voir la vitesse en chiffres -
03
Les limites d'une seule machine
La quantité de travail traitable simultanément dépend de la mémoire et de la puissance de calcul d'un seul Mac.
Si plusieurs Mac se trouvent sur le même réseau, F.A.L.Q. répartit automatiquement le travail vers les Mac disponibles.PRO
En savoir plus sur F.A.L.Q. -
04
Des connaissances figées à l'entraînement
Le modèle ignore tout des événements survenus après sa création.
Lorsque c'est nécessaire, l'IA consulte le Web avant de répondre et joint les liens des pages lues. Le contenu de vos conversations n'est jamais envoyé.
-
05
Des conversations longues qui ralentissent
Plus l'échange s'allonge, plus il y a de texte à relire, ce qui ralentit la réponse.
Le contexte déjà lu est chiffré et conservé sur le Mac ; pour la suite, seul ce qui vient d'être ajouté est lu. Les conversations étant séparées par sujet, le contexte ne s'alourdit pas de propos hors sujet.
-
06
Une mise en route complexe
La plupart des IA locales demandent d'installer soi-même l'environnement d'exécution et les modèles.
Aucun environnement comme Python n'est à préparer. Une fois l'application installée, choisissez simplement un modèle dans l'onglet « Télécharger » des réglages. Avant le chargement, l'application vérifie aussi qu'il tient dans la mémoire de votre Mac.
Honestly
Ce qui reste hors de portée.
Elle n'atteindra pas exactement l'intelligence des plus grands modèles de l'IA cloud. L'objectif de R.E.V.I.S. est d'être une IA à qui confier sereinement votre travail quotidien, sans jamais laisser sortir vos données. Et à force d'optimiser notre moteur et nos modèles, nous réduisons cet écart pas à pas.
L'IA, directement entre vos mains.
Dépasser ses limites par l'ingénierie.
SEVEN CORES / ONE CONSCIOUSNESS