Français
LocalAI Hébergement
LocalAI expose des APIs compatibles OpenAI et Anthropic pour exécuter des modèles de texte, vision, audio, embedding et autres sur du matériel contrôlé.
- Un clic déployer
- 100 Go Espace disque nécessaire
- 8 Go de RAM Mémoire nécessaire
- À partir de 20 € Prix
Pas de frais d'installation
Liens officiels
Les liens officiels et le site web original de LocalAI
- Plus
Site web de LocalAI
Ce que vous obtenez
sur AvaHost
Le déploiement en un clic, un domaine personnalisé, HTTPS gratuit, des mises à jour automatiques des applications et des sauvegardes programmées sont inclus avec chaque application Cloud. Vous pouvez exécuter plusieurs applications sur un seul serveur, et l'accès au terminal est inclus.
Ce modèle n'inclut pas de conteneur de base de données.
Tech
- Image Docker
- localai/localai:latest
- Port par défaut
- 0
Fonctionnement de LocalAI
LocalAI s'exécute en tant qu'application hébergée qui expose son interface principale ou son service réseau via un déploiement persistant. La configuration et les données d'application restent attachées à l'instance, tandis que les utilisateurs se connectent via l'interface web, l'API ou les clients natifs appropriés au logiciel. Le modèle de service est intentionnellement séparé des abonnements et fournisseurs externes non liés.
LocalAI est un runtime d'inférence qui peut fonctionner sur du matériel CPU ou GPU. Les modèles et les backends d'inférence sont installés séparément du runtime de base.
Fonctionnalités clés de LocalAI
Le package hébergé se concentre sur l'application upstream principale plutôt que de regrouper des services commerciaux non liés. La capacité réelle du modèle dépend fortement de la taille du modèle, de la mémoire, des ressources CPU ou GPU, et de la quantification. Les administrateurs restent responsables des paramètres au niveau de l'application, des comptes tiers connectés, du contenu, des utilisateurs et de tous les services externes configurés dans le logiciel.
Les mises à jour automatiques des applications et les sauvegardes planifiées sont incluses en tant que fonctions de plateforme AvaHost. Ces fonctions de plateforme n'éliminent pas la nécessité d'examiner les notes de version upstream, de tester les workflows importants après les changements majeurs, et de conserver les informations de récupération spécifiques à l'application lorsque le projet le recommande.
LocalAI vs API OpenAI
LocalAI
LocalAI est destiné aux opérateurs qui souhaitent un contrôle direct de l'application hébergée et de sa configuration. L'API OpenAI peut être préférable lorsque la priorité est un écosystème géré par le fournisseur, un service de compte groupé, ou un modèle d'administration différent plutôt que l'auto-hébergement.
API OpenAI
La comparaison est fonctionnelle plutôt qu'une affirmation que les produits sont identiques. L'étendue des fonctionnalités, les intégrations de fournisseurs, les tarifs, les limites et les modèles de support peuvent différer, les équipes doivent donc choisir en fonction des workflows dont elles ont réellement besoin.
Qui utilise LocalAI
LocalAI convient aux individus, aux équipes techniques et aux organisations qui souhaitent exécuter le logiciel sous leur propre compte hébergé au lieu de dépendre uniquement d'une instance hébergée par le fournisseur. C'est particulièrement utile lorsque le contrôle du domaine, l'emplacement des données, la configuration de l'application ou la flexibilité d'intégration sont importants.
L'hébergement d'applications AvaHost fournit uniquement le runtime LocalAI ; les fichiers de modèle, les licences de modèle et tous les frais de fournisseur de modèle externe sont séparés.
Auto-hébergement de LocalAI : exigences et coût
L'utilisation des ressources dépend des utilisateurs actifs, des tâches de fond, des intégrations, des données stockées et de la charge de travail effectuée par l'application. La ligne de base hébergée utilise Non requis. Un conteneur PostgreSQL ou MariaDB séparé n'est pas requis pour cette ligne de base hébergée. Le stockage peut devenir une limite de capacité majeure à mesure que les modèles, les médias, les documents ou les actifs générés s'accumulent, donc des plans plus importants doivent être envisagés avant que l'ensemble de travail n'approche la limite de disque du plan.
Sur AvaHost, le minimum recommandé est le Plan 4 à 20 €. Le package comprend un déploiement en un clic, un domaine personnalisé ou un nom d'hôte le cas échéant, HTTPS automatique pour les interfaces web, les mises à jour automatiques des applications et les sauvegardes planifiées. L'email d'application est désactivé sur toutes les applications hébergées sauf si un chemin de messagerie externe séparé et pris en charge est configuré.
F.A.Q
LocalAI commence à 20 € sur le Plan 4. La recommandation couvre la ligne de base de l’application hébergée et les données persistantes normales, mais les abonnements externes, l’utilisation d’API, les comptes de fournisseur, les licences ou les services tiers restent séparés lorsque le logiciel en a besoin. Les charges de travail gourmandes en ressources, les grands ensembles de données ou de nombreux utilisateurs simultanés peuvent justifier le passage à un plan plus grand.
Un domaine personnalisé ou un nom d’hôte peut être connecté à LocalAI, avec HTTPS automatisé protégeant les interfaces basées sur navigateur après que le DNS soit pointé vers l’application hébergée. Les services utilisant leurs propres protocoles réseau peuvent également nécessiter des ports séparés ou une configuration client. La propriété DNS, les règles d’accès au niveau de l’application et les paramètres d’identité tiers restent sous le contrôle de l’administrateur.
AvaHost applique automatiquement les mises à jour des applications et conserve les données LocalAI persistantes attachées au déploiement, avec des sauvegardes planifiées incluses. Les administrateurs doivent toujours examiner les notes de version en amont avant les changements majeurs, préserver les informations de récupération spécifiques à l’application, et vérifier l’authentification, les intégrations, l’accès aux données et les flux de travail critiques après une mise à jour importante.
L’hébergement d’applications AvaHost fournit uniquement le runtime LocalAI ; les fichiers de modèles, les licences de modèles et tous les frais des fournisseurs de modèles externes sont distincts. Le package hébergé fournit l’environnement d’application mais ne fournit pas automatiquement tous les services externes auxquels le logiciel peut se connecter. Avant l’utilisation en production, confirmez les identifiants du fournisseur, les intégrations optionnelles, les permissions d’application et toute limitation d’édition ou de déploiement en amont qui importe pour votre flux de travail prévu.