Español
LocalAI Hosting
LocalAI expone APIs compatibles con OpenAI y Anthropic para ejecutar modelos de texto, visión, audio, incrustación y otros en hardware controlado.
- Un clic desplegar
- 100 GB Espacio en disco necesario
- 8 GB de RAM Memoria necesaria
- Desde 20 € Precio
Sin gastos de configuración
Enlaces oficiales
Los enlaces oficiales y el sitio web original de LocalAI
- Más
Sitio web de LocalAI
Lo que obtienes
en AvaHost
El despliegue con un clic, un dominio personalizado, HTTPS gratuito, actualizaciones automáticas de aplicaciones y copias de seguridad programadas vienen con cada aplicación en la nube. Puedes ejecutar múltiples aplicaciones en un servidor, y el acceso a la terminal está incluido.
Esta plantilla no incluye un contenedor de base de datos.
Tecnología
- Imagen de Docker
- localai/localai:latest
- Puerto predeterminado
- 0
Cómo funciona LocalAI
LocalAI se ejecuta como una aplicación alojada que expone su interfaz principal o servicio de red a través de un despliegue persistente. La configuración y los datos de la aplicación permanecen asociados a la instancia, mientras que los usuarios se conectan a través de la interfaz web, API o clientes nativos apropiados para el software. El modelo de servicio está intencionalmente separado de suscripciones y proveedores externos no relacionados.
LocalAI es un runtime de inferencia que puede funcionar en hardware CPU o GPU. Los modelos y backends de inferencia se instalan por separado del runtime base.
Características clave de LocalAI
El paquete alojado se enfoca en la aplicación upstream principal en lugar de agrupar servicios comerciales no relacionados. La capacidad real del modelo depende en gran medida del tamaño del modelo, memoria, recursos de CPU o GPU, y cuantización. Los administradores son responsables de la configuración a nivel de aplicación, cuentas de terceros conectadas, contenido, usuarios y cualquier servicio externo configurado dentro del software.
Las actualizaciones automáticas de la aplicación y las copias de seguridad programadas se incluyen como funciones de la plataforma AvaHost. Esas funciones de plataforma no eliminan la necesidad de revisar las notas de lanzamiento upstream, probar flujos de trabajo importantes después de cambios importantes y retener información de recuperación específica de la aplicación cuando el proyecto lo recomienda.
LocalAI vs OpenAI API
LocalAI
LocalAI está dirigido a operadores que desean control directo de la aplicación alojada y su configuración. OpenAI API puede ser preferible cuando la prioridad es un ecosistema gestionado por el proveedor, servicio de cuenta agrupado o un modelo de administración diferente en lugar de auto-alojamiento.
OpenAI API
La comparación es funcional en lugar de una afirmación de que los productos son idénticos. El alcance de características, integraciones de proveedores, precios, límites y modelos de soporte pueden diferir, por lo que los equipos deben elegir según los flujos de trabajo que realmente necesitan.
Quién usa LocalAI
LocalAI es adecuado para individuos, equipos técnicos y organizaciones que desean ejecutar el software bajo su propia cuenta alojada en lugar de depender únicamente de una instancia alojada por el proveedor. Es particularmente útil cuando el control de dominio, la ubicación de datos, la configuración de la aplicación o la flexibilidad de integración importan.
AvaHost proporciona alojamiento de aplicaciones solo para el runtime de LocalAI; los archivos de modelos, licencias de modelos y cualquier cargo de proveedor de modelos externo son separados.
Auto-alojamiento de LocalAI: requisitos y costo
El uso de recursos depende de usuarios activos, trabajos en segundo plano, integraciones, datos almacenados y la carga de trabajo realizada por la aplicación. La línea base alojada utiliza No requerido. Un contenedor PostgreSQL o MariaDB separado No es requerido para esta línea base alojada. El almacenamiento puede convertirse en un límite de capacidad importante a medida que se acumulan modelos, medios, documentos o activos generados, por lo que se deben considerar planes más grandes antes de que el conjunto de trabajo se acerque al límite de disco del plan.
En AvaHost, el mínimo recomendado es Plan 4 a €20. El paquete incluye despliegue con un clic, un dominio personalizado u hostname donde sea aplicable, HTTPS automático para interfaces web, actualizaciones automáticas de aplicaciones y copias de seguridad programadas. El correo electrónico de la aplicación está deshabilitado en todas las aplicaciones alojadas a menos que se configure una ruta de correo externa separada y compatible.
F.A.Q
LocalAI comienza en €20 en el Plan 4. La recomendación cubre la línea base de la aplicación alojada y los datos persistentes normales, pero las suscripciones externas, el uso de API, las cuentas de proveedores, las licencias o los servicios de terceros permanecen separados cuando el software los requiere. Las cargas de trabajo que consumen muchos recursos, los conjuntos de datos grandes o muchos usuarios concurrentes pueden justificar el cambio a un plan más grande.
Un dominio personalizado o nombre de host se puede conectar a LocalAI, con HTTPS automatizado protegiendo interfaces basadas en navegador después de que el DNS se apunte a la aplicación alojada. Los servicios que utilizan sus propios protocolos de red también pueden requerir puertos separados o configuración del cliente. La propiedad del DNS, las reglas de acceso a nivel de aplicación y la configuración de identidad de terceros permanecen bajo el control del administrador.
AvaHost aplica actualizaciones de aplicaciones automáticamente y mantiene los datos persistentes de LocalAI adjuntos a la implementación, con copias de seguridad programadas incluidas. Los administradores deben revisar las notas de lanzamiento ascendentes antes de cambios importantes, preservar información de recuperación específica de la aplicación y verificar autenticación, integraciones, acceso a datos y flujos de trabajo críticos después de una actualización significativa.
El alojamiento de aplicaciones AvaHost proporciona únicamente el runtime de LocalAI; los archivos de modelos, las licencias de modelos y cualquier cargo de proveedor de modelos externo son independientes. El paquete alojado suministra el entorno de la aplicación pero no proporciona automáticamente todos los servicios externos a los que el software puede conectarse. Antes del uso en producción, confirma las credenciales del proveedor, las integraciones opcionales, los permisos de la aplicación y cualquier limitación de edición o implementación ascendente que sea relevante para tu flujo de trabajo previsto.