Русский
LocalAI Хостинг
LocalAI предоставляет совместимые с OpenAI и Anthropic API для запуска моделей текста, зрения, аудио, встраивания и других моделей на контролируемом оборудовании.
- Один клик развернуть
- 100 ГБ Необходимое дисковое пространство
- 8 ГБ ОЗУ Необходимая память
- От 20 € Цена
Без сборов за установку
Официальные ссылки
Официальные ссылки и оригинальный сайт LocalAI
- Больше
Сайт LocalAI
Что вы получаете
на AvaHost
Развертывание в один клик, собственный домен, бесплатный HTTPS, автоматические обновления приложений и запланированные резервные копии включены в каждое облачное приложение. Вы можете запускать несколько приложений на одном сервере, и доступ к терминалу включен.
Этот шаблон не включает контейнер базы данных.
Технологии
- Образ Docker
- localai/localai:latest
- Порт по умолчанию
- 0
Как работает LocalAI
LocalAI работает как размещённое приложение, которое предоставляет свой основной интерфейс или сетевой сервис через постоянное развёртывание. Конфигурация и данные приложения остаются привязаны к экземпляру, а пользователи подключаются через веб-интерфейс, API или нативные клиенты, подходящие для данного ПО. Модель обслуживания намеренно отделена от несвязанных внешних подписок и провайдеров.
LocalAI — это runtime для инференса, который может работать на CPU или GPU оборудовании. Модели и бэкенды инференса устанавливаются отдельно от базового runtime.
Ключевые возможности LocalAI
Размещённый пакет сосредоточен на основном upstream приложении, а не на комплектации несвязанных коммерческих сервисов. Фактическая ёмкость модели сильно зависит от размера модели, памяти, ресурсов CPU или GPU и квантизации. Администраторы остаются ответственны за параметры уровня приложения, подключённые сторонние аккаунты, контент, пользователей и любые внешние сервисы, настроенные внутри ПО.
Автоматические обновления приложения и запланированные резервные копии включены как функции платформы AvaHost. Эти функции платформы не исключают необходимость изучить примечания к выпускам upstream, протестировать важные рабочие процессы после крупных изменений и сохранить информацию восстановления, специфичную для приложения, когда проект это рекомендует.
LocalAI vs OpenAI API
LocalAI
LocalAI ориентирован на операторов, которые хотят прямого контроля над размещённым приложением и его конфигурацией. OpenAI API может быть предпочтительнее, когда приоритет — управляемая провайдером экосистема, комплектный сервис аккаунта или другая модель администрирования вместо самостоятельного хостинга.
OpenAI API
Сравнение носит функциональный характер, а не утверждение, что продукты идентичны. Объём функций, интеграции провайдеров, цены, лимиты и модели поддержки могут отличаться, поэтому команды должны выбирать в соответствии с рабочими процессами, которые им действительно нужны.
Кто использует LocalAI
LocalAI подходит отдельным лицам, техническим командам и организациям, которые хотят запускать ПО под своим собственным размещённым аккаунтом вместо зависимости только от размещённого провайдером экземпляра. Это особенно полезно, когда важны контроль домена, местоположение данных, конфигурация приложения или гибкость интеграции.
Размещение приложений AvaHost предоставляет только runtime LocalAI; файлы моделей, лицензии моделей и любые внешние сборы провайдера моделей — это отдельно.
Самостоятельный хостинг LocalAI: требования и стоимость
Использование ресурсов зависит от активных пользователей, фоновых задач, интеграций, хранимых данных и рабочей нагрузки, выполняемой приложением. Размещённая базовая конфигурация использует Не требуется. Отдельный контейнер PostgreSQL или MariaDB Не требуется для этой размещённой базовой конфигурации. Хранилище может стать основным ограничением ёмкости по мере накопления моделей, медиа, документов или сгенерированных активов, поэтому перед тем как рабочий набор приблизится к лимиту диска плана, следует рассмотреть более крупные планы.
На AvaHost рекомендуемый минимум — План 4 за €20. Пакет включает развёртывание в один клик, пользовательский домен или имя хоста где применимо, автоматический HTTPS для веб-интерфейсов, автоматические обновления приложения и запланированные резервные копии. Электронная почта приложения отключена для всех размещённых приложений, если не настроена отдельная поддерживаемая внешняя почтовая схема.
F.A.Q
LocalAI начинается с €20 на Plan 4. Рекомендация охватывает базовую конфигурацию размещённого приложения и обычные постоянные данные, однако внешние подписки, использование API, учётные записи провайдеров, лицензии или сторонние сервисы остаются отдельными, когда программному обеспечению они требуются. Ресурсоёмкие рабочие нагрузки, большие наборы данных или множество одновременных пользователей могут оправдать переход на больший план.
Пользовательский домен или имя хоста можно подключить к LocalAI с автоматической защитой HTTPS для интерфейсов на основе браузера после того, как DNS будет указан на размещённое приложение. Сервисы, использующие собственные сетевые протоколы, могут также требовать отдельные порты или конфигурацию клиента. Владение DNS, правила доступа на уровне приложения и параметры идентификации третьих сторон остаются под контролем администратора.
AvaHost применяет обновления приложений автоматически и сохраняет постоянные данные LocalAI, подключённые к развёртыванию, с включёнными запланированными резервными копиями. Администраторы должны всё ещё проверять примечания к выпускам upstream перед крупными изменениями, сохранять информацию восстановления, специфичную для приложения, и проверять аутентификацию, интеграции, доступ к данным и критические рабочие процессы после значительного обновления.
Хостинг приложений AvaHost предоставляет только runtime LocalAI; файлы моделей, лицензии моделей и любые платежи внешних поставщиков моделей являются отдельными. Размещённый пакет предоставляет среду приложения, но не автоматически обеспечивает каждый внешний сервис, к которому может подключиться программное обеспечение. Перед использованием в production убедитесь в учётных данных поставщика, дополнительных интеграциях, разрешениях приложения и любых ограничениях версии или развёртывания, которые имеют значение для вашего предполагаемого рабочего процесса.