Українська
LocalAI Хостинг
LocalAI надає OpenAI- та Anthropic-сумісні API для запуску текстових, візуальних, аудіо, вбудовування та інших моделей на контрольованому обладнанні.
- Один клік розгортання
- 100 ГБ Потрібно місця на диску
- 8 ГБ ОП Потрібна пам'ять
- Від 20 € Ціна
Безкоштовна установка
Офіційні посилання
Офіційні посилання та оригінальний веб-сайт LocalAI
- Більше
LocalAI вебсайт
Що ви отримуєте
на AvaHost
Розгортання в один клік, власний домен, безкоштовний HTTPS, автоматичні оновлення додатків та заплановані резервні копії входять у кожен Cloud App. Ви можете запускати кілька додатків на одному сервері, і доступ до терміналу включений.
Цей шаблон не містить контейнер бази даних.
Технічні дані
- Docker-образ
- localai/localai:latest
- Порт за замовчуванням
- 0
Як працює LocalAI
LocalAI запускається як розміщена програма, яка надає свій основний інтерфейс або мережевий сервіс через постійне розгортання. Конфігурація та дані програми залишаються прив'язаними до екземпляра, тоді як користувачі підключаються через веб-інтерфейс, API або нативні клієнти, відповідні програмному забезпеченню. Модель сервісу навмисне відокремлена від непов'язаних зовнішніх підписок та провайдерів.
LocalAI — це runtime для інференції, який може працювати на CPU або GPU обладнанні. Моделі та backend інференції встановлюються окремо від базового runtime.
Ключові можливості LocalAI
Розміщений пакет зосереджується на основній upstream програмі, а не на об'єднанні непов'язаних комерційних сервісів. Фактична ємність моделі залежить від розміру моделі, пам'яті, ресурсів CPU або GPU та квантизації. Адміністратори залишаються відповідальними за параметри рівня програми, підключені сторонні облікові записи, вміст, користувачів та будь-які зовнішні сервіси, налаштовані всередині програми.
Автоматичні оновлення програми та запланована резервна копіювання включені як функції платформи AvaHost. Ці функції платформи не усувають необхідність перегляду примітки до випуску upstream, тестування важливих робочих процесів після великих змін та збереження інформації про відновлення, специфічної для програми, коли проект це рекомендує.
LocalAI порівняно з OpenAI API
LocalAI
LocalAI спрямований на операторів, які хочуть прямого контролю над розміщеною програмою та її конфігурацією. OpenAI API може бути кращим вибором, коли пріоритет — це керований постачальником екосистем, об'єднаний сервіс облікового запису або інша модель адміністрування, а не self-hosting.
OpenAI API
Порівняння є функціональним, а не твердженням, що продукти ідентичні. Обсяг функцій, інтеграції провайдерів, ціноутворення, обмеження та моделі підтримки можуть відрізнятися, тому команди повинні вибирати відповідно до робочих процесів, які їм насправді потрібні.
Хто використовує LocalAI
LocalAI підходить для фізичних осіб, технічних команд та організацій, які хочуть запускати програму під своїм розміщеним обліковим записом замість залежності тільки від екземпляра, розміщеного постачальником. Це особливо корисно, коли важливі контроль домену, розташування даних, конфігурація програми або гнучкість інтеграції.
Розміщення програм AvaHost надає тільки LocalAI runtime; файли моделей, ліцензії моделей та будь-які зовнішні збори від постачальника моделей — окремі.
Self-hosting LocalAI: вимоги та вартість
Використання ресурсів залежить від активних користувачів, фонових завдань, інтеграцій, збережених даних та робочого навантаження, яке виконує програма. Розміщений базовий рівень не потребує окремого контейнера PostgreSQL або MariaDB для цього розміщеного базового рівня. Сховище може стати основним обмеженням ємності, оскільки моделі, медіа, документи або згенеровані активи накопичуються, тому перед тим, як робочий набір наблизиться до обмеження диска плану, слід розглянути більші плани.
На AvaHost рекомендований мінімум — План 4 за €20. Пакет включає розгортання в один клік, користувацький домен або ім'я хоста, де це застосовується, автоматичний HTTPS для веб-інтерфейсів, автоматичні оновлення програми та запланована резервна копіювання. Електронна пошта програми вимкнена для всіх розміщених програм, якщо не налаштована окрема підтримувана зовнішня шляху пошти.
F.A.Q
LocalAI починається з €20 на Plan 4. Рекомендація охоплює базову лінію розміщеної програми та звичайні постійні дані, але зовнішні підписки, використання API, облікові записи постачальників, ліцензії або сторонні сервіси залишаються окремими, коли програмному забезпеченню вони потрібні. Ресурсомісткі робочі навантаження, великі набори даних або багато одночасних користувачів можуть виправдати перехід на більший план.
Користувацький домен або ім’я хоста можна підключити до LocalAI з автоматизованим HTTPS, який захищає веб-інтерфейси після того, як DNS спрямовується на розміщену програму. Сервіси, які використовують власні мережеві протоколи, також можуть вимагати окремих портів або конфігурації клієнта. Власність DNS, правила доступу на рівні програми та параметри ідентифікації третіх сторін залишаються під контролем адміністратора.
AvaHost автоматично застосовує оновлення додатків та зберігає постійні дані LocalAI, прикріплені до розгортання, з включеними запланованими резервними копіями. Адміністратори все ще повинні переглянути примітки до випуску upstream перед великими змінами, зберегти інформацію про відновлення, специфічну для додатку, та перевірити автентифікацію, інтеграції, доступ до даних та критичні робочі процеси після значного оновлення.
Хостинг додатків AvaHost надає лише runtime LocalAI; файли моделей, ліцензії моделей та будь-які збори зовнішніх постачальників моделей є окремими. Розміщений пакет забезпечує середовище додатку, але не надає автоматично кожного зовнішнього сервісу, до якого програмне забезпечення може підключатися. Перед використанням у виробництві підтвердьте облікові дані постачальника, додаткові інтеграції, дозволи додатків та будь-які обмеження версії або розгортання, які мають значення для вашого призначеного робочого процесу.