Polska
LocalAI Hosting
LocalAI udostępnia interfejsy API kompatybilne z OpenAI i Anthropic do uruchamiania modeli tekstu, wizji, audio, osadzania i innych na kontrolowanym sprzęcie.
- Jedno kliknięcie wdrożenie
- 100 GB Potrzebna przestrzeń dyskowa
- 8 GB RAM Potrzebna pamięć
- Od 20 € Cena
Brak opłat za konfigurację
Oficjalne linki
Oficjalne linki i oryginalna strona internetowa LocalAI
- Więcej
Strona internetowa LocalAI
Co otrzymujesz
w AvaHost
Wdrożenie jednym kliknięciem, niestandardowa domena, darmowe HTTPS, automatyczne aktualizacje aplikacji i zaplanowane kopie zapasowe są dostępne z każdą aplikacją w chmurze. Możesz uruchomić wiele aplikacji na jednym serwerze, a dostęp do terminala jest wliczony.
Ten szablon nie zawiera kontenera bazy danych.
Technologia
- Obraz Dockera
- localai/localai:latest
- Domyślny port
- 0
Jak działa LocalAI
LocalAI działa jako aplikacja hostowana, która udostępnia swój główny interfejs lub usługę sieciową poprzez trwałe wdrożenie. Konfiguracja i dane aplikacji pozostają przypisane do instancji, podczas gdy użytkownicy łączą się poprzez interfejs webowy, API lub natywnych klientów odpowiednich dla oprogramowania. Model usługi jest celowo oddzielony od niezwiązanych zewnętrznych subskrypcji i dostawców.
LocalAI to środowisko uruchomieniowe wnioskowania, które może działać na sprzęcie CPU lub GPU. Modele i backendy wnioskowania są instalowane niezależnie od podstawowego środowiska uruchomieniowego.
Kluczowe funkcje LocalAI
Pakiet hostowany skupia się na głównej aplikacji upstream zamiast łączyć niezwiązane usługi komercyjne. Rzeczywista pojemność modelu zależy w dużej mierze od rozmiaru modelu, pamięci, zasobów CPU lub GPU oraz kwantyzacji. Administratorzy pozostają odpowiedzialni za ustawienia na poziomie aplikacji, połączone konta stron trzecich, zawartość, użytkowników i wszelkie usługi zewnętrzne skonfigurowane w oprogramowaniu.
Automatyczne aktualizacje aplikacji i zaplanowane kopie zapasowe są zawarte w funkcjach platformy AvaHost. Te funkcje platformy nie eliminują potrzeby przeglądu notatek wydania upstream, testowania ważnych przepływów pracy po dużych zmianach i zachowania informacji odzyskiwania specyficznych dla aplikacji, gdy projekt to zaleca.
LocalAI vs OpenAI API
LocalAI
LocalAI jest skierowany do operatorów, którzy chcą bezpośredniej kontroli nad hostowaną aplikacją i jej konfiguracją. OpenAI API może być preferowany, gdy priorytetem jest ekosystem zarządzany przez dostawcę, usługa konta w pakiecie lub inny model administracji zamiast self-hostingu.
OpenAI API
Porównanie jest funkcjonalne, a nie twierdzeniem, że produkty są identyczne. Zakres funkcji, integracje dostawców, ceny, limity i modele wsparcia mogą się różnić, dlatego zespoły powinny wybierać zgodnie z przepływami pracy, które faktycznie potrzebują.
Kto używa LocalAI
LocalAI jest odpowiedni dla osób fizycznych, zespołów technicznych i organizacji, które chcą uruchamiać oprogramowanie na swoim własnym koncie hostowanym zamiast polegać tylko na instancji hostowanej przez dostawcę. Jest szczególnie przydatny, gdy ważna jest kontrola domeny, lokalizacja danych, konfiguracja aplikacji lub elastyczność integracji.
Hosting aplikacji AvaHost zapewnia tylko środowisko uruchomieniowe LocalAI; pliki modeli, licencje modeli i wszelkie zewnętrzne opłaty dostawcy modelu są oddzielne.
Self-hosting LocalAI: wymagania i koszty
Użycie zasobów zależy od aktywnych użytkowników, zadań w tle, integracji, przechowywanych danych i obciążenia wykonanego przez aplikację. Hostowana linia bazowa nie wymaga osobnego kontenera PostgreSQL lub MariaDB dla tej hostowanej linii bazowej. Magazyn może stać się głównym ograniczeniem pojemności, ponieważ modele, media, dokumenty lub wygenerowane zasoby się gromadzą, dlatego należy rozważyć większe plany, zanim zestaw roboczy zbliży się do limitu dysku planu.
Na AvaHost rekomendowane minimum to Plan 4 za €20. Pakiet obejmuje wdrożenie jednym klikiem, domenę niestandardową lub nazwę hosta, gdzie ma to zastosowanie, automatyczny HTTPS dla interfejsów webowych, automatyczne aktualizacje aplikacji i zaplanowane kopie zapasowe. Poczta aplikacji jest wyłączona we wszystkich aplikacjach hostowanych, chyba że skonfigurowana jest oddzielna obsługiwana zewnętrzna ścieżka poczty.
F.A.Q
LocalAI zaczyna się od €20 w Planie 4. Rekomendacja obejmuje linię bazową hostowanej aplikacji i normalne dane trwałe, ale zewnętrzne subskrypcje, użycie API, konta dostawców, licencje lub usługi trzecich stron pozostają osobne, gdy oprogramowanie ich wymaga. Obciążenia wymagające dużych zasobów, duże zestawy danych lub wielu jednoczesnych użytkowników mogą uzasadniać przejście na większy plan.
Niestandardowa domena lub hostname może być podłączona do LocalAI z automatycznym HTTPS chroniącym interfejsy oparte na przeglądarce po wskazaniu DNS na hostowaną aplikację. Usługi korzystające z własnych protokołów sieciowych mogą również wymagać oddzielnych portów lub konfiguracji klienta. Własność DNS, reguły dostępu na poziomie aplikacji i ustawienia tożsamości stron trzecich pozostają pod kontrolą administratora.
AvaHost automatycznie stosuje aktualizacje aplikacji i zachowuje trwałe dane LocalAI dołączone do wdrożenia, z uwzględnieniem zaplanowanych kopii zapasowych. Administratorzy powinni nadal przeglądać uwagi do wydania upstream przed istotnymi zmianami, zachowywać informacje odzyskiwania specyficzne dla aplikacji oraz weryfikować uwierzytelnianie, integracje, dostęp do danych i krytyczne przepływy pracy po znaczącej aktualizacji.
Hosting aplikacji AvaHost udostępnia wyłącznie runtime LocalAI; pliki modeli, licencje modeli i wszelkie opłaty za zewnętrznych dostawców modeli są osobne. Pakiet hostingowy zapewnia środowisko aplikacji, ale nie dostarcza automatycznie każdej zewnętrznej usługi, z którą oprogramowanie może się połączyć. Przed użyciem w produkcji potwierdź poświadczenia dostawcy, opcjonalne integracje, uprawnienia aplikacji i wszelkie ograniczenia wersji lub wdrożenia, które mają znaczenie dla Twojego zamierzonego przepływu pracy.