LocalAI ホスティング
LocalAI は、テキスト、ビジョン、オーディオ、埋め込み、およびその他のモデルを制御されたハードウェア上で実行するための OpenAI および Anthropic 互換 API を公開します。
- ワンクリック デプロイ
- 100 GB 必要なディスクスペース
- 8 GB RAM 必要なメモリ
- 20 €から 価格

公式リンク
LocalAIの公式リンクとオリジナルウェブサイト
AvaHostで得られるもの
ワンクリックデプロイメント、カスタムドメイン、無料のHTTPS、自動アプリケーション更新、およびスケジュールされたバックアップがすべてのクラウドアプリに付属しています。1台のサーバーで複数のアプリを実行でき、ターミナルアクセスも含まれています。
このテンプレートにはデータベースコンテナが含まれていません。

テクノロジー
- Dockerイメージ
- localai/localai:latest
- デフォルトポート
- 0

LocalAI の仕組み
LocalAI は、ホストされたアプリケーションとして実行され、プライマリインターフェースまたはネットワークサービスを永続的なデプロイメントを通じて公開します。設定とアプリケーションデータはインスタンスに接続されたままであり、ユーザーはウェブインターフェース、API、またはソフトウェアに適したネイティブクライアントを通じて接続します。サービスモデルは、無関係な外部サブスクリプションおよびプロバイダーから意図的に分離されています。
LocalAI は、CPU または GPU ハードウェア上で動作できる推論ランタイムです。モデルと推論バックエンドは、ベースランタイムとは別にインストールされます。
LocalAI の主な機能
ホストされたパッケージは、無関係な商用サービスをバンドルするのではなく、コアアップストリームアプリケーションに焦点を当てています。実際のモデル容量は、モデルサイズ、メモリ、CPU または GPU リソース、および量子化に大きく依存します。管理者は、アプリケーションレベルの設定、接続されたサードパーティアカウント、コンテンツ、ユーザー、およびソフトウェア内で設定された外部サービスについて責任を負います。
自動アプリケーション更新とスケジュール済みバックアップは、AvaHost プラットフォーム機能として含まれています。これらのプラットフォーム機能は、アップストリームリリースノートを確認し、大きな変更後に重要なワークフローをテストし、プロジェクトが推奨する場合にアプリケーション固有の復旧情報を保持する必要性を排除しません。
LocalAI と OpenAI API の比較
LocalAI
LocalAI は、ホストされたアプリケーションとその設定を直接制御したい運用者を対象としています。OpenAI API は、優先事項がベンダー管理のエコシステム、バンドルされたアカウントサービス、またはセルフホスティングではなく異なる管理モデルである場合に適切である可能性があります。
OpenAI API
この比較は機能的なものであり、製品が同一であるという主張ではありません。機能スコープ、プロバイダー統合、価格、制限、およびサポートモデルは異なる可能性があるため、チームは実際に必要なワークフローに応じて選択する必要があります。
LocalAI を使用する人
LocalAI は、ベンダーホストインスタンスのみに依存するのではなく、自分のホストされたアカウント下でソフトウェアを実行したい個人、技術チーム、および組織に適しています。ドメイン制御、データの場所、アプリケーション設定、または統合の柔軟性が重要な場合に特に有用です。
AvaHost アプリケーションホスティングは LocalAI ランタイムのみを提供します。モデルファイル、モデルライセンス、および外部モデルプロバイダーの料金は別途です。

LocalAI のセルフホスティング: 要件とコスト
リソース使用量は、アクティブユーザー、バックグラウンドジョブ、統合、保存されたデータ、およびアプリケーションによって実行されるワークロードに依存します。ホストされたベースラインは不要です。このホストされたベースラインでは、別の PostgreSQL または MariaDB コンテナは不要です。モデル、メディア、ドキュメント、または生成されたアセットが蓄積するにつれて、ストレージが主要な容量制限になる可能性があるため、ワーキングセットがプランディスク制限に近づく前に、より大きなプランを検討する必要があります。
AvaHost では、推奨される最小値は €20 のプラン 4 です。パッケージには、ワンクリックデプロイメント、該当する場合のカスタムドメインまたはホスト名、ウェブインターフェースの自動 HTTPS、自動アプリケーション更新、およびスケジュール済みバックアップが含まれます。ホストされたアプリケーション全体でアプリケーションメールは無効になっています。別の対応している外部メールパスが設定されていない限り。
F.A.Q
LocalAIはプラン4で€20から開始します。推奨事項はホストされたアプリケーションのベースラインと通常の永続データをカバーしていますが、ソフトウェアが必要とする場合、外部サブスクリプション、API使用量、プロバイダーアカウント、ライセンス、またはサードパーティサービスは別途となります。リソース集約的なワークロード、大規模なデータセット、または多くの同時ユーザーは、より大きなプランへの移行を正当化できます。
カスタムドメインまたはホスト名をLocalAIに接続でき、DNSがホストされたアプリケーションにポイントされた後、自動HTTPSがブラウザベースのインターフェースを保護します。独自のネットワークプロトコルを使用するサービスは、別のポートまたはクライアント設定が必要な場合もあります。DNS所有権、アプリケーションレベルのアクセスルール、およびサードパーティのアイデンティティ設定は、管理者の管理下に留まります。
AvaHostは自動的にアプリケーション更新を適用し、デプロイメントに接続された永続的なLocalAIデータを保持し、スケジュール済みバックアップを含めます。管理者は、大規模な変更の前にアップストリームのリリースノートを確認し、アプリケーション固有の復旧情報を保持し、重要な更新後に認証、統合、データアクセス、および重要なワークフローを検証する必要があります。
AvaHostのアプリケーションホスティングはLocalAIランタイムのみを提供します。モデルファイル、モデルライセンス、および外部モデルプロバイダーの料金は別途です。ホストされたパッケージはアプリケーション環境を提供しますが、ソフトウェアが接続できるすべての外部サービスを自動的に提供するわけではありません。本番環境での使用前に、プロバイダーの認証情報、オプションの統合、アプリケーションの権限、および意図したワークフローに関連する上流エディションまたはデプロイメントの制限を確認してください。
