AnythingLLM
AnythingLLM 連携ガイド
Wanmo Test を AnythingLLM に Generic OpenAI プロバイダーとして接続します。
概要
AnythingLLM は Wanmo Test を Generic OpenAI プロバイダーとして扱います。モデルを入力し、コンテキストウィンドウを設定して保存します。
クイック設定
これらをクライアントに貼り付けてください。サインイン中はキーが自動入力されます。
text
ベースURL: https://testapi.wanmo.ai/v1
APIキー: YOUR_API_KEY互換性
Chat Completionsストリーミングツール呼び出し
ステップごとの設定
- 1LLM Preference を開く
サイドバーで Settings を開き、続いて LLM Preference を開きます。
- 2Generic OpenAI を選ぶ
LLM Provider を Generic OpenAI に設定し、フォームを入力します。Max Tokens は既定値が 1024 で、すべての応答がその値で制限されるため、値を上げてください。
textBase URL: https://testapi.wanmo.ai/v1 API Key: YOUR_API_KEY Chat Model Name: YOUR_MODEL_ID Model context window: 50000 Max Tokens: 8192 - 3保存する
保存します。AnythingLLM がチャットワークスペースで Wanmo Test を使います。
AnythingLLM におすすめの無料モデル
ここで動作する無料モデルです。任意のモデルIDをクライアントに貼り付けてください。
注意点
- Base URL と API Key を設定すると、Generic OpenAI がカタログを取得します。取得に失敗した場合、この欄はテキスト入力に切り替わるので、モデル ID を手入力してください。
- Embedding Preference は別のタブです。Wanmo Test がプランで埋め込みを提供していない限り、動作する埋め込みプロバイダーのままにしてください。