Поиск по документации...

Начните вводить, чтобы искать по документации

AnythingLLM

Руководство по интеграции AnythingLLM

Подключите Wanmo Test к AnythingLLM как провайдер Generic OpenAI.

Обзор

AnythingLLM работает с Wanmo Test как с провайдером Generic OpenAI. Введите модель, задайте окно контекста, сохраните.

Быстрая настройка

Вставьте это в клиент. Ваш ключ подставляется автоматически, если вы вошли в аккаунт.

text
Базовый URL: https://testapi.wanmo.ai/v1
API-ключ: YOUR_API_KEY

Войдите, чтобы автоматически подставить ваш ключ API

Совместимость

Chat CompletionsПотоковая передачаВызов инструментов

Пошаговая настройка

  1. 1
    Откройте LLM Preference

    Откройте Settings в боковой панели, затем LLM Preference.

  2. 2
    Выберите Generic OpenAI

    Установите LLM Provider в значение Generic OpenAI и заполните форму. Max Tokens по умолчанию равен 1024 и ограничивает каждый ответ, поэтому увеличьте это значение.

    text
    Base URL: https://testapi.wanmo.ai/v1
    API Key: YOUR_API_KEY
    Chat Model Name: YOUR_MODEL_ID
    Model context window: 50000
    Max Tokens: 8192

    Войдите, чтобы автоматически подставить ваш ключ API

  3. 3
    Сохраните

    Сохраните. AnythingLLM будет использовать Wanmo Test в рабочих пространствах чата.

Лучшие бесплатные модели для AnythingLLM

Бесплатные модели, которые здесь работают. Вставьте id любой модели в клиент.

Нюансы

  • Generic OpenAI загружает каталог, как только заданы Base URL и API Key. Если загрузка не удалась, поле превращается в обычную строку ввода, тогда введите идентификатор модели вручную.
  • Embedding Preference: отдельная вкладка. Оставьте там рабочего провайдера эмбеддингов, если только Wanmo Test не даёт эмбеддинги на вашем тарифе.

Похожие посты

Создать ключ APIМодели