AnythingLLM
Руководство по интеграции AnythingLLM
Подключите Wanmo Test к AnythingLLM как провайдер Generic OpenAI.
Обзор
AnythingLLM работает с Wanmo Test как с провайдером Generic OpenAI. Введите модель, задайте окно контекста, сохраните.
Быстрая настройка
Вставьте это в клиент. Ваш ключ подставляется автоматически, если вы вошли в аккаунт.
text
Базовый URL: https://testapi.wanmo.ai/v1
API-ключ: YOUR_API_KEYСовместимость
Chat CompletionsПотоковая передачаВызов инструментов
Пошаговая настройка
- 1Откройте LLM Preference
Откройте Settings в боковой панели, затем LLM Preference.
- 2Выберите Generic OpenAI
Установите LLM Provider в значение Generic OpenAI и заполните форму. Max Tokens по умолчанию равен 1024 и ограничивает каждый ответ, поэтому увеличьте это значение.
textBase URL: https://testapi.wanmo.ai/v1 API Key: YOUR_API_KEY Chat Model Name: YOUR_MODEL_ID Model context window: 50000 Max Tokens: 8192 - 3Сохраните
Сохраните. AnythingLLM будет использовать Wanmo Test в рабочих пространствах чата.
Лучшие бесплатные модели для AnythingLLM
Бесплатные модели, которые здесь работают. Вставьте id любой модели в клиент.
Нюансы
- Generic OpenAI загружает каталог, как только заданы Base URL и API Key. Если загрузка не удалась, поле превращается в обычную строку ввода, тогда введите идентификатор модели вручную.
- Embedding Preference: отдельная вкладка. Оставьте там рабочего провайдера эмбеддингов, если только Wanmo Test не даёт эмбеддинги на вашем тарифе.