librechat.yaml для описания провайдеров, моделей и правил маршрутизации. Он поддерживает настраиваемые конечные точки, совместимые с OpenAI, что позволяет подключать Ace Data Cloud. В этой статье описан процесс настройки.
Процесс получения
Чтобы подключить Ace Data Cloud в LibreChat, сначала перейдите в консоль Ace Data Cloud, чтобы получить ваш API Token и сохранить его на всякий случай.
Если вы еще не вошли в систему или не зарегистрированы, вы будете автоматически перенаправлены на страницу входа, где вас пригласят зарегистрироваться и войти. После входа или регистрации вы будете автоматически возвращены на текущую страницу.
При первом запросе предоставляется бесплатный лимит, чтобы вы могли бесплатно протестировать модельные услуги Ace Data Cloud.
Развертывание LibreChat
LibreChat разворачивается с помощью Docker Compose, сначала подготовьте каталог и загрузите официальную конфигурацию:.env с помощью openssl rand -hex 32 сгенерируйте JWT_SECRET, JWT_REFRESH_SECRET, CREDS_KEY, CREDS_IV и другие безопасные ключи, а также настройте ALLOW_REGISTRATION по мере необходимости.
Настройка Ace Data Cloud
Создайтеlibrechat.yaml, добавив Ace Data Cloud в качестве настраиваемой конечной точки, совместимой с OpenAI (полное описание полей смотрите в официальной документации по настраиваемым конечным точкам, заменив {token} на ваш токен):
docker-compose.yml под сервисом api подключите этот файл в контейнер, затем запустите docker compose up -d:
baseURL:
Выбор модели
Каталог моделей будет постоянно обновляться. Предпочитайте использовать список моделей, автоматически загружаемых клиентом; если необходимо заполнить вручную, сначала запроситеGET https://api.acedata.cloud/v1/models, чтобы получить текущий ID модели, а затем выберите в зависимости от поддерживаемых клиентом контекста, изображений и возможностей вызова инструментов.
Проверка интеграции
Если вы не уверены, проблема в LibreChat или в сети, вы можете сначала проверить конечную точку с помощью curl (замените{token} на ваш токен):
chat.completion, совместимого с OpenAI, указывает на то, что токен и конечная точка готовы; если возвращается HTTP 403 used_up, это означает, что токен действителен, но баланс недостаточен, пополните его в консоли.
Продвинутые: советы по настройке yaml
librechat.yaml поддерживает несколько групп конечных точек, вы можете использовать apiKey: "user_provided", чтобы каждый пользователь мог ввести свой ключ; titleModel указывает модель для генерации заголовка диалога; dropParams позволяет удалить параметры, которые не поддерживаются целевым API. Подробности смотрите в подробном описании конфигурации librechat.yaml.
Часто задаваемые вопросы
После запуска не видно конечной точки Ace Data Cloud
Обычно это связано с тем, что yaml не был подключен в контейнер или есть ошибка отступов. Проверьтеvolumes в docker-compose.yml и проверьте отступы в yaml.
Ошибка 404
baseURL написан как .../openai/v1 или отсутствует /v1. Измените на https://api.acedata.cloud/v1.
Выпадающий список моделей пуст
fetch: true, но если /v1/models не удалось, измените на fetch: false и вручную укажите default.
Изменения в yaml не вступили в силу
Необходимо перезапустить контейнер:docker compose restart api.