Skip to main content
LibreChat는 서비스 제공자, 모델 및 라우팅 규칙을 설명하는 librechat.yaml을 통해 고도로 구성 가능한 오픈 소스 AI 클라이언트입니다. OpenAI 호환 엔드포인트를 사용자 정의할 수 있어 Ace Data Cloud에 연결할 수 있습니다. 이 문서에서는 구성 프로세스를 설명합니다.

신청 프로세스

LibreChat에서 Ace Data Cloud에 연결하려면 먼저 Ace Data Cloud 콘솔로 가서 API Token을 받아두세요. Ace Data Cloud API Key 받기 로그인 또는 등록하지 않은 경우 자동으로 로그인 페이지로 리디렉션되어 등록 및 로그인을 초대합니다. 로그인 및 등록 후 현재 페이지로 자동으로 돌아옵니다. 첫 신청 시 무료 크레딧이 제공되어 Ace Data Cloud의 모델 서비스를 무료로 체험할 수 있습니다.

LibreChat 배포

LibreChat은 Docker Compose를 통해 배포되며, 먼저 디렉토리를 준비하고 공식 구성을 다운로드합니다:
.env에서 openssl rand -hex 32를 사용하여 JWT_SECRET, JWT_REFRESH_SECRET, CREDS_KEY, CREDS_IV 등의 보안 키를 생성하고 필요에 따라 ALLOW_REGISTRATION을 설정합니다.

Ace Data Cloud 구성

librechat.yaml을 생성하고 Ace Data Cloud를 사용자 정의 OpenAI 호환 엔드포인트로 설정합니다(전체 필드 설명은 공식 Custom Endpoints 문서를 참조하고 {token}을 자신의 Token으로 교체):
docker-compose.yml의 api 서비스 아래에 해당 파일을 컨테이너에 마운트한 후 docker compose up -d로 시작합니다:
baseURL의 경로 규칙에 유의하세요:

모델 선택

모델 디렉토리는 지속적으로 업데이트됩니다. 클라이언트에서 자동으로 로드된 모델 목록을 우선 사용하고, 수동으로 입력해야 할 경우 GET https://api.acedata.cloud/v1/models를 요청하여 현재 모델 ID를 가져온 후 클라이언트가 지원하는 컨텍스트, 이미지 및 도구 호출 능력에 따라 선택합니다.

검증 연결

문제가 LibreChat에 있는지 네트워크에 있는지 확실하지 않은 경우 curl을 사용하여 엔드포인트를 직접 검증할 수 있습니다( {token}을 자신의 Token으로 교체):
OpenAI 호환의 chat.completion 객체가 반환되면 Token과 엔드포인트가 준비된 것입니다; 만약 HTTP 403 used_up이 반환되면 Token은 유효하지만 잔액이 부족하다는 의미로, 콘솔에서 충전하면 됩니다.

고급: yaml 구성 팁

librechat.yaml은 여러 엔드포인트 그룹을 지원하며, apiKey: "user_provided"를 사용하여 각 사용자가 자신의 Key를 입력하도록 할 수 있습니다; titleModel은 대화 제목 생성을 위한 모델을 지정합니다; dropParams는 대상 API가 지원하지 않는 매개변수를 일괄 삭제할 수 있습니다. 자세한 내용은 librechat.yaml 구성 상세 설명을 참조하세요.

자주 묻는 질문

시작 후 Ace Data Cloud 엔드포인트가 보이지 않음

대개 yaml이 컨테이너에 마운트되지 않았거나 들여쓰기가 잘못된 경우입니다. docker-compose.yml의 volumes를 확인하고 yaml 들여쓰기를 검증하세요.

404 오류

baseURL이 .../openai/v1로 잘못 작성되었거나 /v1이 누락되었습니다. https://api.acedata.cloud/v1로 수정하세요.

모델 드롭다운이 비어 있음

fetch: true이지만 /v1/models가 실패할 경우, fetch: false로 변경하고 default를 수동으로 나열하세요.

yaml 수정 후 적용되지 않음

컨테이너를 재시작해야 합니다: docker compose restart api.

더 알아보기