Skip to main content
LibreChat är en högt konfigurerbar öppen källkod AI-klient som kan beskrivas med librechat.yaml för tjänsteleverantörer, modeller och routingregler. Den stöder anpassade OpenAI-kompatibla slutpunkter, vilket gör att den kan ansluta till Ace Data Cloud. Denna artikel beskriver konfigurationsprocessen.

Ansökningsprocess

För att ansluta Ace Data Cloud i LibreChat, börja med att gå till Ace Data Cloud-konsolen för att hämta din API-token, som du ska spara för framtida bruk. Hämta Ace Data Cloud API-nyckel Om du inte har loggat in eller registrerat dig kommer du automatiskt att omdirigeras till inloggningssidan där du blir inbjuden att registrera dig och logga in. Efter att du har loggat in eller registrerat dig kommer du automatiskt att återvända till den aktuella sidan. Vid första ansökan kommer det att finnas en gratis kvot som gör att du kan prova Ace Data Clouds modellservice gratis.

Distribuera LibreChat

LibreChat distribueras via Docker Compose, börja med att förbereda en katalog och ladda ner den officiella konfigurationen:
I .env generera JWT_SECRET, JWT_REFRESH_SECRET, CREDS_KEY, CREDS_IV och andra säkerhetsnycklar med openssl rand -hex 32, och ställ in ALLOW_REGISTRATION efter behov.

Konfigurera Ace Data Cloud

Skapa librechat.yaml och ange Ace Data Cloud som en anpassad OpenAI-kompatibel slutpunkt (fullständig fältbeskrivning finns i den officiella Custom Endpoints-dokumentationen, byt ut {token} mot din token):
I docker-compose.yml under api-tjänsten, montera denna fil i containern och starta sedan med docker compose up -d:
Observera reglerna för baseURL-vägen:

Välj modell

Modellkatalogen kommer att uppdateras kontinuerligt. Använd först den modellista som automatiskt laddas av klienten; om du behöver fylla i manuellt, begär först GET https://api.acedata.cloud/v1/models för att hämta aktuella modell-ID:n, och välj sedan baserat på klientens stöd för kontext, bilder och verktygsanrop.

Verifiera integration

Om du är osäker på om problemet ligger i LibreChat eller nätverket kan du först använda curl för att direkt verifiera slutpunkten (byt ut {token} mot din token):
Om du får tillbaka ett OpenAI-kompatibelt chat.completion-objekt betyder det att token och slutpunkten är redo; om du får tillbaka HTTP 403 used_up betyder det att token är giltig men att saldot är otillräckligt, ladda på i konsolen.

Avancerat: yaml-konfigurationsknep

librechat.yaml stöder flera endpoint-grupper, du kan använda apiKey: "user_provided" så att varje användare kan fylla i sin egen nyckel; titleModel anger modellen som används för att generera dialogtitlar; dropParams kan användas för att enhetligt ta bort parametrar som målapiet inte stöder. Se librechat.yaml konfigurationsdetaljer för mer information.

Vanliga frågor

Ser inte Ace Data Cloud slutpunkten efter start

Det beror oftast på att yaml-filen inte har monterats i containern eller att indragningen är fel. Kontrollera docker-compose.yml-volymerna och verifiera yaml-indragningen.

Får 404

baseURL har skrivits som .../openai/v1 eller saknar /v1. Ändra till https://api.acedata.cloud/v1.

Modellens rullgardinsmeny är tom

fetch: true men /v1/models misslyckas, ändra till fetch: false och lista default manuellt.

Ändringar i yaml träder inte i kraft

Du måste starta om containern: docker compose restart api.

Lär dig mer