API Mistral AI: Rychlý start

Základní URL a ověření

Prvním krokem je konfigurace vašeho klienta tak, aby ukazoval na naši infrastrukturu. Nahraďte standardní základní URL OpenAI za HTTPS://api.apimistralai.com/v1 a vložte svůj jedinečný API klíč do hlavičky autorizace. Toto jednoduché přepnutí přesměruje všechny požadavky na náš uncensored model, aniž by došlo ke změně stávající logiky integrace.

• Základní URL: HTTPS://api.apimistralai.com/v1
• Ověření: Bearer token přes Authorization hlavička

Ujistěte se, že je váš klíč aktivní v dashboardu účtu před testováním připojení.

První požadavek

Odešlete standardní požadavek na dokončení chatu pro ověření připojení a odezvy modelu. Následující curl příkaz cílí na uncensored model s základním podnětem.

Toto potvrzuje, že koncový bod je dosažitelný a vrací text bez standardních filtrů obsahu.

Copycurl https://api.apimistralai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix syntax error in python list comprehension"}]
  }'

Pokud odpověď obsahuje text, vaše integrace je úspěšně směrována přes naši vrstvu inferencí bez omezení.

Integrace Python SDK

Použijte oficiální knihovnu OpenAI pro Python pro interakci s naším API bez úpravy základní struktury požadavku. Inicializujte klienta s novou základní URL a svým API klíčem, poté zavolejte chat.completions.create.

Tento přístup vám umožňuje zachovat veškerou stávající logiku Pythonu a zároveň získat přístup k možnostem modelu uncensored.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apimistralai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Objekt odpovědi se chová identicky jako standardní odpovědi OpenAI, což činí migraci bezproblémovou pro vývojáře v Pythonu.

Integrace SDK pro Node

Pro prostředí JavaScriptu nebo TypeScriptu inicializujte balíček OpenAI s vlastní base URL. Nastavte apiKey a baseURL vlastnosti před voláním chat.completions.create.

To zajišťuje, že aplikace Node.js směrují požadavky na náš endpoint bez zábran, přičemž zachovávají kompatibilitu se vzory standardních SDK.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apimistralai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Struktura odpovědi zůstává konzistentní se standardy OpenAI, což umožňuje snadnou integraci do existujících pracovních postupů Node.js.

Streamované odpovědi přes SSE

Povolte generování tokenů v reálném čatu nastavením stream: true ve vaší žádosti. API vrací stream Server-Sent Events (SSE), což vám umožňuje zpracovávat tokeny, jak jsou generovány.

Toto snižuje vnímanou latenci pro uživatele a poskytuje okamžitou zpětnou vazbu během dlouhých dokončení.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Parsovejte datový proud SSE pro zobrazení tokenů inkrementálně. Poslední část obsahuje celkové využití tokenů pro požadavek.

Limity, chyby a kontext

Sledujte své využití vzhledem k přísným limitům rychlosti a ošetřujte běžné HTTP chyby elegantně. Je vám povoleno 300 požadavků za minutu a 8 souběžných požadavků na klíč.

Chyba 401 znamená neplatný nebo chybějící API klíč, zatímco chyba 402 znamená, že je vyčerpán váš předplacený kredit. Stav 429 signalizuje, že jste překročili limit 300 požadavků za minutu.

Váš kontextový okno podporuje 100 000 tokenů celkem, s maximálním výstupem 16 000 tokenů na požadavek. Chyby a odmítnutí nespotřebovávají kredit, což zajišťuje, že platíte pouze za skutečně vygenerovaný obsah.