LLM Bastion Docs

Appearance

Guide de Migration 🚀 ​

Passer à LLM Bastion est conçu pour être extrêmement simple. Dans la plupart des cas, il suffit de changer une seule ligne de code dans vos applications existantes.

Migration depuis OpenAI ​

Si vous utilisez le SDK OpenAI officiel, il vous suffit de modifier le paramètre base_url lors de l'initialisation du client.

Python ​

python
from openai import OpenAI

client = OpenAI(
    api_key="lb_votre_virtual_key_bastion",
    base_url="https://api.llmbastion.fr/v1"
)

JavaScript / TypeScript ​

typescript
import OpenAI from "openai";

const client = new OpenAI({
  apiKey: "lb_votre_virtual_key_bastion",
  baseURL: "https://api.llmbastion.fr/v1",
});

Migration depuis Anthropic ​

Nous supportons nativement le format Anthropic via notre adaptateur dédié.

Python ​

python
from anthropic import Anthropic

client = Anthropic(
    api_key="lb_votre_virtual_key_bastion",
    base_url="https://api.llmbastion.fr/adapters/anthropic"
)

Migration via LiteLLM (Self-hosted) ​

Si vous utilisez LiteLLM comme proxy, vous pouvez intégrer Bastion comme un fournisseur OpenAI-compatible.

yaml
model_list:
  - model_name: bastion-gpt-4
    litellm_params:
      model: openai/gpt-4
      api_base: https://api.llmbastion.fr/v1
      api_key: lb_votre_virtual_key_bastion

Pourquoi migrer vers Bastion ? ​

  • Zéro Latence Supplémentaire : Notre architecture optimisée garantit un impact minimal sur vos temps de réponse.
  • Observabilité Native : Toutes vos requêtes sont automatiquement auditées et visibles dans le Gateway Pulse.
  • Security Guardrails : Profitez de la détection d'injections et du masquage PII sans changer votre logique métier.
  • Routage Intelligent : Basculez automatiquement vers le meilleur modèle selon la disponibilité et le coût.