Skip to content

Gateway Pulse 💓 ​

Gateway Pulse est votre fenêtre sur l'activité en temps réel de votre infrastructure IA. C'est ici que vous pouvez voir battre le cœur de votre système.

Pourquoi surveiller le Pulse ? ​

L'IA générative est imprévisible. Les fournisseurs subissent des vagues de trafic, des pannes partielles ou des dégradations de performance. Le Pulse vous permet de :

  1. Visualiser le Trafic : Suivez le nombre de requêtes par seconde (RPS) en temps réel.
  2. Surveiller la Latence : Détectez immédiatement si un fournisseur commence à ralentir.
  3. Vérifier la Sécurité : Voyez d'un coup d'œil si vos Guardrails bloquent des requêtes suspectes ou des fuites de données.
  4. Santé des Fournisseurs : Un aperçu instantané de l'état de santé (Online/Degraded/Offline) de chaque modèle et fournisseur configuré.

Métriques Clés ​

MétriqueDescription
RPSRequêtes par seconde traitées par le gateway.
LatenceTemps de réponse moyen (Round-trip time) vers les fournisseurs.
Guardrail HitsNombre de requêtes ayant déclenché une règle de sécurité.
UptimeDisponibilité continue de votre instance Bastion.

Santé des Fournisseurs ​

Le Bastion interroge continuellement les fournisseurs (OpenAI, Anthropic, etc.) pour s'assurer qu'ils répondent correctement. Si un fournisseur est détecté comme "Degraded", le Bastion peut automatiquement rediriger le trafic vers un autre fournisseur plus performant selon votre configuration de Failover.


TIP

Vous pouvez accéder au Gateway Pulse directement depuis le menu latéral de votre Console.

NOTE

Les données du Pulse sont volatiles et reflètent l'activité instantanée. Pour une analyse historique, consultez le Registre d'Audit.