Guide d'intégration · Framework RAG (Python)
LlamaIndex sur des modèles ouverts hébergés en UE
Construisez des pipelines RAG et des agents LlamaIndex sur des modèles ouverts hébergés en UE avec OpenAILike et OpenAILikeEmbedding pointés sur Frontière AI. OpenAILike(model, api_base, api_key, …) de llama-index-llms-openai-like.
Testé le 13 octobre 2026. complete(), un appel d'outil (avec allow_parallel_tool_calls=True) et des embeddings bge-m3 contre la passerelle, avec llama-index-llms-openai-like 0.8.1 et gpt-oss-120b chez OVHcloud (bge-m3 est en pause depuis le 20 octobre 2026 ; l'exemple utilise désormais qwen3-embedding-8b).
- Format d'API
- Compatible OpenAI
- Base URL
- https://getfrontiereai.eu/api/v1
- Où se règle
- OpenAILike(model, api_base, api_key, …) de llama-index-llms-openai-like.
- Vos prompts
- Directement de votre machine vers nous
Configuration
1.LLM et embeddings
Deux réglages par défaut piègent : is_chat_model vaut False (LlamaIndex appelle alors l'ancien endpoint de complétion, que Frontière AI ne sert pas) et context_window vaut 3 900 tokens. Réglez les deux, et is_function_calling_model pour les agents.
# pip install llama-index-llms-openai-like llama-index-embeddings-openai-like
from llama_index.llms.openai_like import OpenAILike
from llama_index.embeddings.openai_like import OpenAILikeEmbedding
llm = OpenAILike(
model="glm-5.2",
api_base="https://getfrontiereai.eu/api/v1",
api_key="sk-front-...",
context_window=256000,
is_chat_model=True,
is_function_calling_model=True,
)
embed_model = OpenAILikeEmbedding(
model_name="qwen3-embedding-8b",
api_base="https://getfrontiereai.eu/api/v1",
api_key="sk-front-...",
)Quel modèle choisir
24 modèles en ligne ont un appel d'outils mesuré par un vrai appel via la passerelle. Les modèles étiquetés souverain UE tournent chez des fournisseurs européens ; les modèles en accès rapide passent par une infrastructure sous contrôle américain. Prix pour 100 000 tokens, marge et TVA comprises.
| Identifiant | Fournisseur | Étiquette | Contexte | Entrée | Sortie |
|---|---|---|---|---|---|
| pixtral-12b | Scaleway | Souverain UE | 131k | 0,0336 € | 0,0336 € |
| mistral-small-3.2-24b | Scaleway | Souverain UE | — | 0,0252 € | 0,0588 € |
| gemma-4-26b | AKI.IO | Souverain UE | 256k | 0,0168 € | 0,084 € |
| gpt-oss-120b | Scaleway | Souverain UE | — | 0,0252 € | 0,1008 € |
| mistral-small-4-119b | Mistral AI | Souverain UE | 262k | 0,0278 € | 0,1109 € |
| deepseek-v4-flash-0731 | Scaleway | Souverain UE | 256k | 0,0672 € | 0,1344 € |
| qwen3-coder-30b | Scaleway | Souverain UE | 262k | 0,0336 € | 0,1344 € |
| llama-3.3-70b | Scaleway | Souverain UE | — | 0,1512 € | 0,1512 € |
| qwen3.6-35b | Scaleway | Souverain UE | 262k | 0,042 € | 0,252 € |
| deepseek-v4.1-flash | AKI.IO | Souverain UE | 1M | 0,1008 € | 0,3024 € |
| qwen3-235b | Scaleway | Souverain UE | — | 0,126 € | 0,378 € |
| apertus-v1.5-70b | Infomaniak | Souverain UE | 100k | 0,1294 € | 0,462 € |
| qwen3.8-27b | Scaleway | Souverain UE | 262k | 0,1008 € | 0,5544 € |
| qwen3.5-397b | Scaleway | Souverain UE | — | 0,1008 € | 0,6048 € |
| mistral-large-4 | Mistral AI | Souverain UE | 524k | 0,2514 € | 0,7725 € |
| glm-5.2 | Scaleway | Souverain UE | 256k | 0,3024 € | 0,924 € |
| glm-5.3 | AKI.IO | Souverain UE | 524k | 0,3024 € | 0,924 € |
| gemma-3-27b | OpenRouter | Accès rapide (US) | 131k | 0,0135 € | 0,074 € |
| qwen3.8-flash | OpenRouter | Accès rapide (US) | — | 0,0252 € | 0,0773 € |
| glm-5.3-flash | Modal | Accès rapide (US) | 1M | 0,0689 € | 0,2268 € |
| deepseek-v4-pro | OpenRouter | Accès rapide (US) | — | 0,2453 € | 0,5124 € |
| muse-spark-1.1 | OpenRouter | Accès rapide (US) | — | 0,205 € | 0,6956 € |
| muse-spark-1.2 | OpenRouter | Accès rapide (US) | — | 0,205 € | 0,6956 € |
| kimi-k3 | Modal | Accès rapide (US) | 1M | 0,4536 € | 2,268 € |
À savoir
- Une instance OpenAILike par modèle ; la classe d'embeddings prend model_name, pas model.
- Passez allow_parallel_tool_calls=True à chat_with_tools et aux agents : sinon LlamaIndex envoie parallel_tool_calls=false, que les modèles hébergés chez OVHcloud refusent en HTTP 400 (mesuré le 2026-10-13).
- Ne réglez is_function_calling_model=True que sur des modèles à l'appel d'outils mesuré.
Où vont vos prompts
La bibliothèque tourne dans votre processus Python et appelle directement api_base ; rien dans OpenAILike ne passe par LlamaCloud.
De notre côté, un modèle étiqueté souverain UE tourne chez un fournisseur européen, et la passerelle elle-même tourne à Paris sur Vercel, société américaine — notre page de confidentialité le dit. La facturation garde le modèle, le nombre de tokens et le montant, jamais le prompt ni la réponse.
Souveraineté →Confidentialité →
Sources
Documentation officielle, relevée le 12 octobre 2026 :
FAQ
LlamaIndex fonctionne-t-il avec Frontière AI ?
Oui. OpenAILike(model, api_base, api_key, …) de llama-index-llms-openai-like. Nous l'avons fait tourner : complete(), un appel d'outil (avec allow_parallel_tool_calls=True) et des embeddings bge-m3 contre la passerelle, avec llama-index-llms-openai-like 0.8.1 et gpt-oss-120b chez OVHcloud (bge-m3 est en pause depuis le 20 octobre 2026 ; l'exemple utilise désormais qwen3-embedding-8b).
Quel modèle Frontière AI choisir avec LlamaIndex ?
Un modèle à l'appel d'outils mesuré, de préférence étiqueté souverain UE : pixtral-12b, mistral-small-3.2-24b, gemma-4-26b et gpt-oss-120b. Les 24 candidats sont listés sur cette page avec leur fenêtre de contexte et leur prix.
Mes prompts restent-ils en Europe avec LlamaIndex ?
La bibliothèque tourne dans votre processus Python et appelle directement api_base ; rien dans OpenAILike ne passe par LlamaCloud. De notre côté, un modèle étiqueté souverain UE tourne chez un fournisseur européen, et la passerelle elle-même tourne à Paris sur Vercel, société américaine — notre page de confidentialité le dit. La facturation garde le modèle, le nombre de tokens et le montant, jamais le prompt ni la réponse.
Autres guides
Prenez une clé et essayez
Crédit prépayé dès 10 €, sans abonnement. La clé fonctionne avec tous les guides du site.
Créer une clé API