FreeLLMAPI : 16 fournisseurs LLM gratuits, un seul endpoint

FreeLLMAPI est un proxy open-source compatible OpenAI qui empile les offres gratuites de 16 fournisseurs de modèles de langage — environ 1,7 milliard de tokens gratuits par mois — derrière un seul point d'entrée /v1. Concrètement, au lieu de gérer une clé d'API différente par fournisseur, tu obtiens une seule adresse compatible OpenAI qui donne accès à 161 modèles issus de Google, Groq, Cerebras, NVIDIA, Mistral, OpenRouter, GitHub Models, Cohere, Cloudflare, HuggingFace et d'autres. Le proxy gère un routage intelligent, une bascule automatique si un fournisseur tombe, et chiffre tes clés (AES-256-GCM) avant de les stocker localement en SQLite. Comme il parle le protocole OpenAI, il fonctionne avec les SDK officiels et n'importe quel client compatible (LangChain, LlamaIndex, Continue, etc.). Point important et assumé par son créateur : le projet est pensé pour l'expérimentation et le prototypage personnels, pas pour la production. Les offres gratuites servent à tester ; elles ne sont pas un socle d'inférence stable pour un produit en ligne.

Quel problème FreeLLMAPI résout-il ?

Quand tu testes des idées IA, tu accumules vite une dizaine de clés d'API chez autant de fournisseurs, chacune avec ses quotas et son format. FreeLLMAPI regroupe tout ça derrière une seule adresse : tu poses ta configuration une fois, et ton code tape dans un pool commun, sans jongler avec les clés ni surveiller les limites de chacun.

Comment ça marche techniquement ?

Tu exposes un endpoint compatible OpenAI. Un appel POST /v1/chat/completions ou GET /v1/models fonctionne comme avec l'API OpenAI officielle, mais le proxy répartit les requêtes entre les fournisseurs gratuits configurés et bascule automatiquement en cas de panne.

curl http://localhost:PORT/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"...","messages":[{"role":"user","content":"Bonjour"}]}'

Quelles sont les limites ?

Le créateur est explicite : c'est pour prototyper et apprendre, pas pour la production. Les tiers gratuits ne garantissent ni stabilité ni support. Si tu construis un vrai produit, remplace FreeLLMAPI par une API payante avant de mettre en ligne.

FAQ

FreeLLMAPI est-il vraiment gratuit ?

Oui : il agrège les tiers gratuits de 16 fournisseurs, soit environ 1,7 milliard de tokens par mois et 161 modèles, sans coût direct.

Mes clés d'API sont-elles en sécurité ?

Les clés sont chiffrées en AES-256-GCM avant d'être stockées en SQLite, et déchiffrées en mémoire juste avant chaque requête. Garde tout de même ces clés hors de tout code publié.

Puis-je l'utiliser en production ?

Non, ce n'est pas recommandé. Le projet est destiné à l'expérimentation personnelle. Pour un produit réel, bascule sur une API payante et supportée avant de lancer.