Fournisseurs LLM
Dans cette section, nous allons voir comment ajouter une configuration de LLM
OpenAI and Gemini
Pour ajouter une configuration LLM cloud, cliquer sur "+ Ajouter" puis entrez un nom, selectionnez un fournisseur et entrez votre clef d'API.
Ollama
Pour les LLM locaux tel que Ollama ou vLLM, il vous faudra fournir au minimum une URL sur laquelle envoyer les requetes.
WARNING
⚠️ Il est fortement conseille de securiser l'access aux endpoints HTTP de votre LLM afin d'eviter les utilisations non voulus de celui-ci par des acteurs externes.
La configuration permet d'ajouter un token d'authentication sous n'importe quel format. Ce token, si present est envoye dans un header "Authorization" lors des requetes http au LLM.
Voila, votre configuration est maintenant cree et vous pouvez l'utiliser pour parametrer votre agent.