Utiliser les services d'inférence d'ILaaS

Intégrez ILaaS facilement dans vos applications existantes

Si vous utilisez un logiciel exploitant l’IA générative et qu’il permet de choisir l’URL du serveur d’IA, vous pouvez substituer les services d’OpenAI par les services d’ILaaS est très simplement.

Il vous faudra pour cela obtenir du consortium une clé d’API pour vous authentifier sur le service d’inférence d’ILaaS.

Concrètement, il suffit de:

  1. demander une clé d’API ILaaS en tant que consommateur d’inférence,
  2. paramétrer l’URL d’accès au service avec l’URL qui vous sera fournie,
  3. saisir la clé d’API ILaaS dans l’interface de configuration.

Exemple de configuration de l’URL du serveur d’IA générative et de la clé d’API dans un programme (ici OpenWebUI)

Intégrez ILaaS dans vos nouvelles applications

Il est aussi possible de développer vos propres services utilisant ILaaS.  En effet  ILaaS propose une interface de programmation (API) compatible avec  celle d‘OpenAI.  Actuellement les endpoints d’API suivants sont implémentés :

  • /models : pour obtenir la liste des modèles de langage mis à disposition par les partenaires d’ILaaS
  • /chat/completions : pour générer une réponse en envoyant une liste des messages précédents
Retour en haut