Inferable

Qu'est-ce qu'Inferable ?

Inferable est une plateforme open source conçue pour rationaliser la création d'agents d'IA, permettant aux développeurs d'intégrer de manière transparente leurs bases de code, APIs et données existantes. Elle se concentre sur la construction de flux de travail d'IA fiables, en particulier ceux nécessitant une validation humaine dans la boucle.

Comment fonctionne Inferable ?

Inferable fournit un ensemble de primitives LLM prêtes à la production qui gèrent de nombreuses complexités liées à la construction de flux de travail d'IA. Les principales caractéristiques comprennent :

• Gestion des versions des flux de travail: Permet de faire évoluer les flux de travail de longue durée au fil du temps d'une manière rétrocompatible. Différentes versions du même flux de travail peuvent être définies à mesure que les exigences changent, garantissant que les exécutions en cours continuent d'utiliser la version d'origine jusqu'à leur achèvement.
• État géré: Inferable gère tout l'état requis pour les flux de travail durables, éliminant ainsi le besoin pour les développeurs de provisionner et de gérer des bases de données.
• Humain dans la boucle: Créez des flux de travail d'IA qui se mettent en pause pour une saisie humaine pendant quelques minutes ou quelques jours, et reprennent là où ils se sont arrêtés.
• Observabilité: Offre une observabilité de bout en bout avec une console de développement et la possibilité de se connecter aux piles d'observabilité existantes.
• Exécution sur site: Les flux de travail s'exécutent sur l'infrastructure de l'utilisateur, ce qui élimine le besoin d'une étape de déploiement.
• Aucune connexion entrante: Sécurité renforcée grâce à des connexions sortantes uniquement, garantissant que l'infrastructure reste sécurisée sans ouvrir de ports entrants.
• Open Source: Inferable est entièrement open source, offrant une transparence totale et un contrôle sur le code.

Exemple de code:

La plateforme utilise une approche simple, axée sur le code :

import { Inferable } from "inferable";

const inferable = new Inferable({
  apiSecret: require("./cluster.json").apiKey,
});

const workflow = inferable.workflows.create({
  name: "customerDataProcessor",
  inputSchema: z.object({
    executionId: z.string(),
    customerId: z.string(),
  }),
});

// Version initiale du flux de travail
workflow.version(1).define(async (ctx, input) => {
  const customerData = await fetchCustomerData(input.customerId);
  
  // Traiter les données avec une analyse simple
  const analysis = await ctx.llm.structured({
    input: JSON.stringify(customerData),
    schema: z.object({
      riskLevel: z.enum(["low", "medium", "high"]),
      summary: z.string(),
    }),
  });
  
  return { analysis };
});

// Version améliorée avec une analyse plus détaillée
workflow.version(2).define(async (ctx, input) => {
  const customerData = await fetchCustomerData(input.customerId);
  const transactionHistory = 
    await fetchTransactionHistory(input.customerId);
  
  // Traiter les données avec une analyse plus avancée
  const analysis = await ctx.llm.structured({
    input: JSON.stringify({ customerData, transactionHistory }),
    schema: z.object({
      riskLevel: z.enum(["low", "medium", "high"]),
      summary: z.string(),
      recommendations: z.array(z.string()),
      factors: z.array(z.object({
        name: z.string(),
        impact: z.enum(["positive", "negative", "neutral"]),
        weight: z.number(),
      })),
    }),
  });
  
  return { 
    analysis,
    version: 2,
    processedAt: new Date().toISOString()
  };
});

Cet exemple montre comment définir et versionner un flux de travail pour le traitement des données client à l'aide d'une analyse basée sur LLM.

Pourquoi choisir Inferable ?

• Flexibilité: Fonctionne avec les primitives de programmation existantes pour le flux de contrôle, sans inverser le modèle de programmation.
• Contrôle: Contrôle total sur les données et le calcul en auto-hébergeant sur votre propre infrastructure.
• Transparence: Bénéficiez d'une transparence totale et d'un contrôle sur le code en raison de sa nature open source.
• Sécurité renforcée: Infrastructure sécurisée avec des connexions sortantes uniquement.

À qui s'adresse Inferable ?

Inferable est idéal pour les startups et les scale-ups qui cherchent à construire des flux de travail fiables basés sur l'IA avec une validation humaine dans la boucle. Il est particulièrement utile pour ceux qui ont besoin de :

• Automatiser des processus complexes avec l'IA.
• Maintenir le contrôle sur leurs données et leur infrastructure.
• Assurer la conformité aux réglementations en matière de confidentialité des données.

Quelle est la meilleure façon de commencer avec Inferable ?

1. Explorer la documentation: Une documentation complète est disponible pour vous guider à travers la configuration et l'utilisation.
2. Guide d'auto-hébergement: Fournit des instructions pour déployer Inferable sur votre propre infrastructure.
3. Dépôt GitHub: Accédez au code source open source complet.

Inferable offre un moyen de mettre en œuvre des flux de travail d'IA qui sont versionnés, durables et observables, avec l'avantage supplémentaire de la supervision humaine, ce qui en fait un outil précieux pour les entreprises qui cherchent à tirer parti de l'IA dans leurs opérations.