Inferable

Was ist Inferable?

Inferable ist eine Open-Source-Plattform, die entwickelt wurde, um die Erstellung von KI-Agenten zu rationalisieren, sodass Entwickler ihre bestehenden Codebasen, APIs und Daten nahtlos integrieren können. Der Fokus liegt auf dem Aufbau zuverlässiger KI-Workflows, insbesondere solcher, die eine Human-in-the-Loop-Validierung erfordern.

Wie funktioniert Inferable?

Inferable bietet eine Reihe von produktionsbereiten LLM-Primitiven, die viele der Komplexitäten beim Aufbau von KI-Workflows bewältigen. Zu den wichtigsten Funktionen gehören:

• Workflow-Versionierung: Ermöglicht die Weiterentwicklung von langlaufenden Workflows im Laufe der Zeit auf abwärtskompatible Weise. Verschiedene Versionen desselben Workflows können definiert werden, wenn sich die Anforderungen ändern, um sicherzustellen, dass laufende Ausführungen weiterhin die ursprüngliche Version bis zum Abschluss verwenden.
• Verwalteter Zustand: Inferable verwaltet den gesamten Zustand, der für dauerhafte Workflows erforderlich ist, sodass Entwickler keine Datenbanken bereitstellen und verwalten müssen.
• Human-in-the-Loop: Erstellen Sie KI-Workflows, die für menschliche Eingaben für Minuten oder Tage pausieren und von dort fortsetzen, wo sie aufgehört haben.
• Observability (Beobachtbarkeit): Bietet End-to-End-Observability mit einer Entwicklerkonsole und der Möglichkeit, sich in bestehende Observability-Stacks einzuklinken.
• On-Premise Execution (Lokale Ausführung): Workflows werden auf der Infrastruktur des Benutzers ausgeführt, wodurch ein Deployment-Schritt entfällt.
• No Inbound Connections (Keine eingehenden Verbindungen): Verbesserte Sicherheit mit reinen Ausgehenden-Verbindungen, wodurch die Infrastruktur sicher bleibt, ohne eingehende Ports zu öffnen.
• Open Source: Inferable ist vollständig Open Source und bietet vollständige Transparenz und Kontrolle über die Codebasis.

Codebeispiel:

Die Plattform verwendet einen einfachen, codebasierten Ansatz:

import { Inferable } from "inferable";

const inferable = new Inferable({
  apiSecret: require("./cluster.json").apiKey,
});

const workflow = inferable.workflows.create({
  name: "customerDataProcessor",
  inputSchema: z.object({
    executionId: z.string(),
    customerId: z.string(),
  }),
});

// Initial version of the workflow
workflow.version(1).define(async (ctx, input) => {
  const customerData = await fetchCustomerData(input.customerId);
  
  // Process the data with a simple analysis
  const analysis = await ctx.llm.structured({
    input: JSON.stringify(customerData),
    schema: z.object({
      riskLevel: z.enum(["low", "medium", "high"]),
      summary: z.string(),
    }),
  });
  
  return { analysis };
});

// Enhanced version with more detailed analysis
workflow.version(2).define(async (ctx, input) => {
  const customerData = await fetchCustomerData(input.customerId);
  const transactionHistory = 
    await fetchTransactionHistory(input.customerId);
  
  // Process the data with more advanced analysis
  const analysis = await ctx.llm.structured({
    input: JSON.stringify({ customerData, transactionHistory }),
    schema: z.object({
      riskLevel: z.enum(["low", "medium", "high"]),
      summary: z.string(),
      recommendations: z.array(z.string()),
      factors: z.array(z.object({
        name: z.string(),
        impact: z.enum(["positive", "negative", "neutral"]),
        weight: z.number(),
      })),
    }),
  });
  
  return { 
    analysis,
    version: 2,
    processedAt: new Date().toISOString()
  };
});

Dieses Beispiel zeigt, wie ein Workflow zur Verarbeitung von Kundendaten mithilfe von LLM-basierter Analyse definiert und versioniert wird.

Warum Inferable wählen?

• Flexibilität: Funktioniert mit bestehenden Programmierprimitiven für den Kontrollfluss, ohne das Programmiermodell zu invertieren.
• Kontrolle: Volle Kontrolle über Daten und Rechenleistung durch Self-Hosting auf Ihrer eigenen Infrastruktur.
• Transparenz: Profitieren Sie von voller Transparenz und Kontrolle über die Codebasis aufgrund ihrer Open-Source-Natur.
• Enhanced Security (Verbesserte Sicherheit): Sichere Infrastruktur mit reinen Ausgehenden-Verbindungen.

Für wen ist Inferable?

Inferable ist ideal für Startups und Scale-ups, die zuverlässige KI-gestützte Workflows mit Human-in-the-Loop-Validierung erstellen möchten. Es ist besonders nützlich für diejenigen, die:

• Komplexe Prozesse mit KI automatisieren.
• Die Kontrolle über ihre Daten und Infrastruktur behalten.
• Die Einhaltung der Datenschutzbestimmungen sicherstellen.

Wie beginnt man am besten mit Inferable?

1. Dokumentation erkunden: Eine umfassende Dokumentation steht zur Verfügung, um Sie durch die Einrichtung und Nutzung zu führen.
2. Self-Hosting Guide (Anleitung für Self-Hosting): Bietet Anweisungen für die Bereitstellung von Inferable auf Ihrer eigenen Infrastruktur.
3. GitHub Repository: Zugriff auf die vollständige Open-Source-Codebasis.

Inferable bietet eine Möglichkeit zur Implementierung von KI-Workflows, die versioniert, dauerhaft und beobachtbar sind, mit dem zusätzlichen Vorteil der menschlichen Aufsicht, was es zu einem wertvollen Werkzeug für Unternehmen macht, die KI in ihren Betrieben nutzen möchten.