Inferable

什么是 Inferable？

Inferable 是一个开源平台，旨在简化 AI 代理的创建，使开发人员能够无缝集成他们现有的代码库、API 和数据。它专注于构建可靠的 AI 工作流程，特别是那些需要人工参与验证的工作流程。

Inferable 如何工作？

Inferable 提供了一组生产就绪的 LLM 原语，可以处理构建 AI 工作流程中涉及的许多复杂性。主要功能包括：

• 工作流程版本控制： 能够以向后兼容的方式随着时间的推移发展长期运行的工作流程。可以根据需求变化定义同一工作流程的不同版本，确保正在进行的执行继续使用原始版本直到完成。
• 托管状态： Inferable 管理持久性工作流程所需的所有状态，从而无需开发人员配置和管理数据库。
• 人工参与： 构建 AI 工作流程，暂停以等待人工输入几分钟或几天，然后从中断的地方继续。
• 可观察性： 提供端到端的可观察性，包括开发者控制台以及插入现有可观察性堆栈的能力。
• 本地执行： 工作流程在用户的基础设施上运行，无需部署步骤。
• 无入站连接： 通过仅出站连接增强安全性，确保基础设施保持安全，而无需打开入站端口。
• 开源： Inferable 是完全开源的，提供对代码库的完全透明和控制。

代码示例：

该平台使用一种简单的、代码驱动的方法：

import { Inferable } from "inferable";

const inferable = new Inferable({
  apiSecret: require("./cluster.json").apiKey,
});

const workflow = inferable.workflows.create({
  name: "customerDataProcessor",
  inputSchema: z.object({
    executionId: z.string(),
    customerId: z.string(),
  }),
});

// Initial version of the workflow
workflow.version(1).define(async (ctx, input) => {
  const customerData = await fetchCustomerData(input.customerId);
  
  // Process the data with a simple analysis
  const analysis = await ctx.llm.structured({
    input: JSON.stringify(customerData),
    schema: z.object({
      riskLevel: z.enum(["low", "medium", "high"]),
      summary: z.string(),
    }),
  });
  
  return { analysis };
});

// Enhanced version with more detailed analysis
workflow.version(2).define(async (ctx, input) => {
  const customerData = await fetchCustomerData(input.customerId);
  const transactionHistory = 
    await fetchTransactionHistory(input.customerId);
  
  // Process the data with more advanced analysis
  const analysis = await ctx.llm.structured({
    input: JSON.stringify({ customerData, transactionHistory }),
    schema: z.object({
      riskLevel: z.enum(["low", "medium", "high"]),
      summary: z.string(),
      recommendations: z.array(z.string()),
      factors: z.array(z.object({
        name: z.string(),
        impact: z.enum(["positive", "negative", "neutral"]),
        weight: z.number(),
      })),
    }),
  });
  
  return { 
    analysis,
    version: 2,
    processedAt: new Date().toISOString()
  };
});

此示例演示了如何定义和版本化使用基于 LLM 的分析来处理客户数据的工作流程。

为什么选择 Inferable？

• 灵活性： 与现有的控制流编程原语一起使用，而无需反转编程模型。
• 控制： 通过在您自己的基础设施上进行自托管，完全控制数据和计算。
• 透明性： 由于其开源性质，可从对代码库的完全透明性和控制中受益。
• 增强的安全性： 具有仅出站连接的安全基础设施。

Inferable 适合谁？

Inferable 非常适合希望构建具有人工参与验证的可靠的 AI 驱动的工作流程的初创公司和规模化公司。它对于那些需要以下需求的人特别有用：

• 使用 AI 自动化复杂流程。
• 保持对其数据和基础设施的控制。
• 确保符合数据隐私法规。

开始使用 Inferable 的最佳方式是什么？

1. 浏览文档： 提供全面的文档来指导您完成设置和使用。
2. 自托管指南： 提供在您自己的基础设施上部署 Inferable 的说明。
3. GitHub 仓库： 访问完整的开源代码库。

Inferable 提供了一种实现版本化、持久且可观察的 AI 工作流程的方法，并且具有人工监督的额外优势，使其成为希望在其运营中利用 AI 的公司的宝贵工具。