Inferable

Inferable이란 무엇인가요?

Inferable은 AI 에이전트 생성을 간소화하도록 설계된 오픈 소스 플랫폼으로, 개발자는 기존 코드베이스, API 및 데이터를 원활하게 통합할 수 있습니다. 특히 휴먼-인-더-루프 검증이 필요한 안정적인 AI 워크플로 구축에 중점을 둡니다.

Inferable은 어떻게 작동하나요?

Inferable은 AI 워크플로 구축과 관련된 많은 복잡성을 처리하는 프로덕션 환경에 적합한 LLM 기본 요소 세트를 제공합니다. 주요 기능은 다음과 같습니다.

• 워크플로 버전 관리: 장기 실행 워크플로를 시간이 지남에 따라 이전 버전과 호환되는 방식으로 진화시킬 수 있습니다. 요구 사항이 변경됨에 따라 동일한 워크플로의 여러 버전을 정의하여 진행 중인 실행이 완료될 때까지 원래 버전을 계속 사용하도록 할 수 있습니다.
• 관리형 상태: Inferable은 내구성이 뛰어난 워크플로에 필요한 모든 상태를 관리하므로 개발자가 데이터베이스를 프로비저닝하고 관리할 필요가 없습니다.
• 휴먼-인-더-루프: 몇 분 또는 며칠 동안 사람의 입력을 위해 일시 중지하고 중단된 위치에서 다시 시작하는 AI 워크플로를 구축합니다.
• 관찰 가능성: 개발자 콘솔과 기존 관찰 가능성 스택에 연결하는 기능을 통해 엔드 투 엔드 관찰 가능성을 제공합니다.
• 온프레미스 실행: 워크플로는 사용자 인프라에서 실행되므로 배포 단계가 필요하지 않습니다.
• 인바운드 연결 없음: 아웃바운드 전용 연결로 보안을 강화하여 인바운드 포트를 열지 않고도 인프라를 안전하게 유지합니다.
• 오픈 소스: Inferable은 완전한 오픈 소스이므로 코드베이스에 대한 완전한 투명성과 제어 기능을 제공합니다.

코드 예시:

이 플랫폼은 간단한 코드 중심 접근 방식을 사용합니다.

import { Inferable } from "inferable";

const inferable = new Inferable({
  apiSecret: require("./cluster.json").apiKey,
});

const workflow = inferable.workflows.create({
  name: "customerDataProcessor",
  inputSchema: z.object({
    executionId: z.string(),
    customerId: z.string(),
  }),
});

// Initial version of the workflow
workflow.version(1).define(async (ctx, input) => {
  const customerData = await fetchCustomerData(input.customerId);
  
  // Process the data with a simple analysis
  const analysis = await ctx.llm.structured({
    input: JSON.stringify(customerData),
    schema: z.object({
      riskLevel: z.enum(["low", "medium", "high"]),
      summary: z.string(),
    }),
  });
  
  return { analysis };
});

// Enhanced version with more detailed analysis
workflow.version(2).define(async (ctx, input) => {
  const customerData = await fetchCustomerData(input.customerId);
  const transactionHistory = 
    await fetchTransactionHistory(input.customerId);
  
  // Process the data with more advanced analysis
  const analysis = await ctx.llm.structured({
    input: JSON.stringify({ customerData, transactionHistory }),
    schema: z.object({
      riskLevel: z.enum(["low", "medium", "high"]),
      summary: z.string(),
      recommendations: z.array(z.string()),
      factors: z.array(z.object({
        name: z.string(),
        impact: z.enum(["positive", "negative", "neutral"]),
        weight: z.number(),
      })),
    }),
  });
  
  return { 
    analysis,
    version: 2,
    processedAt: new Date().toISOString()
  };
});

이 예제에서는 LLM 기반 분석을 사용하여 고객 데이터를 처리하기 위한 워크플로를 정의하고 버전 관리하는 방법을 보여줍니다.

Inferable을 선택해야 하는 이유는 무엇인가요?

• 유연성: 프로그래밍 모델을 반전시키지 않고 제어 흐름을 위해 기존 프로그래밍 기본 요소와 함께 작동합니다.
• 제어: 자체 인프라에서 자체 호스팅하여 데이터 및 컴퓨팅을 완벽하게 제어할 수 있습니다.
• 투명성: 오픈 소스 특성으로 인해 코드베이스에 대한 완전한 투명성과 제어 기능을 활용할 수 있습니다.
• 향상된 보안: 아웃바운드 전용 연결을 통한 안전한 인프라입니다.

Inferable은 누구를 위한 것인가요?

Inferable은 휴먼-인-더-루프 검증을 통해 안정적인 AI 기반 워크플로를 구축하려는 스타트업 및 스케일업에 이상적입니다. 특히 다음이 필요한 사람들에게 유용합니다.

• AI를 사용하여 복잡한 프로세스를 자동화합니다.
• 데이터 및 인프라에 대한 제어를 유지합니다.
• 데이터 개인 정보 보호 규정을 준수하는지 확인합니다.

Inferable을 시작하는 가장 좋은 방법은 무엇인가요?

1. 설명서 탐색: 설정 및 사용법을 안내하는 포괄적인 설명서를 사용할 수 있습니다.
2. 자체 호스팅 가이드: 자체 인프라에 Inferable을 배포하기 위한 지침을 제공합니다.
3. GitHub 리포지토리: 완전한 오픈 소스 코드베이스에 액세스합니다.

Inferable은 버전 관리, 내구성 및 관찰 가능성을 갖춘 AI 워크플로를 구현하는 방법을 제공하며 인적 감독이라는 추가적인 이점을 통해 운영에서 AI를 활용하려는 회사에 귀중한 도구가 됩니다.