Mercury

Mercury: 확산 LLM으로 AI 혁신

Mercury란 무엇입니까? Inception에서 개발한 Mercury는 확산 기술을 활용하여 대규모 언어 모델(LLM)의 새로운 시대를 열었습니다. 이러한 확산 LLM(dLLM)은 기존의 자동 회귀 LLM에 비해 속도, 효율성, 정확성 및 제어 가능성 면에서 상당한 이점을 제공합니다.

Mercury는 어떻게 작동합니까?

Mercury의 dLLM은 텍스트를 토큰 단위로 순차적으로 생성하는 기존 LLM과 달리 토큰을 병렬로 생성합니다. 이 병렬 처리 방식은 속도를 획기적으로 높이고 GPU 효율성을 최적화하여 실시간 AI 애플리케이션에 이상적입니다.

주요 기능 및 이점:

• 번개처럼 빠른 추론: 매우 낮은 대기 시간을 경험하여 응답성이 뛰어난 AI 상호 작용을 가능하게 합니다.
• 최첨단 품질: 높은 정확도와 제어 가능한 텍스트 생성을 활용합니다.
• 비용 효율적: GPU 효율성을 극대화하여 운영 비용을 절감합니다.
• OpenAI API 호환: 기존 LLM을 대체하여 Mercury를 기존 워크플로에 원활하게 통합합니다.
• 큰 컨텍스트 창: Mercury Coder와 Mercury 모두 128K 컨텍스트 창을 지원합니다.

Mercury 기반 AI 애플리케이션:

Mercury의 속도와 효율성은 광범위한 AI 애플리케이션을 가능하게 합니다.

• 코딩: 매우 빠른 자동 완성, 탭 제안 및 편집으로 코딩 워크플로를 가속화합니다.
• 음성: 고객 서비스, 번역 및 영업에서 응답성이 뛰어난 음성 경험을 제공합니다.
• 검색: 모든 지식 기반에서 관련 데이터를 즉시 검색하여 연구 시간을 최소화합니다.
• 에이전트: 낮은 대기 시간을 유지하면서 복잡한 다중 턴 시스템을 실행합니다.

Mercury 모델:

• Mercury Coder: 코딩 워크플로에 최적화되어 스트리밍, 도구 사용 및 구조화된 출력을 지원합니다. 가격: 입력 $0.25 | 출력 $1/1백만 토큰.
• Mercury: 매우 낮은 대기 시간을 제공하는 범용 dLLM으로, 스트리밍, 도구 사용 및 구조화된 출력도 지원합니다. 가격: 입력 $0.25 | 출력 $1/1백만 토큰.

왜 Mercury를 선택해야 할까요?

업계 전문가의 평가는 Mercury의 뛰어난 속도와 영향을 강조합니다.

• Jacob Kim, 소프트웨어 엔지니어: "그 속도에 놀랐습니다. 초당 수천 개의 토큰은 정말 미친 짓이었고, 전에 본 적이 없습니다."
• Oliver Silverstein, CEO: "Mercury를 사용해 본 후에는 이전으로 돌아가기 어렵습니다. Mercury를 출시하여 모든 음성 에이전트를 지원하게 되어 기쁩니다."
• Damian Tran, CEO: "복잡한 에이전트 추적에서도 라우팅 및 분류 오버헤드를 1초 미만의 대기 시간으로 줄였습니다."

Mercury는 누구를 위한 것입니까?

Mercury는 다음을 원하는 기업을 위해 설계되었습니다.

• AI 애플리케이션 성능을 향상시킵니다.
• AI 인프라 비용을 절감합니다.
• 최첨단 AI 기술로 경쟁 우위를 확보합니다.

Mercury 통합 방법:

Mercury는 AWS Bedrock 및 Azure Foundry와 같은 주요 클라우드 공급자를 통해 사용할 수 있습니다. 또한 OpenRouter 및 Quora와 같은 플랫폼을 통해서도 액세스할 수 있습니다. API부터 시작할 수 있습니다.

미세 조정, 개인 배포 및 전방 배포 엔지니어링 지원에 대해 알아보려면 Inception에 문의하십시오.

Mercury는 AI에 대한 혁신적인 접근 방식을 제공하여 광범위한 애플리케이션에서 더 빠르고 효율적이며 접근성을 높입니다. 지금 Mercury API를 사용해 보고 차세대 AI를 경험해 보십시오.