Mercury

Mercury：利用扩散LLM彻底改变AI

什么是Mercury？Mercury 由 Inception 开发，通过利用扩散技术，代表了大型语言模型 (LLM) 的新纪元。与传统的自回归 LLM 相比，这些扩散 LLM (dLLM) 在速度、效率、准确性和可控性方面具有显著优势。

Mercury 如何工作？

与一次生成一个token的传统 LLM 不同，Mercury 的 dLLM 并行生成 token。这种并行处理显著提高了速度并优化了 GPU 效率，使其成为实时 AI 应用的理想选择。

主要特性和优势：

• 闪电般的快速推理： 体验超低延迟，实现响应迅速的 AI 交互。
• 前沿质量： 受益于高精度和可控的文本生成。
• 经济高效： 通过最大化 GPU 效率来降低运营成本。
• OpenAI API 兼容： 将 Mercury 无缝集成到现有工作流程中，作为传统 LLM 的直接替代品。
• 大型上下文窗口： Mercury Coder 和 Mercury 均支持 128K 上下文窗口。

由 Mercury 提供支持的 AI 应用：

Mercury 的速度和效率开启了广泛的 AI 应用：

• 编码： 通过闪电般的自动完成、选项卡建议和编辑来加速编码工作流程。
• 语音： 在客户服务、翻译和销售中提供响应迅速的语音体验。
• 搜索： 立即从任何知识库中找到相关数据，最大限度地减少研究时间。
• 代理： 运行复杂的多轮系统，同时保持低延迟。

Mercury 模型：

• Mercury Coder： 针对编码工作流程进行了优化，支持流式传输、工具使用和结构化输出。定价：输入 $0.25 | 输出 $1 每 100 万个 token。
• Mercury： 通用 dLLM，提供超低延迟，还支持流式传输、工具使用和结构化输出。定价：输入 $0.25 | 输出 $1 每 100 万个 token。

为什么选择 Mercury？

行业专业人士的评价突显了 Mercury 出色的速度和影响：

• Jacob Kim，软件工程师：“我对它的速度感到惊讶。每秒数千个 token 绝对是疯狂的，我从未见过这样的事情。”
• Oliver Silverstein，CEO：“在尝试 Mercury 之后，很难再回到过去。我们很高兴推出 Mercury 来支持我们所有的语音代理。”
• Damian Tran，CEO：“即使在复杂的代理跟踪上，我们也已将路由和分类开销降低到亚秒级延迟。”

Mercury 适合谁？

Mercury 专为寻求以下目标的企业而设计：

• 提高 AI 应用性能。
• 降低 AI 基础设施成本。
• 通过尖端的 AI 技术获得竞争优势。

如何集成 Mercury：

Mercury 可通过 AWS Bedrock 和 Azure Foundry 等主要云提供商获得。它也可以通过 OpenRouter 和 Quora 等平台访问。您可以从他们的 API 开始。

要探索微调、私有部署和前向部署工程支持，请联系 Inception。

Mercury 提供了一种变革性的 AI 方法，使其更快、更高效，并为广泛的应用提供更多可访问性。立即试用 Mercury API，体验下一代 AI。