Mirai

Mirai：端侧 AI 的未来

什么是 Mirai？

Mirai 是一个旨在将高性能 AI 直接引入您的应用程序的平台。它专注于端侧 AI 部署，提供零延迟、完全数据隐私且无推理成本的解决方案。这意味着您的 AI 直接在用户的设备上运行，无需持续的云通信。

Mirai 如何工作？

Mirai 为 Apple 平台提供了一个 Inference SDK，其中包括业界最快的推理引擎。它利用推测解码和智能路由来优化性能、隐私和成本。该平台支持一系列从 0.3B 到 7B 参数的 AI 模型，使您可以选择最适合您特定需求的模型，同时节省高达 40% 的 AI 成本。

主要特性和优势：

• 零延迟： 端侧处理确保即时响应，从而改善用户体验。
• 完全数据隐私： 不会将用户数据发送给第三方，从而使用户可以完全控制其信息。
• 经济高效： 消除云依赖性，从而显著降低 AI 使用成本。
• 高性能： 优化的推理引擎可提供高达 3 倍的性能提升。
• 智能路由： 提供对性能、隐私和价格的完全控制，使您可以节省高达 50% 的成本。

为什么选择使用 Mirai 的端侧 AI？

与基于云的解决方案相比，端侧 AI 具有以下几个优势：

• 更低的成本： 减少对昂贵的云资源的需求。
• 一致的性能： 确保稳定的性能，而与网络状况无关。
• 增强的隐私： 确保用户数据的安全和私密。
• 降低的复杂性： 简化 AI 集成，只需要一个开发人员来处理推理、路由和优化。

可用及即将推出：

• 用于 Apple 的 Inference SDK： 适用于 Apple 平台的业界最快的推理引擎。
• 智能路由： 一种路由引擎，可让您完全控制性能、隐私和价格。
• 端侧 AI 模型： 一系列 AI 模型（0.3B - 7B 参数）。
• 用于 Android 的 Inference SDK： （即将推出）。
• 云推理： （即将推出）。
• 摄像头和语音处理： （即将推出）。

用例：

Mirai 的端侧 AI 可用于各种应用程序：

• 通用聊天： 直接在设备上运行的对话式 AI。
• 分类： 按主题、意图或情感标记文本。
• 摘要： 从长文本中快速生成易于阅读的摘要。
• 自定义用例： 构建您自己的 AI 驱动的应用程序。

Mirai 适用于谁？

Mirai 非常适合希望以下目的的开发人员和企业：

• 快速轻松地将 AI 集成到他们的产品中。
• 在不牺牲性能的情况下降低 AI 成本。
• 确保用户数据的隐私和安全。
• 创建创新的端侧 AI 应用程序。

快速开始：

使用 Mirai 设置 AI 项目只需 10 分钟。该平台从 AI 的复杂性中抽象出来，使一位开发人员可以将 AI 引入他们的产品中。免费开始，探索端侧 AI 的可能性。

什么是 [Mirai]？

Mirai 是一个平台，使开发人员能够将高性能 AI 模型直接部署在用户设备上，从而确保低延迟、完全数据隐私和降低的成本。它提供了一套针对端侧推理优化的工具和模型。

[Mirai] 如何工作？

Mirai 通过向开发人员提供一个与 Apple 平台无缝集成的 SDK 来工作。此 SDK 包括一个快速推理引擎，具有推测解码、智能路由和结构化输出功能。通过直接在设备上处理 AI 任务，Mirai 消除了持续云通信的需要，从而提高了速度和安全性。

如何使用 [Mirai]？

要使用 Mirai，开发人员可以将用于 Apple 的 Inference SDK 集成到他们的应用程序中。该 SDK 允许轻松的模型加载、执行和路由。Mirai 还提供了一个预训练模型库，适用于各种任务，例如通用聊天、文本分类和摘要。

为什么要选择 [Mirai]？

选择 Mirai 意味着选择一个优先考虑速度、隐私和成本效益的解决方案。它的端侧处理能力确保了一致的性能，而它的智能路由引擎允许开发人员优化资源使用并降低费用。Mirai 简化了 AI 集成，即使对于小型开发团队来说也很容易访问。

[Mirai] 适用于谁？

Mirai 专为希望利用 AI 的强大功能而又不想受基于云的解决方案缺点的开发人员、初创企业和企业而设计。它特别适合于对低延迟、数据隐私和成本节约至关重要的应用程序。