Velvet

Velvet: 用于 AI 特性分析的开发者网关 (现为 Arize 的一部分)

Velvet 是什么？Velvet 是一个开发者网关，旨在分析、评估和监控 AI 驱动的特性。它使开发者能够实时了解其 AI 模型的性能和行为。

被 Arize 收购

在 2025 年，Velvet 被 Arize 收购，Arize 是一个专注于 AI 评估和可观测性的企业平台。此次收购将 Velvet 以开发者为中心的方法与 Arize 强大的平台结合在一起，旨在加速 Arize 统一 AI 平台的采用。Velvet 的创始人 Emma 和 Chris 作为收购的一部分加入了 Arize。

Arize: 用于 AI 的统一可观测性和评估平台

Arize 是什么？Arize 是一个综合平台，可帮助加速 AI 应用程序和代理的开发，然后在生产中完善它们。它提供统一的可观测性和评估能力，确保 AI 模型以最佳方式运行。

Arize 的主要特性：

• AI 评估: 评估 AI 模型的性能，以确保准确性和可靠性。
• 可观测性: 实时监控 AI 模型，以识别和解决可能出现的任何问题。
• 统一平台: 用于所有 AI 评估和可观测性需求的单一平台。

为什么选择 Arize？

Arize 为 AI 评估和可观测性提供统一的解决方案，帮助团队加速开发，提高模型性能，并确保生产中的可靠性。

Arize 如何工作？

Arize 的平台提供以下工具：

• 模型监控: 实时跟踪模型性能指标。
• 根本原因分析: 用于识别模型性能问题根本原因的工具。
• 性能评估: 全面评估各种指标的模型性能。

Phoenix: 开源 LLM 追踪和评估

Phoenix 是什么？Phoenix 是一个用于 LLM（大型语言模型）追踪和评估的开源工具。它旨在通过提供对 AI 应用程序的无缝评估、实验和优化，从而帮助开发者加速 AI 开发。

Phoenix 的主要特性：

• LLM 追踪: 跟踪 LLM 的行为，以了解它们如何处理信息。
• 评估: 评估 LLM 的性能，以确保准确性和可靠性。
• 开源: 一个社区驱动的工具，可以免费使用和修改。

LiteLLM: LLM 网关

LiteLLM 是什么？LiteLLM 是一个 LLM 网关，提供跨 100 多个 LLM 的模型访问、回退和支出跟踪。它使用 OpenAI 格式，可以用作平台或部署为开源。

LiteLLM 的主要特性：

• 模型访问: 通过单个网关访问各种 LLM。
• 回退: 自动回退，以确保即使某个模型失败，AI 应用程序仍然可用。
• 支出跟踪: 跟踪不同 LLM 的支出，以优化成本。

LiteLLM 的用例：

• AI 应用程序开发: 通过提供对各种 LLM 的访问，简化构建 AI 应用程序的过程。
• 成本优化: 通过跟踪不同 LLM 的支出来优化成本。

Arize 适用于谁？

Arize 适用于需要在生产中评估和监控其 AI 模型的数科学家、机器学习工程师和 AI 开发者。它为 AI 评估和可观测性提供统一的平台，帮助团队加速开发，提高模型性能并确保可靠性。

监控 AI 模型的最佳方法？

监控 AI 模型的最佳方法是使用像 Arize 这样的综合平台，该平台提供模型性能的实时跟踪、根本原因分析工具和性能评估指标。像 Phoenix 和 LiteLLM 这样的开源工具为 LLM 跟踪和管理提供更集中的功能。