Arize AI 和 LlamaIndex 推出用于评估 LLM 应用的联合平台

战略联盟和联合产品有望在各行业扩大生成式AI的应用

作为AI可观测性和LLM评估领域的先驱和领导者，Arize AI 与领先的LLM应用数据框架 LlamaIndex 今日首次推出了名为 LlamaTrace 的联合产品，这是 Arize OSS Phoenix 的托管版本。

根据一项即将发布的调查，目前有 47.7% 的AI工程师和开发者在构建生成式AI应用时在其LLM应用中利用检索功能。通过将数据连接到生成式AI，像 LlamaIndex 这样的编排框架可以在加速生成式AI开发方面发挥颠覆性作用。然而，对于许多团队和企业来说，将具有抽象层级的现代LLM系统准备好投入实际应用仍然存在技术挑战。

为此，Arize 和 LlamaIndex 正在推出一个与 LlamaIndex 和 Arize 生态系统原生协作的 LLM 跟踪和可观测性平台。该平台基于 Arize Phoenix 开源软件，Phoenix 的托管版本提供了持久化在AI开发过程中生成的应用遥测数据的能力，以便更好地在开发或生产环境中进行实验、迭代和协作。

该解决方案以开源为基础，并为不想自行托管的团队提供了完全托管、在线、持久化的部署选项。AI工程师可以即时记录跟踪、持久化数据集、运行实验、运行评估，并与同事分享这些见解。

新产品今日起可用，可通过 LlamaIndex 或 Arize 账户访问。

Arize 首席执行官兼联合创始人 Jason Lopatecki 表示：“我们与 LlamaIndex 的共同愿景是赋能开发者缩短将生成式AI部署到生产环境的时间，并且部署方式需经过严格实战检验，适用于业务关键型用例。作为各自领域的领导者，我们拥有赋能AI工程师和开发者的共同理念，这使我们在推动现代LLMOps发展和扩大应用方面处于独特地位。”

“构建 RAG 流水线或智能体的原型很容易，但每个AI工程师都需要合适的数据处理层、编排框架和实验/监控工具，才能将这些应用投入生产。Arize 推出的 LlamaTrace 提供了我们所见过的最丰富的工具集，可赋能开发者观察、调试和评估复杂 LLM 工作流的每一个细粒度步骤，并且它与 LlamaCloud 和 LlamaIndex 提供的生产就绪数据平台和编排框架形成了很好的互补。” - Jerry Liu, LlamaIndex 首席执行官

关于 Arize AI

Arize AI 是一个AI可观测性和LLM评估平台，可帮助团队在生产环境中交付和维护更成功的AI应用。Arize 的自动化监控和可观测性平台使团队能够快速检测出现的问题，解决问题的原因，并提升传统机器学习和生成式用例的整体性能。Arize 总部位于加州伯克利。