宣布 LlamaCloud 正式可用(以及我们的 A 轮融资 1900 万美元)!
LlamaIndex

LlamaIndex 2024-04-23

LlamaIndex 周报 2024-04-23

LlamaIndex 社区的各位大家好!🦙

欢迎阅读来自 LlamaWorld 的又一激动人心的每周更新!我们很高兴为您带来一系列精彩的更新,包括 Cookbooks、演示、指南和教程。

🤩 亮点:

  • MistralAI 的 8x22b 模型 Cookbook:发布了 MistralAI 8x22b 模型的 Cookbook,提供了 RAG、查询路由和工具应用的详细指南。文档推文
  • Llama 3 模型 Cookbook:Meta Llama 3 模型的综合 Cookbook,涵盖从简单的提示运行到复杂的 RAG 管道、代理和工具,可直接从 Hugging Face 获取。文档推文
  • create-llama Llama 3 模板:Meta Llama 3 的 create-llama 模板,只需一个 CLI 命令,即可使用 nextjs-llama3 模板快速开始构建全栈 LLM 应用。推文

✨ 功能发布与增强

  1. 我们发布了针对最新 MistralAI 模型(强大的 8x22b,为开源模型树立了新标准)的 Cookbook。该 Cookbook 涵盖了 RAG、查询路由和工具使用案例。文档推文
  2. 我们发布了针对 Meta 最新 Llama 3 模型(可直接从 Hugging Face 获取)的 Cookbook。本指南涵盖了从运行基本提示到设置完整的 RAG 管道、代理和工具的所有内容。文档推文
  3. 我们在 create-llama 中引入了集成 Meta Llama 3 的模板。只需运行 npx create-llama 并选择 nextjs-llama3 模板,即可通过一个 CLI 命令构建带有 Llama 3 的全栈 LLM 应用。推文

🎥 演示

  • 开源 AI 图表生成器,由 Rohan 使用 LlamaIndex 的 Pydantic 程序、部分 JSON 解析和 Vercel AI SDK 实现,用于动态生成和流式传输图表,提升用户体验。
  • DREAM:Aishwarya Prabhat 开发的分布式 RAG 实验框架,提供了一个全栈蓝图,用于在分布式环境中优化 RAG 设置。此设置包括用于计算的 Ray、用于高级技术的 LlamaIndex、用于合成数据的 Ragas、MinIO、MLflow、Project Jupyter 和 ArgoCD。
  • 来自 MendableFirecrawl 是一项 API 服务,可以抓取指定的 URL 并将其内容(包括所有可访问的子页面)转换为干净的 markdown 格式。它利用 LlamaIndex 的 LlamaParse 进行 PDF 解析。

🗺️ 指南

  • 集成 Qdrant Hybrid Cloud 与 LlamaIndex 的指南,使用了 JinaAI 嵌入模型、MistralAI 的 Mixtral 8x7b 和我们的 LlamaParse 文档解析器。
  • 使用 Elastic 完全开源免费组件构建 RAG 的指南,使用了 Ollama 和 MistralAI,演示了如何使用 LlamaIndex 和完全免费的软件构建 RAG 应用。
  • 构建代码编写代理的指南TechWithTimm 演示了如何创建一个通过阅读文档来编写代码的代理。学习如何使用 Ollama 设置本地 LLM,使用 LlamaParse 解析文档,构建代理,并教它编写代码。
  • Mariboo 关于使用 LoRA 微调用于 RAG 的嵌入模型的指南,演示了如何使用 LlamaIndex 的微调技术增强 Hugging Face 模型,包括从量化到使用 QLoRA 微调的步骤。

✍️ 教程

  • Khye Wei 在 Microsoft 发布的教程演示了如何将 LlamaIndex 与 Azure AI Search 结合使用来创建强大的 RAG 应用,包括混合搜索、查询重写和子问题查询引擎。
  • Hanane Dupouy 关于使用 LlamaIndex 构建金融代理的教程,该代理通过用于查询股票价格、总结金融新闻和绘制股票数据的工具来查询上市公司,所有这些都通过 LlamaIndex 的 ReAct 代理和 API 抽象得到简化。
  • Andy Singal 关于构建带有记忆功能的 ColBERT 驱动检索代理的教程,演示了如何使用 LlamaIndex 的自定义代理和查询管道抽象,通过“状态”存储来增强 RAG 管道,从而实现更个性化、更具对话性的助手。
  • Mariboo 关于使用 LlamaIndex 微调抽象通过 LoRA 微调用于 RAG 的嵌入模型的教程