LlamaIndex • 2023-11-08
LlamaIndex 新闻简报 2023-11–07
各位 Llama 粉丝大家好！🦙
希望您喜欢我们昨天发布的 OpenAI 开发者日特刊！以下是上周发生的所有其他事件回顾。一如既往，如果您有任何引人注目的项目、文章或视频？我们洗耳恭听！请发送邮件至 news@llamaindex.ai 与我们联系。
如需直接获取所有这些精彩内容，请不要忘记通过我们的网站订阅我们的新闻简报。
🤩 首先，亮点：
- LlamaIndex Chat：我们推出了一款可定制的 LLM 聊天机器人模板，包含系统提示和头像，所有这些都在一个使用 LlamaIndex for TypeScript 的 MIT 许可开源框架内。探索演示或查看推文。
- 评估器微调：我们推出了一种通过将 GPT-4 提炼到 GPT-3.5 来增强 LLM 输出评估的方法，优化了成本和速度。查看我们的推文。
- ParamTuner：我们引入了一种新的超参数调优抽象，以优化 RAG 管道性能，该抽象具备目标函数、网格搜索和 Ray Tune 集成功能。查看Notebook和推文。
- CohereAI Embed v3 和 Voyage AI 集成：我们通过添加两个强大的嵌入模型来增强 LlamaIndex RAG 管道：来自 CohereAI 的最新 Embed v3 和来自 Voyage AI 的高性能嵌入模型。推文和推文。
✨ 功能发布与增强
- 我们推出了 LlamaIndex Chat，这是一项新功能，允许用户创建和分享根据其数据量身定制的自定义 LLM 聊天机器人，并提供个性化系统提示和头像。此外，我们很自豪地宣布它是一个在 MIT 许可下的完全开源模板，使用 LlamaIndexTS 构建，为 LLM 应用开发提供无缝开端。演示，推文。
- 我们引入了一种微调评估器的方法，将 GPT-4 提炼到 GPT-3.5，从而增强 LLM 输出评估，同时降低成本并提高速度。推文。
- 我们引入了
ParamTuner，这是一个用于 LlamaIndex RAG 的超参数调优抽象，通过目标函数和对网格搜索的支持（包括与 Ray Tune 的集成）来简化流程，以增强优化。Notebook，推文。
🎥 演示
- GPTDiscord 是一个功能多样的 LLM 驱动的 Discord 机器人，拥有 20 多种功能，包括多模态图像理解和高级数据分析。它拥有无限对话记忆，并能够与各种文件类型和互联网服务交互。推文。
🗺️ 指南
- 我们分享了关于将 Activeloop 的 Deep Memory 与 LlamaIndex 集成的指南，该模块可在数据摄入时增强您的嵌入，并将 RAG 指标提高 15%，同时完美地融入 LlamaIndex 的自动化数据集和向量存储功能。
- 我们分享了受Chengrun Yang 和 GoogleDeepMind 的
Optimization by Prompting论文启发的指南，展示了如何使用元提示在 LlamaIndex RAG 管道中自动化提示调优，提高评估性能，同时承认该技术的实验性质。 - 我们分享了关于如何在 LlamaIndex 中实现情绪提示的指南，使您能够通过各种情绪刺激增强 RAG 管道，并评估它们对任务性能的影响。
- 我们展示了 MongoDB starter kit，这是一个全面的 LlamaIndex RAG 设置，包含 Flask 后端、Next 前端，并且易于部署到 Render。
✍️ 教程
- Wenqi Glantz 发表了一篇关于在 AWS EC2 GPU 实例上部署 HuggingFace
text-embeddings-inference服务器的博客文章，提高了 LlamaIndex RAG 管道的性能和结果。 - Sophia Yang 关于 Zephyr-7b-beta 的教程展示了其在 LLM 技术方面的领先能力，包括如何使用 LlamaIndex 对其进行基准测试，以应对各种 AI 任务。
- Sudarshan Koirala 提供了一个关于如何使用 LlamaIndex、Qdrant 和 bge/CLIP 嵌入构建多模态检索系统的教程。
- Sophia Yang 提供了另一个教程，这次是关于在构建高级 RAG 系统时使用 LlamaIndex 进行从小到大检索（Small-to-Big Retrieval）。
- Ravi Theja 关于 Router Query Engine 的教程，该引擎可帮助您为数据集设置多个索引/查询引擎，从而让 LLM 为每个具体问题选择最合适的索引/查询引擎。
⚙️ 集成与协作
