宣布 LlamaCloud 全面可用（以及我们的 1900 万美元 A 轮融资）！
LlamaIndex
开始使用
联系我们

©2025LlamaIndex

Sharon Tan • 2024-02-24

弥合危机咨询的差距：推出咨询师副驾驶

共同作者： Riya Jagetia、 Tarun Malik、 Divija N、 Sharon Tan、 Zehra Rizvi、 Amanda Piyapanee

在最近的 LlamaIndex RAG-a-thon [1] 中，我们团队的 “咨询师副驾驶” 获得了传统赛道的二等奖和 Datastax/AstraDB 类别的头等奖。更多详细信息可在我们的 DevPost [2] 文章中找到。

引言

在心理健康服务压力日益增大的背景下 [3, 4]，像 The Trevor Project [5] 这样的非营利组织是护理生态系统的重要组成部分。Trevor Project 专注于帮助有自杀念头的 LGBTQ+ 青少年，提供便捷的危机服务，其中包括通过 TrevorText，这是一个由训练有素的志愿者咨询师提供的在线聊天服务。

问题：危机咨询师面临的双重挑战

然而，TrevorText 咨询师面临着严峻的挑战。不仅在节假日和夜班等高峰时段对咨询师需求量大，而且咨询师还必须同时处理许多行政任务，例如筛选表格、回复多个聊天窗口的消息以及查找相关的本地资源。这不仅增加了咨询师倦怠的风险，也阻碍了他们提供及时有效护理的能力。

鉴于这些挑战，迫切需要创新解决方案来弥合危机服务需求与供给之间的差距。

虽然我们的黑客马拉松项目侧重于增强 TrevorText，但我们的产品也可以轻松扩展到一般的危机聊天替代方案。

获奖方案：危机咨询师的人工智能副驾驶

咨询师副驾驶是一款为危机咨询师提供的实时助手，它会考虑联系人背景和聊天记录来建议回复，这样咨询师就可以专注于他们最擅长的事情：提供护理。咨询师无需任何提示；副驾驶在后台无缝运行。

此外，副驾驶绝不直接回复联系人；相反，它提供回复建议，咨询师可以进行编辑。

咨询师副驾驶结合联系人背景和聊天记录，为咨询师提供实时回复建议

具体来说，副驾驶自动化了咨询师的任务，包括但不限于：

  1. 实时检索和合成复杂 PDF 文件中的联系人数据。这也在对话开始时为咨询师提供了联系人的背景信息。
  2. 根据聊天内容评估是否需要紧急干预。如果需要，建议升级给主管。
  3. 使用组织现有的资源和指南来建议适当的回复。

4. 搜索联系人的特定地点资源，并通过电子邮件快速分享这些资源。

5. 在 CRM 中为联系人填写案例表格，包括总结互动内容。

虽然这些任务很重要且必要，但它们会分散咨询师与危机中青少年的对话注意力，并占用宝贵的时间。

借助咨询师副驾驶，这些任务可以在需要时完成，无需咨询师的任何提示，从而为咨询师提供更多精力，并最终提升与来访者的对话质量。

以下是我们的解决方案演示

我们如何构建它

当聊天开始时，咨询师副驾驶从 CRM 获取联系人数据，这些数据存储在复杂的 PDF 文件中。我们使用 LlamaParse 实时提取相关的联系人数据，然后在每次对话开始时将这些数据的摘要作为背景信息提供给咨询师。

此外，我们使用 LlamaIndex ReAct 代理来监控对话，并根据聊天记录和联系人背景部署适当的工具。ReAct 代理可使用的工具包括：

  1. 将对话升级给主管
  2. 根据 The Trevor Project 的指南建议回复和相关资源
  3. 搜索特定地点的网络资源并将资源发送给联系人

对于工具 #2，我们创建了一个向量数据库，其中包含 The Trevor Project 的文档，这些文档根据咨询师可能面临的不同情景和情况，强调了关键指南。我们使用 RAG 来检索与对话相关的资源，并使用 GPT4 根据这些资源为咨询师起草回复，这两者对于对话的敏感性质至关重要。

最后，我们使用对话内容填写包含关键 Salesforce 字段（例如姓名、年龄、城市、州）的表格，并总结对话内容。

可能的扩展

我们对其他人可以基于我们的工作 [6] 并进一步扩展咨询师副驾驶的可能性感到兴奋。一些想法包括：

  1. 降低成本并提高建议回复的质量：使用咨询师的聊天对话摘录微调最先进的开源 LLM
  2. 更具针对性的对话管理：为代理添加一个工具，用于评估对话阶段，因为每个阶段都有推荐的风格和问题（例如建立融洽关系、风险评估）
  3. 闭环反馈循环：允许咨询师对选定的回复点赞或点踩，这是一种自然的收集人工反馈的方式，可用于进一步的模型或代理训练

结论：迈向高效有效危机护理的一步

我们为危机咨询师开发的人工智能副驾驶代表着迈向更高效有效危机护理的重要一步。通过自动化行政任务，它让咨询师能够专注于其核心使命：为危机中的青少年提供一个安全的倾诉场所。这不仅提升了所提供护理的质量，还通过最大化现有资源的影响力，解决了咨询师短缺的紧迫问题。随着我们不断完善和扩展这项技术，我们展望一个未来，危机咨询将对所有需要帮助的人更易于获得、更及时响应、更有影响力。

参考文献

  1. https://rag-a-thon.devpost.com/
  2. https://devpost.com/software/counselor-copilot
  3. https://www.mhanational.org/issues/state-mental-health-america
  4. https://www.aamc.org/news/growing-psychiatrist-shortage-enormous-demand-mental-health-services
  5. https://www.thetrevorproject.org/
  6. https://github.com/zrizvi93/trevorhack

相关文章