首页 >> 综合 > 快讯 >

DSPy RLM 模块落地 ShipStation AI IT 帮助台

2026-11-09 08:05:23 来源:网易 编辑:庄莉奇 

ShipStation 搭建的 Deckhand AI IT 帮助台,核心使用 DSPy RLM(递归语言模型)模块,用来处理海量 Slack 历史工单数据,解决大上下文直接丢给大模型导致的效果下滑问题,这套方案跑在 Amazon Bedrock 上,实际做到覆盖 97.5% 咨询、员工好评率 96%。之所以选择 DSPy RLM 模块,是因为 IT 帮助台沉淀的历史对话数据体量很大,直接全部塞进提示词会出现上下文衰减,普通大模型很难精准筛选、分类、提取工单信息;而 DSPy RLM 模块可以把全部历史数据放到沙箱 Python REPL 环境里,让大模型通过写代码按需读取、检索数据,还能递归调用子模型做结构化信息抽取,校验失败自动重试,适配 IT 工单处理的场景需求。整套落地操作分成几个核心环节,第一步用 Slack API 导出频道全部对话历史,带上时间、回复层级等信息做结构化存储;第二步调用 DSPy RLM 模块,在沙箱环境遍历所有对话,区分工单是已解决、待处理还是需要升级,过滤掉通知类无关消息;第三步对判定为已解决的工单,通过 RLM 递归子模型抽取工单摘要、原始问题、解决方案、是否自助处理、关联系统、报错信息、标签等字段,用 Pydantic 模型校验格式;第四步把抽取好的结构化工单素材整理成知识库,供给 Deckhand AI IT 帮助台用来回答员工新的 IT 咨询,还支持读取截图、联动 Jira 工单。这套方案最终可以自动承接大量重复 IT 咨询,减少 IT 团队重复工作量,同时依托 DSPy RLM 模块的按需读取能力,在超大历史知识库下稳定保证回答质量。

DSPy RLM 模块基础说明

DSPy RLM 全称 Recursive Language Model 递归语言模型,属于 DSPy 框架里的内置模块,核心能力是借助沙箱代码解释器,让大模型通过编写代码去探索超大上下文数据,不用一次性把全部文本送入 prompt,适合知识库、历史工单、长文档检索抽取场景。

DSPy RLM 模块在 ShipStation AI IT 帮助台里的处理清单

  1. 数据源接入:读取导出后的 Slack 对话归档数据
  2. 对话分类筛选:标记工单状态,剔除公告等无效内容
  3. 结构化信息抽取:递归调用子模型提取工单各个字段
  4. 格式校验重试:Pydantic 校验,不满足规范自动重试抽取
  5. 知识库生成:输出整理好的工单解决方案文档,供 AI 助手调用

技术组件搭配清单

组件作用
DSPy RLM 模块核心长上下文检索、递归抽取逻辑
Amazon Bedrock Claude底层大模型推理
Slack API导出历史对话原始数据
Pydantic抽取结果结构化校验
Deckhand(ShipStation AI IT 帮助台)面向员工交互的 AI 助手

【相关 FAQ】

问题 1:DSPy RLM 模块在 ShipStation AI IT 帮助台里主要解决什么痛点?

回答 1:DSPy RLM 模块在 ShipStation AI IT 帮助台里主要解决海量 Slack 历史工单上下文过长,直接传入大模型出现精度下降的痛点,它把数据放在沙箱环境,模型按需读取内容,自动筛选工单、抽取解决方案,给 AI 帮助台提供可靠知识库。

问题 2:ShipStation AI IT 帮助台使用 DSPy RLM 模块的时候,数据是从哪里获取的?

回答 2:ShipStation AI IT 帮助台使用 DSPy RLM 模块处理的数据来源是 Slack 频道历史对话,脚本通过 Slack API 导出完整线程记录,交给 DSPy RLM 模块做解析和信息提取。

问题 3:DSPy RLM 模块和普通 DSPy Predict 模块用在 IT 帮助台场景有什么区别?

回答 3:普通 DSPy Predict 模块是一次性把上下文放进提示词,长文本容易丢失信息;DSPy RLM 模块支持代码探查数据、递归调用子模型,ShipStation AI IT 帮助台正是依靠这个特性处理上万条历史工单。

问题 4:ShipStation AI IT 帮助台使用 DSPy RLM 模块处理后的产出物是什么?

回答 4:ShipStation AI IT 帮助台使用 DSPy RLM 模块处理之后,会输出结构化 Markdown 工单文档,包含问题、处理步骤、系统标签等信息,作为 AI 助手回答员工 IT 问题的知识库。

【参考资料】

[2026-10-13](How ShipStation Global built an AI IT help desk on Amazon Bedrock AgentCore)Amazon Web Services

[2026-10-28](ShipStation Integrates AI Into the Shipping Workflow with Intelligent Automation and Conversational Analytics)ShipStation Global

[2026-04-14](Shipped in ShipStation: Ask ShipStation)ShipStation

[无明确日期](RLM - DSPy)DSPy 官方网站

【免责声明】

本文内容仅基于公开技术博文、官方文档信息整理,只做技术信息科普参考;DSPy RLM 模块的实际部署效果、ShipStation AI IT 帮助台的内部细节版本可能发生迭代变更,不构成落地开发、商业部署承诺;生产环境使用 DSPy RLM 模块需要自行完成安全测试、权限管控、沙箱安全加固,相关风险由使用者自行承担。

 
最新文章
站长推荐