可移植技能实现 Agentic RAG:客服场景部署案例研究
论文报告一个客服场景的部署案例,用可移植技能替代复杂 RAG 栈,该技能由自然语言指令、轻量工具(检索 API、格式检查脚本)和带 LLM 生成导航层的语料组成,导航层是文档之上的 Wikipedia 式结构化索引。
推荐理由:客服场景的部署案例,用可移植技能替代复杂 RAG 栈,给出等价率与延迟数据,并说明适用边界。
知识库与检索增强生成:文档问答、向量检索、企业知识管理与 RAG 效果优化的方法与工具。
论文报告一个客服场景的部署案例,用可移植技能替代复杂 RAG 栈,该技能由自然语言指令、轻量工具(检索 API、格式检查脚本)和带 LLM 生成导航层的语料组成,导航层是文档之上的 Wikipedia 式结构化索引。
推荐理由:客服场景的部署案例,用可移植技能替代复杂 RAG 栈,给出等价率与延迟数据,并说明适用边界。
XERJ 是一个 Apache 2.0 许可的本地 AI 搜索工具,可自动索引任意文件夹,让编码智能体按需检索代码片段而不是逐个读文件。官方在 8 个任务、4 种语言、每种 16 次运行的对照测试中称,输出 token 比 grep 驱动方式少 2.7 倍、比纯记忆少 26 倍,解题率同为 16/16;用户反馈实际开发中约省 5 倍 token。
推荐理由:本地 AI 搜索工具,把任意文件夹索引成可查询索引,让编码智能体按需取代码片段而非整文件读取,附实测 token 对比与安装命令。
ShipStation Global 工程团队在 Amazon Bedrock AgentCore 上构建了 Slack 内的 AI IT 服务台 Deckhand,用 Strands agent、AgentCore Gateway 暴露的 MCP 工具和 Bedrock 知识库回答 IT 问题、读取报错截图并创建 Jira 工单。
推荐理由:ShipStation 在 Slack 里用 AgentCore 搭 IT 服务台,三个月处理 1935 条消息、把 812 次对话留在聊天里,可看架构与知识库挖掘细节。
Orca Security 与 AWS 合作在 Amazon Bedrock 上构建 Discovery AI,把自然语言问题转成 Sonar 查询,相比最初把 900+ 模型定义塞进单个提示词的概念验证,输入 token 从约 200 万降到 14 万(降 93%)、成本降 90%、端到端延迟从约 60 秒降到 15 秒。
推荐理由:Orca Security 把自然语言查询接到 900+ 云模型上,用九阶段流水线把成本降 90%、延迟从 60 秒降到 15 秒,可看多模型分工与检索策略取舍。
Google DeepMind 发布 EmbeddingGemma 2,一个 740M 参数、Apache 2.0 许可的端侧多模态嵌入模型,基于 Gemma 4 架构,将文本、图像、音频、视频映射到统一嵌入空间。
推荐理由:Google DeepMind 发布 740M 参数端侧多模态嵌入模型,文本、图像、音频、视频统一嵌入,Apache 2.0 许可。
Ai2 开源 AstaBrief 8B,一个把研究问题和检索到的文献片段转成带引用报告的模型,基于 Qwen3-8B 经 SFT 和 DPO 训练,权重与训练数据一并放出。
推荐理由:Ai2 开源 8B 科研报告生成模型,单次生成带引用报告,比 Claude 管线快约 3.5 倍,权重与训练数据一并放出。
AWS 团队在 Amazon SageMaker AI 上用多轮强化学习(MTRL)微调 Qwen3.6-27B 搜索智能体,以 nDCG@10 作为轨迹级奖励,只改动 max_epochs、global_batch_size、rollout_max_concurrency 三个超参数。
推荐理由:AWS 团队用 SageMaker AI 多轮 RL 微调 Qwen3.6-27B 搜索智能体,给出奖励设计与各基准的检索质量、失败率变化。
AWS 提出 Adjudicated Query 模式,让 Amazon Quick 聊天界面负责把自然语言问题翻译成对固定 MCP 工具集的调用,实际合规判定由确定性规则引擎完成,模型不写查询也不做判定。
推荐理由:AWS 用 Amazon Quick 加确定性规则引擎做租赁合规扫描,给出可证明完整性的架构与可部署样例。
AWS 发布教程,演示如何把 Amazon S3 Vectors 作为 NVIDIA NeMo Agent Toolkit(NAT)的持久记忆层,通过实现自定义 MemoryEditor 插件完成记忆的写入与语义检索。
推荐理由:给出把 Amazon S3 Vectors 接入 NVIDIA NeMo Agent Toolkit 记忆层的完整代码与 EKS 部署步骤,适合自建多智能体记忆的团队参考。
康泰纳仕与 AWS 生成式 AI 创新中心基于 Amazon Bedrock、Amazon OpenSearch Service 和 TwelveLabs Marengo 嵌入模型,构建了跨视频转录、画面与音频的意图语义检索方案,把单次内容发现任务从平均 250 分钟降到约 2 分钟。
推荐理由:康泰纳仕用 Amazon Bedrock 与 TwelveLabs Marengo 搭建多模态视频检索,把单次找片从 250 分钟压到约 2 分钟,架构与经验可迁移。
AWS 团队介绍 NarrateAI 在 Amazon Bedrock 上落地的五项质量保障技术,包括自适应流水线编排、跨账号多模型故障转移、实时流式评估、复合评估框架和数据准确性校验,服务超过 4000 名 AWS 高管用户。
推荐理由:AWS 团队复盘 NarrateAI 在 Amazon Bedrock 上的五项质量保障技术,含延迟、准确率与成本数据,可迁移到实时 LLM 应用。
Sentence Transformers v6.0 新增 MultiVectorEncoder 模型类型,支持 ColBERT 式后期交互检索,并给出从模型、数据集、损失函数到 Trainer 的完整训练流程。
推荐理由:Sentence Transformers v6.0 新增多向量编码器训练教程,含完整脚本与单卡 14.5 小时微调实测对比。
Papers with Code 用 PostgreSQL 全文检索加 pgvector 向量召回、再用 RRF 融合的混合搜索,为 arXiv 与 Daily Papers 的 11 万多篇论文提供检索。
推荐理由:Papers with Code 搜索的混合检索架构复盘,含离线建库与在线查询分离、冷启动降级和向量维度取舍的具体数据。
Sentence Transformers v6.0 新增第四种模型类型 MultiVectorEncoder,用于 ColBERT 式晚交互检索,PyLate 与 Stanford-NLP ColBERT 检查点可直接加载,colpali-engine 的视觉文档检索模型也能通过同一套 API 使用。
推荐理由:Sentence Transformers v6.0 新增多向量编码器,支持 ColBERT 式晚交互检索,文中给出加载、评分与索引的完整用法。
Google DeepMind 发布 Gemini for Science,包含 Google Labs 上三个实验原型:基于 Co-Scientist 的 Hypothesis Generation。
推荐理由:Google 把 Co-Scientist、AlphaEvolve 等能力打包成科研工具集,含三个实验原型和一套 Science Skills,可登记申请试用。