AWS Machine Learning Blog· Deniz Yilmaz·· 5 天前精选AI 评分74
Orca Security 用 Amazon Bedrock 构建自然语言安全查询，成本降 90%、延迟降 75%
Natural language security queries at Orca Security using Amazon Bedrock
AI 导读
Orca Security 与 AWS 合作在 Amazon Bedrock 上构建 Discovery AI，把自然语言问题转成 Sonar 查询，相比最初把 900+ 模型定义塞进单个提示词的概念验证，输入 token 从约 200 万降到 14 万（降 93%）、成本降 90%、端到端延迟从约 60 秒降到 15 秒。
推荐理由
Orca Security 把自然语言查询接到 900+ 云模型上，用九阶段流水线把成本降 90%、延迟从 60 秒降到 15 秒，可看多模型分工与检索策略取舍。
来源：AWS Machine Learning Blog · aws.amazon.com