OpenAI 开发者大会发布 25 项更新，ChatGPT 会员改为按用量倍数定价
OpenAI 在 9 月 30 日凌晨的开发者大会上发布 25 项更新，核心是把 ChatGPT 从聊天软件改成按工作量计费的平台。
推荐理由：OpenAI 开发者大会 25 项发布中，会员按用量倍数重新定价、dot 智能体与插件入口同时落地，可看清其把 ChatGPT 变成工作入口的商业逻辑。
部署与工程
全部主题把模型跑起来的工程实践：推理优化、显存与成本控制、Serving 架构、私有化与基础设施选型。
最新精选
第 61–80 条 · 共 82 条极客公园精选AI 评分7878
AWS Machine Learning Blog精选AI 评分6060 康泰纳仕如何用 Amazon Bedrock 构建多模态视频检索
康泰纳仕与 AWS 生成式 AI 创新中心基于 Amazon Bedrock、Amazon OpenSearch Service 和 TwelveLabs Marengo 嵌入模型，构建了跨视频转录、画面与音频的意图语义检索方案，把单次内容发现任务从平均 250 分钟降到约 2 分钟。
推荐理由：康泰纳仕用 Amazon Bedrock 与 TwelveLabs Marengo 搭建多模态视频检索，把单次找片从 250 分钟压到约 2 分钟，架构与经验可迁移。
AWS Machine Learning Blog精选AI 评分6666 xAI 的 Grok 4.7 上线 Amazon Bedrock
xAI 的 Grok 4.7 已在 Amazon Bedrock 上线，支持 500K token 上下文窗口和 low、medium、high、xhigh 四档可配置推理强度，通过 bedrock-runtime 端点的跨区域推理配置文件提供服务，支持 Responses、Chat Completions、InvokeModel 和 Converse API。
推荐理由：Grok 4.7 上线 Amazon Bedrock，500K 上下文与四档推理强度，附接入代码和成本取舍说明。
AWS Machine Learning Blog精选AI 评分6262 NarrateAI 如何在 Amazon Bedrock 上实现生产级 LLM 质量保障
AWS 团队介绍 NarrateAI 在 Amazon Bedrock 上落地的五项质量保障技术，包括自适应流水线编排、跨账号多模型故障转移、实时流式评估、复合评估框架和数据准确性校验，服务超过 4000 名 AWS 高管用户。
推荐理由：AWS 团队复盘 NarrateAI 在 Amazon Bedrock 上的五项质量保障技术，含延迟、准确率与成本数据，可迁移到实时 LLM 应用。
Microsoft Research精选AI 评分6262 微软研究院：把物理 AI 推理卸载到边缘或云 GPU，可提升机器人任务成功率与续航
微软研究院发布针对移动操作机器人的系统性测量研究，指出把物理 AI 推理全部放在机器人端侧 GPU 上会限制性能、续航与扩展性。
推荐理由：微软研究院系统测量机器人端侧推理的瓶颈，并给出可把推理卸载到边缘或云 GPU 的 Kubernetes 工具链。
Google DeepMind精选AI 评分6060 Google 为 Private AI Compute 引入安全服务端记忆
Google 公布 Private AI Compute 的新技术能力，将持久化记忆层引入云端，数据封存在加密存储中，解密密钥只保留在用户个人设备上，Google 自身也无法访问。
推荐理由：Google 为 Private AI Compute 加入持久化服务端记忆，密钥留在用户设备，云端隔离内存用完即加密。
NVIDIA Blog精选AI 评分6262 NVIDIA 详解 DSX 平台：如何让 AI 工厂每兆瓦产出更多 token
NVIDIA 在 AI Infra Summit 上介绍 DSX 平台，用多项早期部署数据说明如何在固定电力预算下提升 AI 工厂产出。
推荐理由：NVIDIA 公布 DSX 平台在 AI 工厂的早期落地数据，含 24% token 吞吐提升与电网需求响应实测，适合关注数据中心能效的读者。
Hugging Face Blog（hf-mirror 镜像）精选AI 评分6262 用 LoRA 和 Storage Bucket 在 HF Jobs 上跑异步 GRPO，500 步从 3 小时 27 分降到 53 分钟
TRL v1.14 的 AsyncGRPOTrainer 支持只训练并同步 LoRA 适配器到 vLLM，rank-1 适配器只有几 MB，可经每个 Job 挂载的 Storage Bucket 传递，无需 NCCL。
推荐理由：在 HF Jobs 上把异步 GRPO 训练与 vLLM 推理拆到不同机器，用 LoRA 适配器和 Storage Bucket 替代 NCCL，500 步从 3 小时 27 分压到 53 分钟。
Hugging Face Blog（hf-mirror 镜像）精选AI 评分6262 Gradio 推出 gr.Workflow，把 AI 流程做成可运行画布与 REST API
Gradio 内置的 gr.Workflow 把多步 AI 流程描述为带类型节点的图，并生成可拖拽画布，每个节点都能单独运行、每个中间结果都可见。
推荐理由：Gradio 内置的 gr.Workflow 把多步 AI 流程做成可拖拽画布，每个节点可单独运行并自动暴露 REST 接口。
Hugging Face Blog（hf-mirror 镜像）精选AI 评分6262 Papers with Code 如何用 HF Inference Endpoints、Jobs 和 Buckets 搭建论文搜索
Papers with Code 用 PostgreSQL 全文检索加 pgvector 向量召回、再用 RRF 融合的混合搜索，为 arXiv 与 Daily Papers 的 11 万多篇论文提供检索。
推荐理由：Papers with Code 搜索的混合检索架构复盘，含离线建库与在线查询分离、冷启动降级和向量维度取舍的具体数据。
Hugging Face Blog（hf-mirror 镜像）精选AI 评分6060 Liquid AI 发布 LFM2.5-DSpark 草稿模型，推理最高提速 3.2 倍
Liquid AI 为 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 发布 DSpark 草稿模型检查点，通过投机解码在不改变输出质量的前提下提升吞吐，GPU 上最高 3.18 倍、端侧最高 2.87 倍。
推荐理由：Liquid AI 为 LFM2.5 三个模型发布 DSpark 草稿模型，用投机解码换取最高 3.18 倍吞吐且不改变输出质量。
Hugging Face Blog（hf-mirror 镜像）精选AI 评分6262 Dharma AI 用约束感知 GPU 分配器替换 FIFO，同集群利用率最高提升 33 个百分点
Dharma AI 构建约束感知的 GPU 分配器，在七个基准场景中与 FIFO 调度器对比，相同硬件与负载下利用率最高提升 33 个百分点，优先级加权产出平均提升 52%、最高 105.1%。
推荐理由：Dharma AI 自建约束感知 GPU 分配器，在相同硬件与负载下对比 FIFO，说明调度顺序如何影响利用率与优先级产出。
Microsoft Research精选AI 评分7171 微软研究院开源 Orchard：可扩展智能体 AI 框架
微软研究院发布开源框架 Orchard，核心是 Kubernetes 环境服务 Orchard Env，可复用同一套基础设施训练和评测软件工程、网页导航与个人助理智能体，并支持直接在 Codex、OpenClaw、ZeroClaw 等真实部署 harness 内训练。
推荐理由：微软研究院开源 Orchard 框架，把智能体训练环境做成可复用服务，并给出三个领域的训练配方与数据。
Berkeley AI Research精选AI 评分6262 从 CUDA 到 MLX：K-Search 如何把数十年内核经验带到 Apple Silicon
IBM Research 基于 UC Berkeley Sky Lab 的 K-Search 演化内核搜索框架，为 Apple Silicon 的 MLX 构建后端并加入结构化 CUDA-to-MLX 翻译层，让现有 CUDA 内核作为知识库被改写为 Metal 内核。
推荐理由：把 CUDA 内核优化经验结构化翻译到 MLX，在 Apple Silicon 上让演化搜索逼近专家级内核性能。
Hugging Face Blog（hf-mirror 镜像）精选AI 评分8888 Thinking Machines 发布 1T 参数开源多模态模型 Inkling 及 Inkling-Small
Thinking Machines Lab 发布开源多模态大模型 Inkling，采用 MoE 架构，总参数 975B、激活 41B，原生接收图像、音频和文本输入，支持 1M 上下文窗口，基于 45 万亿 token 训练。
推荐理由：Thinking Machines 发布 1T 参数开源多模态模型 Inkling，原生支持图像、音频、文本与 1M 上下文，并给出各推理引擎的部署配置。
Hugging Face Blog（hf-mirror 镜像）精选AI 评分6262 vLLM 的 transformers 建模后端达到原生推理速度
Hugging Face 宣布 vLLM 的 transformers 建模后端在多个 Qwen3 模型上达到或超过 vLLM 手写原生实现的吞吐，包括单 GPU 的 4B 稠密模型、张量并行的 32B 稠密模型以及 8×H100 上数据并行加专家并行的 235B FP8 MoE。
推荐理由：vLLM 的 transformers 后端现可达到原生实现速度，模型作者无需移植即可获得快速推理。
Hugging Face Blog（hf-mirror 镜像）精选AI 评分6262 微软在 Foundry Managed Compute 上线 Hugging Face 模型集合
微软在 Build 2026 宣布 Foundry Managed Compute 与 Hugging Face 模型集合，将 Hugging Face 生态的开源权重模型整理成每周刷新的目录，可一键部署到托管 GPU 平台。
推荐理由：微软把 Hugging Face 开源模型接入 Foundry，一键部署到托管 GPU，权重预置 Azure 并自动打补丁。
Hugging Face Blog（hf-mirror 镜像）精选AI 评分7272 LeRobot v0.6.0 发布：世界模型策略、奖励模型 API 与六个仿真基准
Hugging Face 发布 LeRobot v0.6.0，围绕机器人学习闭环引入世界模型策略（VLA-JEPA、FastWAM、LingBot-VA）、新一批 VLA（GR00T N1.7、MolmoAct2、EO-1、EVO1、Multitask DiT）以及统一奖励模型 API（Robometer、TOPReward）。
推荐理由：LeRobot v0.6.0 把机器人学习闭环补齐，含世界模型策略、奖励模型 API、六个仿真基准和部署 CLI，可了解开源机器人栈的新能力。
Hugging Face Blog（hf-mirror 镜像）精选AI 评分6262 SkyPilot 接入 HF Mirror 存储，用 hf:// 挂载实现零出网费跨云运行 AI 任务
SkyPilot 与 HF Mirror 联合推出 store: hf 后端，可用一个 hf:// URL 和现有 HF_TOKEN 把 HF Mirror Bucket 或任意模型、数据集、Space 仓库挂载进 SkyPilot 任务，在 20 多个云、Kubernetes、Slurm 和本地运行。
推荐理由：HF Mirror 存储接入 SkyPilot，用 hf:// 挂载模型与数据集到任意云 GPU，读取免出网费，适合跨云训练与推理。
Hugging Face Blog（hf-mirror 镜像）精选AI 评分6666 IBM 发布 ScarfBench：评测 AI 智能体做企业 Java 框架迁移
IBM 研究团队发布 ScarfBench（Self-Contained Application Refactoring Benchmark），一个面向企业 Java 跨框架迁移的开源基准，覆盖 Spring、Jakarta EE、Quarkus 三大生态，包含 34 个应用、102 个框架实现、204 个迁移任务、约 151K 行代码和 1331 个专家编写的测试。
推荐理由：IBM 开源企业 Java 框架迁移基准，用能否构建、部署、保持行为来评测编码智能体，揭示当前最强智能体行为成功率不足 10%。