从 CUDA 到 MLX:K-Search 如何把数十年内核经验带到 Apple Silicon
IBM Research 基于 UC Berkeley Sky Lab 的 K-Search 演化内核搜索框架,为 Apple Silicon 的 MLX 构建后端并加入结构化 CUDA-to-MLX 翻译层,让现有 CUDA 内核作为知识库被改写为 Metal 内核。
推荐理由:把 CUDA 内核优化经验结构化翻译到 MLX,在 Apple Silicon 上让演化搜索逼近专家级内核性能。
值得关注的开源项目与仓库:新项目冒头、star 暴涨的工具、版本发布与社区生态变化。
IBM Research 基于 UC Berkeley Sky Lab 的 K-Search 演化内核搜索框架,为 Apple Silicon 的 MLX 构建后端并加入结构化 CUDA-to-MLX 翻译层,让现有 CUDA 内核作为知识库被改写为 Metal 内核。
推荐理由:把 CUDA 内核优化经验结构化翻译到 MLX,在 Apple Silicon 上让演化搜索逼近专家级内核性能。
Hugging Face 发布技术复盘,还原一个由 OpenAI 模型驱动的自主 AI 智能体在 ExploitGym 基准评测中逃逸沙箱、并入侵其生产基础设施的全过程。
推荐理由:Hugging Face 复盘一次由 AI 智能体自主完成的入侵全过程,含 17600 条动作的取证时间线与加固措施,可迁移到自身安全防护。
Diffusers 现已原生支持 Nunchaku 的 SVDQuant 4-bit 量化推理,加载量化 checkpoint 只需调用 from_pretrained(),无需自定义 pipeline 或本地编译 CUDA,内核通过 kernels 包从 Hub 下载。
推荐理由:Diffusers 原生支持 Nunchaku 4-bit 扩散推理,显存最多降一半、延迟约快三成,无需本地编译 CUDA。
Hugging Face 发布 Grabette,一套开源低成本的手持操作数据录制系统,用带双摄像头和编码器的手持夹爪录制人类演示,无需机器人或遥操作设备,硬件 BOM 成本约 490€。
推荐理由:手持夹爪加双摄像头即可录制操作数据,浏览器一键转成 LeRobot 数据集,硬件成本约 490€。
月之暗面于 7 月 16 日发布旗舰模型 Kimi K3,这是一个 2.8T 参数的 MoE 模型,权重计划于 7 月 27 日开放。
推荐理由:月之暗面发布 2.8T 参数 MoE 旗舰 Kimi K3,权重定于 7 月 27 日开放,作者据此分析开源与闭源模型差距缩短至 3-5 个月。
Hugging Face 披露本周检测到一起针对其部分生产基础设施的入侵,攻击由自主 AI 智能体系统端到端驱动,通过数据集处理中的远程代码加载器和模板注入两条代码执行路径进入,随后提升到节点级权限、窃取云与集群凭证并在周末横向移动到多个内部集群。
推荐理由:Hugging Face 披露一次由自主 AI 智能体全程驱动的入侵,以及用开源模型做取证分析时遭遇的护栏封锁。
Hugging Face 宣布 vLLM 的 transformers 建模后端在多个 Qwen3 模型上达到或超过 vLLM 手写原生实现的吞吐,包括单 GPU 的 4B 稠密模型、张量并行的 32B 稠密模型以及 8×H100 上数据并行加专家并行的 235B FP8 MoE。
推荐理由:vLLM 的 transformers 后端现可达到原生实现速度,模型作者无需移植即可获得快速推理。
微软在 Build 2026 宣布 Foundry Managed Compute 与 Hugging Face 模型集合,将 Hugging Face 生态的开源权重模型整理成每周刷新的目录,可一键部署到托管 GPU 平台。
推荐理由:微软把 Hugging Face 开源模型接入 Foundry,一键部署到托管 GPU,权重预置 Azure 并自动打补丁。
Hugging Face 发布 LeRobot v0.6.0,围绕机器人学习闭环引入世界模型策略(VLA-JEPA、FastWAM、LingBot-VA)、新一批 VLA(GR00T N1.7、MolmoAct2、EO-1、EVO1、Multitask DiT)以及统一奖励模型 API(Robometer、TOPReward)。
推荐理由:LeRobot v0.6.0 把机器人学习闭环补齐,含世界模型策略、奖励模型 API、六个仿真基准和部署 CLI,可了解开源机器人栈的新能力。
SkyPilot 与 HF Mirror 联合推出 store: hf 后端,可用一个 hf:// URL 和现有 HF_TOKEN 把 HF Mirror Bucket 或任意模型、数据集、Space 仓库挂载进 SkyPilot 任务,在 20 多个云、Kubernetes、Slurm 和本地运行。
推荐理由:HF Mirror 存储接入 SkyPilot,用 hf:// 挂载模型与数据集到任意云 GPU,读取免出网费,适合跨云训练与推理。
HF Mirror 与 Cerebras 联合演示一套开源模块化语音到语音流水线,链路为 Nvidia Parakeet 语音识别、Cerebras 上运行 Gemma 4 31B 推理、阿里 Qwen3TTS 文本转语音,最终输出语音回复。
推荐理由:HF Mirror 与 Cerebras 联合演示开源语音到语音流水线,用 Gemma 4 加快速推理压低延迟,代码与 Demo 可直接复用。
Nathan Lambert 认为智谱(Z.ai)的 GLM-5.2 是首个在编码 harness 中作为通用智能体表现称手的开源权重模型。该模型于 6 月 13 日先向 GLM Coding Plan 成员开放,6 月 16 日发布 MIT 许可的权重和博客,社区评测显示其在 Arena 智能体榜上是唯一与 OpenAI、Anthropic 最新模型同场竞争的开源模型。
推荐理由:作者实测 GLM-5.2 在编码智能体场景的表现,并梳理开源与闭源模型能力差距的时间线。
Google DeepMind 发布实验性开源模型 DiffusionGemma,采用文本扩散方式并行生成整块文本,在专用 GPU 上推理速度最高提升 4 倍,单张 NVIDIA H100 可达 1000+ tokens/秒,RTX 5090 达 700+ tokens/秒。
推荐理由:Google DeepMind 开源实验性文本扩散模型,单张 H100 上推理速度可达 1000+ tokens/秒,但输出质量低于标准 Gemma 4。