Goodfire 称智能体分析推翻多义性假设,多数神经元可读
Goodfire 的 Nick Cammarata 发布文章提出“神经网络本已干净”,认为多数神经元可读,许多著名的多义性与叠加案例属于误读,其 2023 年在 OpenAI 的自动可解释性工作当时仅约 2% 神经元可读。
推荐理由:Goodfire 提出多数神经元可读、多义性多属误读,并汇总 Muse Spark Open 等模型发布与推理系统进展。
值得关注的开源项目与仓库:新项目冒头、star 暴涨的工具、版本发布与社区生态变化。
Goodfire 的 Nick Cammarata 发布文章提出“神经网络本已干净”,认为多数神经元可读,许多著名的多义性与叠加案例属于误读,其 2023 年在 OpenAI 的自动可解释性工作当时仅约 2% 神经元可读。
推荐理由:Goodfire 提出多数神经元可读、多义性多属误读,并汇总 Muse Spark Open 等模型发布与推理系统进展。
Black Forest Labs 发布 FLUX.3 Image Klein,一个模型同时支持文生图、多参考图生图和边界框布局控制,Diffusers 首日即可运行。
推荐理由:FLUX.3 Image Klein 在 Diffusers 首发支持,一个模型同时做文生图、多参考图生图和边界框布局控制,蒸馏版在 H100 上约 2 秒出 1024×1024 图。
Meta 发布开源权重模型 Muse Spark Open,采用 MoE 架构,总参数约 816B、每 token 激活约 42B,上下文窗口最高 100 万 token,支持文本、图像、音频和视频输入并输出文本。
推荐理由:Meta 开源 816B 参数 MoE 多模态模型,支持文本图像音频视频输入,附 vLLM、SGLang、llama.cpp 部署与 TRL 微调配方。
IBM 发布 Granite Switch 4.1,包含 Granite-Switch-4.1-8B 和 -30B,在基座模型上组合通用决策 aLoRA、Guardian 安全决策 aLoRA 以及 OpenASR 榜单上最快的 ASR 模型 Granite-Speech-5.0-Turbo-CTC,全部能力共用一个托管端点,GPU 显存占用与基座模型单独运行大致相当。
推荐理由:Granite Switch 4.1 把决策适配器与 ASR 模型组合进单一端点,显存占用接近基座模型,可了解多能力复用 KV cache 的部署思路。
Meta 发布 Muse Spark Open 开源权重模型,总参数量 8160 亿,自称是迄今能力最强的美国开源权重模型,也是同类中首个能在两台搭载最新 MLX 框架的 Apple M5 Ultra Mac Studio 上本地运行的模型。
推荐理由:Meta 发布 816B 参数开源权重多模态模型,并首次与 Apple 合作通过 MLX 在两台 Mac Studio 上本地运行。
Meta 的编码优化开源权重模型 Muse Spark Open 已在 Amazon SageMaker JumpStart 上线,可在自己的 AWS 账号中部署到 SageMaker AI 端点。
推荐理由:Meta 的编码优化开源权重模型上线 SageMaker JumpStart,给出两种量化变体与对应实例,并附部署和推理步骤。
微软研究院发布零知识虚拟机 Magnetar,可证明用 Rust、Go 或 C 编写的程序执行过程,并生成约 12 毫秒即可验证的短证明。它在笔记本上每秒可证明 720 万至 870 万条 RISC-V 处理器指令,在 15 个基准程序上平均比现有最快的 zkVM 快 10 至 39 倍,在代币转账基准上比另外两个系统快 300 倍以上。
推荐理由:微软研究院发布 zkVM 系统 Magnetar,用标准哈希函数证明 Rust、Go、C 程序执行,速度较同类系统提升 10 至 39 倍。
NVIDIA 发布 Nemotron 3.5 Super VL,一个 120B 参数的开源多模态模型,面向持续在后台运行的企业智能体,处理文本、图像、文档和视频,采用 MoE 架构,每个 token 仅激活 120B 中的 12B 参数。
推荐理由:NVIDIA 发布 120B 开源多模态模型与两款端侧小模型,公开权重、数据集和训练配方,并给出吞吐与压缩数据。
一位开发者用 Claude 搭建 hw-harness,在 KVM 虚拟机中运行厂商 Windows 驱动并用 usbmon 抓取 USB 流量,再与 Linux 驱动抓包对比,把差异变成具体的驱动 bug 清单。
推荐理由:作者用 Claude 在 KVM 虚拟机中抓取 Windows 驱动 USB 流量并与 Linux 驱动对比,为无文档硬件写出可用驱动,方法已整理成通用 harness。
XERJ 是一个 Apache 2.0 许可的本地 AI 搜索工具,可自动索引任意文件夹,让编码智能体按需检索代码片段而不是逐个读文件。官方在 8 个任务、4 种语言、每种 16 次运行的对照测试中称,输出 token 比 grep 驱动方式少 2.7 倍、比纯记忆少 26 倍,解题率同为 16/16;用户反馈实际开发中约省 5 倍 token。
推荐理由:本地 AI 搜索工具,把任意文件夹索引成可查询索引,让编码智能体按需取代码片段而非整文件读取,附实测 token 对比与安装命令。
LightSeek Foundation 发布开源 LLM 推理引擎 TokenSpeed,面向智能体负载,目标是在生产场景提供 TensorRT-LLM 级性能与 vLLM 级易用性。
推荐理由:面向智能体负载的开源推理引擎,控制面与执行面分离,已适配 Qwen、Kimi 等模型并给出吞吐数据。
OpenCode 2.0 发布,服务端改为在本机自动常驻的后台进程,TUI、网页界面和桌面应用共用同一进程,@opencode/client 可自动发现本地服务。
推荐理由:OpenCode 2.0 把客户端/服务端架构、Code Mode 和后台子智能体整合进编码智能体,并列出升级时的破坏性变更。
AxiomCode 发布 AxiomCode Graph,通过形式化方法为代码库构建知识图谱,让编码智能体基于调用关系而非 grep 来理解和修改代码。在 748 个 Defects4J 缺陷上,其选出的测试覆盖 94.9% 缺陷的全部暴露测试,优于基于 tree-sitter 的 61.5%;Java 调用解析准确率 96.5%,TypeScript 为 88.8%。
推荐理由:用形式化方法为代码库建调用图,让编码智能体少走弯路,附 Defects4J 测试选择与调用解析对比数据。
香港大学数据智能实验室(HKUDS)开源 CLI-Anything,通过 7 阶段流水线为任意有源码的软件自动生成 Agent 可调用的 CLI harness,覆盖 GIMP、Blender、LibreOffice、OBS Studio 等 18 款应用,累计 2461 项测试全部通过。
推荐理由:把任意有源码的软件自动生成 Agent 可调用的 CLI,附 7 阶段流水线和 2400 多项测试,适合想让智能体操作真实桌面软件的场景。
Graft 是一个面向智能体规模 monorepo 的开源版本控制实现,按 Anthropic 公开描述的源码控制设计重写,作者声明与 Anthropic 无关联、不含其代码。
推荐理由:面向智能体规模 monorepo 的开源版本控制实现,把历史、diff、合并等操作放到服务端,附与 git 的基准对比和可复现脚本。
面壁智能与 OpenBMB 开源 MiniCPM-V 4.7,含 35B-A3B 和 1B 两个版本,前者是 MiniCPM-V 系列首个 MoE 模型,约 3G 内存即可在 iOS、安卓设备上流畅运行,解码速度每秒 13 个 token 以上。
推荐理由:面壁开源 MiniCPM-V 4.7,35B-A3B 的 MoE 在 iPhone 上断网运行仅占约 3G 内存,可看端侧多模态的落地边界。
Liquid AI 发布 LFM2.5-24B-A2B,一个 24B 总参数、仅 2B 激活参数的推理模型,面向端侧私有智能体,会先思考再作答并支持工具调用。
推荐理由:Liquid AI 发布 24B 总参数、2B 激活参数的端侧推理模型,主打工具调用与本地智能体,附完整基准与部署方式。
AWS 发布教程,介绍用 AWS DLC for llama.cpp 在 Amazon SageMaker AI 上部署决策模型,先通过 InvokeEndpoint 提供 OpenAI 兼容的 chat completions,再用 SemIf 适配器返回声明选项上的概率而不生成答案 token。
推荐理由:AWS 官方教程,给出在 SageMaker AI 上用 llama.cpp 部署决策模型的完整步骤与 CPU/GPU 基准数据,含可直接运行的代码示例。
NVIDIA 在 OCP Global Summit 上通过开放 MGX 架构向 OCP 贡献 Vera Rubin 机架与计算托盘设计,并发布 MGX 1.2 规范,新增机架级盲插液冷、可互操作机架级互联和面向高功率 AI 系统的液冷 5,000A 母线,支持最高 250kW 机架部署。
推荐理由:NVIDIA 在 OCP 峰会上把 Vera Rubin 机架与计算托盘设计捐给 OCP,并公布 MGX 1.2、DSX OS 开源组件等一揽子开放基础设施进展。
微软开源 bitnet.cpp,这是面向 1-bit LLM(如 BitNet b1.58)的官方推理框架,提供在 CPU 和 GPU 上快速无损推理的优化 kernel,NPU 支持后续推出。
推荐理由:微软开源 1-bit LLM 推理框架 bitnet.cpp,给出 CPU/GPU 上的加速与能耗数据,并放出官方 1-bit 模型与嵌入模型。