跳到正文

#数据/训练

今日 2 条
今天10月16日周五
  1. Hacker News · Front Page83

    神经网络本就是干净的:一项对叠加假说的重新检验

    作者在数月研究图像与语言模型神经元后提出,此前被视为多义性与叠加假说的典型证据多被误读,网络把概念任意打包的现象主要是递归泛化,即神经元沿多个方向生长出相关分支。

    推荐理由:作者用图像与语言模型的神经元实验反驳叠加假说,提出递归泛化解释,并给出可复现的观察方法。

  2. The Decoder83

    GPT-6-Astra 在理论物理基准中解出 50 题中的 49 题,单题成本不到 3 美元

    一项新基准测试让商用 AI 智能体在无人工提示下解理论物理研究题,GPT-6-Astra 在 OpenAI 的 Codex 环境中答对 50 题中的 49 题(98%),平均每题成本不到 3 美元,整套基准约 116 美元。

    推荐理由:一份理论物理论文基准显示,GPT-6-Astra 在 Codex 中解出 50 题中的 49 题,单题成本不到 3 美元,并讨论了 AI 对物理研究训练与资源分配的影响。

10月15日周四
  1. Simon Willison66

    Anthropic 向投资人披露季度营收增至 16.8 亿美元,IPO 前蒸馏收入占比 5% 至 7%

    Anthropic 在 IPO 前向投资人披露,季度营收环比增长近 50% 至 16.8 亿美元,其中 Q1 约 4.8 亿美元、Q2 为 11.5 亿美元、Q3 为 16.8 亿美元。Q3 每支出 1 美元算力对应 1.70 美元收入,剔除股权激励后的调整后营业利润率为 11%。Anthropic 还告知投资人,蒸馏贡献了 5% 至 7% 的收入,并已在第三季度大幅削减这部分用量。

    推荐理由:Anthropic 在 IPO 前向投资人披露季度营收与利润率,并首次给出蒸馏占收入的比重,可看其商业结构。

  2. Ars Technica · AI62

    研究者用 AI 设计可切割其他蛋白的酶

    研究者用基于 AI 的蛋白设计工具,保留两类蛋白酶起催化作用的核心,替换掉蛋白其余部分,得到可定向把特定蛋白切成两半的酶。他们用这些酶切割与神经系统疾病相关的蛋白,验证了其有效性。研究者的做法相当于跳过了蛋白酶自然演化中催化核心之外的多样化过程。

10月13日周二
10月11日周日
10月10日周六
10月9日周五
  1. Hugging Face Blog(hf-mirror 镜像)78

    作者用 ML Intern 两天做出六个小模型,总算力成本约 103 美元

    作者在 HuggingChat 中开启 ML Intern,用自然语言描述需求,两天内做出六个模型,包括 0.8B 的 Pocket Rewriter、柑橘病害 VLM、Huggy 与相机角度 LoRA 等,总 GPU 与 CPU 算力费用约 103 美元。

    推荐理由:作者用 ML Intern 在两天内从零做出六个小模型,含提示词写法、预算控制与每项算力成本,可迁移到自己的微调任务。

10月8日周四
  1. Microsoft Research71

    微软开源 Agent Lightning v1.0,约 3500 行的轻量 Agent RL 框架

    微软研究院开源 Agent Lightning v1.0,一个约 3500 行的轻量 Agent RL 框架,提出 Harnessed Agentic RL 范式,让部署时使用的 agent harness 直接参与强化学习,无需在训练框架内重新实现智能体。

    推荐理由:微软开源约 3500 行的 Agent RL 框架,让部署用的 harness 直接参与训练,并给出编码智能体的完整训练示例。

  2. Hugging Face Blog(hf-mirror 镜像)71

    NVIDIA 微调 Nemotron 3,在 IOI 2026 与 IMO 2026 双双达到金牌水平

    NVIDIA 团队从 Nemotron 3 出发,用监督微调、强化学习和反馈驱动的推理流程,在 IOI 2026 与 IMO 2026 上分别取得 535.4/600 和 30/42 的成绩,均超过金牌线。

    推荐理由:NVIDIA 用 SFT、RL 加生成-验证-精修流程把 Nemotron 3 微调成 IOI 与 IMO 双金牌级专家模型,并公开数据与配方。

10月7日周三
10月6日周二
  1. The Decoder62

    韩国拟投 4.7 万亿韩元打造本土前沿 AI 模型

    韩国计划通过政府股权投资投入 4.7 万亿韩元(约 34.9 亿美元)开发本土前沿模型,资金列入 2027 年预算草案,尚待国会批准。另一条资金线用于推动韩国自研模型在本国经济中的采用,政府还将启动面向初创企业的公开竞赛,LG AI Research、SK Telecom 和 Upstage 的现有入围者不会自动获得额外资金。

  2. Hacker News · Front Page78

    Reflection 发布首个开放权重模型 Beam,501B 稀疏 MoE 主打编码与智能体

    Reflection 推出首个开放权重模型 Beam,采用稀疏 MoE 架构,总参数 501B、激活 23B,面向编码、推理与智能体任务,预训练使用 23.8 万亿 token,RL 阶段在 10.5K 张 NVIDIA GB300 GPU 上运行 4 周、生成超 1 亿次 rollout。

    推荐理由:Reflection 发布首个开放权重模型 Beam,501B 稀疏 MoE、23B 激活,主打编码与智能体任务,本月将放出权重与技术报告。

10月5日周一