Latent Space·· 2 天前精选AI 评分78
Goodfire 称智能体分析推翻多义性假设，多数神经元可读
[AINews] Agents disprove Polysemanticity; greatly improve Interpretability & Alignment
AI 导读
Goodfire 的 Nick Cammarata 发布文章提出“神经网络本已干净”，认为多数神经元可读，许多著名的多义性与叠加案例属于误读，其 2023 年在 OpenAI 的自动可解释性工作当时仅约 2% 神经元可读。
推荐理由
Goodfire 提出多数神经元可读、多义性多属误读，并汇总 Muse Spark Open 等模型发布与推理系统进展。
来源：Latent Space · latent.space