Latent Space·· 4 天前AI 评分75
Goodfire 提出神经网络已足够清晰，Neel Nanda 等人提出反驳
[AINews] Agents disprove Polysemanticity; greatly improve Interpretability & Alignment
AI 导读
Goodfire 的 Nick Cammarata 发布文章提出工作理论，认为神经网络已经足够清晰，许多已知的多义性和叠加现象经进一步的智能体分析即可拆解；他提到 2023 年在 OpenAI 的自动可解释性工作只发现约 2% 的神经元可读，并称不少著名的多义示例被误读。
来源：Latent Space · latent.space