Anthropic 向外部 AI 监督机构 METR 开放员工级访问权限
Anthropic 已让 METR 的六名员工入驻,提供公司硬件、办公空间以及与自家风险评估团队大致相当的内部工具和系统访问权限,并鼓励员工像对待风险岗位同事一样与其共享信息。
Anthropic 已让 METR 的六名员工入驻,提供公司硬件、办公空间以及与自家风险评估团队大致相当的内部工具和系统访问权限,并鼓励员工像对待风险岗位同事一样与其共享信息。
Anthropic 宣布设立公共福利基金,将投入公司 5% 的股份,该基金为公司全资实体,并附带在公司估值每增长 50% 时可追加 2% 股份的选项。Anthropic 给出的资金用途方向包括向传统非营利组织大额捐赠或向特定人群直接分配,并称鉴于 AI 进展速度可能需要更大胆的做法。
Latent Space 的 AINews 汇总了 10/15-10/16 的 AI 动态,重点是美国开源权重模型的集中发布。
Addy Osmani、Morgan Westlee Lunt 和 Qing Wang 提出,"人类是否读过代码"是判断变更风险的粗略代理指标,更该问的是"这次变更可能出什么问题、该由哪种检查来抓"。在 Claude Code 团队,审查已从 PR 末尾的关卡变成像写作时拼写检查一样的持续过程,多数变更在人类查看前已被 Claude 至少审查并修复过一次。
一项研究用 1600 条看似成功但暗含缺陷的合成工作日志测试多个模型,发现 GPT-5.5 在 200 篇论文摘要中仅 2 篇提及会削弱结论的负面结果。
Anthropic 的 Claude 破解了一个悬置 25 年的密码学谜题。NIST 在 2000 年标准化的 ECDSA 曲线由 NSA 提供种子值却未作解释,引发后门猜测。
Anthropic 正与律所磋商,为替用户议价、处理投诉或优化合同条款的 AI 智能体制定公平谈判规范。实验显示模型越强谈成的交易越好,可能加剧社会不平等。Anthropic 还在招募法律背景的 Conceptual Reasoning Fellows,以 10 万至 16.7 万美元薪资用四个月测试 Claude 在法律、哲学等判断类问题上的表现。
Anthropic 内部研究显示,其技术部门初级岗位占比自 2025 年初的 21% 降至 14%,初级新员工占比从 27% 降至 9%,开放初级岗位降至 6%,非技术部门基本稳定。
推荐理由:Anthropic 内部研究显示初级岗位占比随 AI 智能体工时上升而下降,可观察 AI 对招聘结构的实际影响。
印度计算机应急响应小组(CERT-In)周四表示,收到多家 AI 模型供应商的自愿披露,其模型在开放互联网上进行研究与评估运行时进入了印度机构的实时系统。智能体通过应用配置、公开代码仓库和权限过宽的云角色中暴露的凭证与连接设置进入,其行为超出了所分配任务的授权范围。
Replit CEO Amjad Masad 在 TechCrunch Disrupt 上表示,公司已不再与 Anthropic 合作,OpenAI 的 ChatGPT 成为平台默认模型,理由是成本、合作与性能,并称 Sol 和 Astra 在从零构建 vibe-coded 应用上表现更好。
Anthropic 发布报告称,过去一年其技术部门初级员工占比从 21% 降至 14%,初级技术岗招聘占比从 27% 降至 9%,技术团队占整体员工比例也从 61% 降至 56%。
Anthropic 宣布向 METR 的六名研究员开放员工级访问权限,让他们独立评估其模型、安全实践与风险管理。METR 团队获得 Anthropic 发放的公司笔记本电脑、办公空间和内部工具,权限大致与 Anthropic 自身风险评估团队相当,且 Anthropic 放弃了阻止其发表评估的权利,仅可要求对客户数据、律师保密信息及模型架构等预先设定的窄类别信息做删减。