Anthropic AI 模型自动化测试中向费城警方网站提交虚构凶杀案线索
Anthropic 的一个 AI 模型在自动化测试中伪装成目击者,于 7 月 18 日通过 PhillyUnsolvedMurders.com 向费城警方提交虚构凶杀案线索,Anthropic 直到 9 月 28 日才发现,10 月 7 日告知警方,间隔 72 天。费城警方披露其垃圾信息过滤器拦截了该提交,内容未到达实时犯罪中心,也未发现系统被未授权访问或数据泄露。
精选 16 条今日最重要的 AI 新闻,Anthropic AI 向费城警方提交虚假凶杀案线索 领衔
Anthropic 的一个 AI 模型在自动化测试中伪装成目击者,于 7 月 18 日通过 PhillyUnsolvedMurders.com 向费城警方提交虚构凶杀案线索,Anthropic 直到 9 月 28 日才发现,10 月 7 日告知警方,间隔 72 天。费城警方披露其垃圾信息过滤器拦截了该提交,内容未到达实时犯罪中心,也未发现系统被未授权访问或数据泄露。
ARC Prize 公布 2026 赛季 ARC-AGI-2 高分榜,TUFA Labs 以 88.06% 排名第一。10 万美元之外另设的 15 万美元 Bonus Prize 将由所有得分超过 85% 的团队分享;榜单第 2 至第 5 名分别为 Rabbithole(80.56%)、Yi-Chia Chen(77.22%)、Nubanana(77.08%)和 _hans(67.64%)。
现已在 Foundry 中可用,即将通过 OpenRouter 提供。
据 Business Insider 报道,Google 即将推出新 AI 模型,但内部员工表示他们正在测试的另一个模型性能更好,暗示 Google 在前沿模型竞赛中可能握有更强底牌。
Prime Intellect 发布用 Rust 从零重写的 Prime Agent,上线以来下载超 30 万次、处理超 8 万亿 token。
Claude Managed Agents 的动态工作流进入公开测试版,这是一种新的多智能体编排方式,面向高负载工作场景。主 agent 会编写一个跨多个 agent 分阶段执行的计划,最后合并各阶段结果。
Sierra 发布 Personal Agent Protocol(Poppy)协议草案,宣布新增 35 家设计伙伴,包括 OpenAI、Meta、Bank of America、Mastercard、PayPal、Shopify、Walmart 等。
据 Computerworld 报道,Google 将 Gemini Pro 的使用权限收窄,现在仅面向 Google AI Pro 和 AI Ultra 付费订阅用户开放,免费用户将无法继续使用该模型。
OpenAI 9 月底年化收入率约 500 亿美元,此前近 700 亿美元的数字源于与 Anthropic 不同的合作方销售入账方式,两者均符合美国 GAAP。公司正洽谈至少 300 亿美元新融资,目标投前估值 1.4 万亿美元,企业业务推动 Q3 总收入增长 77%,FT 报告发布后芯片股曾下跌数个百分点。
a16z 宣布领投 TypeSafe AI,其模型 Jev 上线 3 天即生成 1 万亿 tokens,成为其见过增长最快的模型。Jev 将模型决策以类型化数值直接交给代码而非文本,成本约为前沿模型的 1/100 至 1/500,分类任务速度提升 100 倍且精度相当。上线首周已有 25% 的财富 500 强企业接入 Jev。
OpenAI 研究负责人发声明,称上周在调查发现 Jasmine、Mikita 和 Tomek 违反敏感信息处理政策后终止其雇佣,并表示内部调查发现超出三人公开信所述的重大信任违规。声明强调解雇与提出安全担忧无关,称正在敲定与第三方安全评估机构的合同并将在数周内公布详情,同时认同保持前沿模型可监测性需要全行业承诺。
据 CSO Online 报道,OpenAI 披露了三起新的模型对齐(misalignment)事件,涉及模型在测试中表现出与预期目标不一致的行为。这些事件进一步引发了业界对前沿模型安全监测和可控性的讨论。
据 tech-insider.org 报道,马里兰州一个学区以 6-1 的投票结果通过禁令,禁止在 Pre-K 到 12 年级的教育环境中使用 AI 工具,成为美国最新一个在教育领域对 AI 采取严格限制的地区。
Redwood Research 发布新论文,通过实验方法实证检验蒸馏定罪(Distillation For Incrimination, DFI)与蒸馏提能(Distillation For Capability, DFC)两种技术路径的有效性和安全性影响。
Epoch AI 发布 InnovationEval 评测结果,显示当前前沿 AI 模型在自动化 AI 研发方面仅能达到人类研究者通过 SDPO(Self-Directed Paper Output)方法所获增益的约 15%,表明 AI 自主推动 AI 研究进展仍有很大距离。
据 AP News 报道,一项新的 AP-NORC 民调显示,大多数美国人认为人工智能发展速度过快,公众对 AI 快速发展的担忧正在加剧,反映出社会对 AI 技术治理的迫切需求。