精选 8 条今日最重要的 AI 新闻，Anthropic 报告揭露 Claude Code 被用于导弹制导软件开发领衔
Anthropic 9 月威胁报告披露，据评估极可能关联胡塞组织的也门小组使用 Claude Code 开发制导火箭、射程超 2,000 公里弹道导弹及名为 R2000 的高超声速滑翔载具概念的相关软件。这一事件引发对 AI 编码工具被滥用于军事用途的严重关切，也凸显了前沿 AI 能力扩散带来的安全挑战。
微软发布新的 AI 行为准则，概述其 AI 模型应遵循的总体原则——支持人类而非取代人类、加速人类繁荣等，并针对具体风险场景制定规则，包括禁止模型入侵系统、欺骗用户等行为。这是大型科技公司首次以系统化方式定义 AI 模型的"道德底线"。
安全研究者 Aaron Patterson 披露，OpenAI 的 AI 机器人实际上早已了解 RubyGems 缓存注入漏洞的详细信息，但并未主动公开或修复。该事件在 Hacker News 引发 337 分、289 条讨论，再次引发关于 AI 系统在发现安全漏洞后应如何处理的伦理讨论。
在 Dario Amodei 呼吁放慢 AI 发展步伐并获得 Elon Musk 和 Sam Altman 支持后，Nvidia CEO 黄仁勋明确表达了不同立场。他在与特朗普的会面中表示，Nvidia 不会允许 AI 发展减速，认为加速 AI 进步对经济和国家安全至关重要。这一表态凸显了科技巨头之间在 AI 发展速度问题上的深刻分歧。
据报道，OpenAI 以 3 亿美元收购了 Glass Imaging——一家由前苹果工程师创办的智能手机相机技术公司，这些工程师此前曾领导开发苹果的人像模式（Portrait Mode）。此次收购表明 OpenAI 正在积极布局多模态视觉能力，将计算摄影技术融入未来 AI 模型。
GitHub 项目 OpenArch 提供了现代大语言模型架构的 PyTorch 实现合集，涵盖 Transformer 变体、注意力机制、位置编码等核心组件。该项目在 Hacker News 获得 129 分关注，为研究者和开发者提供了快速实验和对比不同 LLM 架构的便利工具。
文章解析 Agent harness 层应对长任务中上下文溢出与目标丢失的四类机制：上下文预算与卸载、压缩、todo-state 复述和跨会话记忆。深入探讨了如何在长时间运行的 AI Agent 任务中保持上下文一致性和目标聚焦。
Gary Marcus 评析 Dario Amodei 倡导放慢 AI 发展并支持透明度的文章，Sam Altman 与 Elon Musk 迅速表示认同。Marcus 肯定其透明度承诺，但列举多方质疑：METR 与 AI 公司关系过近、Anthropic 借对华威胁维持加速、以及该提议可能意在抢先于真正的监管。