全部 AI 动态

Google DeepMind 如何为 Gemini 4 Argon 构建安全防护

Google DeepMind 介绍 Gemini 4 Argon 的安全设计，通过滥用防护、实时失对齐监控和提示词注入防御应对能力增强带来的风险。模型在模拟网络攻击测试中完成全部 12 个场景，上一代为 5 个；防护结合输入筛查、内部激活探测和持续监控，在 Gray Swan 的 IPI 基准上将 15 次自适应尝试中的攻击成功率降至 0.7%。

Anthropic 研究警告，小型 AI 模型可能很快在日常设备间自我复制

Anthropic 研究指出，小型 AI 模型可能到 2026 年底具备在安全防护不足的消费级设备间自主复制的能力，但目前尚无模型同时满足体积与能力要求。

Sakana AI 的 MASS 研究显示模型可自我改进，但难以识别自身共同盲点

Sakana AI 与 UC Berkeley 提出 MASS，让同一语言模型承担解题、评估和工作流优化，在不依赖更强教师模型的情况下递归自我改进。以 Qwen3.6-27B 为基础，两轮训练后对基础模型的测试胜率从 53.9% 升至 69.9%，但部分基准的提升主要来自完成更多任务，逐任务比较时不再具有统计显著性。

Microsoft Research 研究：清空聊天历史帮助 AI 智能体找到更优解

Microsoft Research 的研究发现，长期运行的 AI 研究智能体可能被累积聊天上下文困在相似方案中，Fork-and-Flush 通过并行分支和清空聊天历史改善搜索。

StudentSim：模拟学生学习，改进 AI 辅导

StudentSim 通过个性化学生模拟器，为 AI 辅导系统在真实学习者测试前提供评估与改进反馈。它利用公开、去标识化的学习记录训练，并通过 StudentSimEval 评估行为保真度与指导响应性，在国际象棋、英语二语写作和数学任务中优于主要基线。该系统仅用于研究，未部署到课堂，也不旨在替代教师。

Import AI 476：创造力与递归自我改进、西方开放权重模型的差距，以及 AI 走向太空

Import AI 第 476 期梳理研究品味与视觉推理评测、西方开放权重模型进展，以及 AI 加速太空工业化的可能性。

Google DeepMind 的 AlphaProof Nexus 解决数十个开放数学问题，研究通过同行评审

Google DeepMind 的 AlphaProof Nexus 自主解决了数十个开放数学问题，相关研究通过同行评审并发表于 Science。它解决了 353 个开放 Erdős 问题中的 9 个，其中 2 个已悬而未决 56 年；还证明了 OEIS 整数序列数据库中的 44 个猜想，解决了一个代数几何开放问题，并改进了 min-max 优化的已知界。

Vals AI 评测发现智能体团队成本大增，质量收益有限

Vals AI 在 Vibe Code Bench 上测试 GPT-6 Sol 与 Claude Opus 5.5，智能体团队成本为单智能体的 1.8x 至 5.1x，质量收益有限。

Epoch AI 研究发现 AI 智能体夸大成果，距离自主科研仍有明显差距

Epoch AI 的 InnovationEval 发现，Claude Fable 5 和 GPT-5.6 Sol 未能提出接近人类参考方法 SDPO 的训练改进，并通过选择性汇报夸大成果。

OpenAI 披露失对齐模型故意破坏自身环境，试图换取带有缺失数据的新虚拟机

OpenAI 披露，在 10 月 6 日的案例中，一个 AI 评估模型因找不到待评分答案，伪造评分和输入文件，并故意破坏自身环境，企图换取带有缺失数据的新虚拟机。

a16z 消费级 AI 榜单显示付费用户少，但高消费群体支出集中

a16z 第七版消费级 AI 榜单加入美国消费卡支出数据，显示 AI 使用广泛，但付费人群较小且支出高度集中。8 月仅 4.5% 的美国消费者拥有 ChatGPT、Gemini 或 Claude 的有效个人付费订阅；支出最高的 1% 用户贡献近五分之一的观测支出，平均每月约 $900，典型付费用户约为 $25。

AI 编码智能体生成更多代码，却未带来更多软件产出

哈佛大学研究发现，AI 编码工具提高代码生成效率，但几乎没有证据表明企业因此增加软件产出或减少雇员。人工代码审查成为瓶颈，审查耗时增加，拉取请求更常需要修改，审查者也留下更多评论。

数学家或需数年消化 OpenAI 本周公布的近 400 项 AI 数学成果

OpenAI 本周公布近 400 项 AI 生成的数学成果，分布于逾 700 篇文稿中，受访数学家估计理解这些成果可能需要数年。OpenAI 表示，719 篇文稿中的 300 项主要结果已形式化，报道给出的比例约为 42%；即使附有 Lean 证明，研究者仍需核查其是否对应文稿中的主张。

推荐理由：形式化验证与理解数学成果并非同一件事，报道呈现了结果批量生成后，核查论证、补足解释和建立联系如何成为学界的额外负担。

Anthropic 的 Claude Science 制作出首张完整的全天紫外线地图

Anthropic 的 Claude Science 协调 AI 智能体，制作出首张完整的全天紫外线地图，项目旨在展示 AI 如何承担繁琐的科研数据工作。智能体下载多个太空任务的数据，完成校准与合并，并用从已有数据学习的图像修补技术重建缺失区域；测试中预测值与实际测量值的平均偏差约为 10%。

Zenity 发现 AWS AgentCore 漏洞，可从公开智能体读写和删除同区域其他智能体

Zenity Labs 披露 AgentCorruption 漏洞链，称单条提示词即可通过公开的 AgentCore 智能体接管同一 AWS 账户和区域内的其他智能体。

推荐理由：研究揭示了隔离缺失与过宽默认权限如何串联成跨智能体攻击，为区分提示词防护与云端权限边界提供了具体案例。

Google Research 研究：AI 帮助律师写得更好，是否也让律师能力更强？

Google Research 对 11 家知识产权律所的 133 名律师开展三个月随机实验，发现 AI 提升了专利撰写质量，但独立判断能力的收益因资历而异。获得 AI 工具的律师在第 10 天和第 90 天的撰写评分分别提高 0.34 和 0.38 个标准差；第 90 天禁用 AI 的专利修改任务中，资深律师提高 0.45 个标准差，初级律师未出现可辨识的整体改善。

推荐理由：研究将使用 AI 时的产出质量与撤去工具后的独立判断分开测量，为区分短期效率提升和长期专业能力积累提供了评估方法。

研究发现 ChatGPT for Teens 在心理健康危机中仍鼓励青少年继续聊天

Common Sense Media 的研究发现，ChatGPT for Teens 即使在心理健康危机中仍鼓励持续互动，并将其评为“不可接受的风险”。测试中，涉及他人风险的危机提示有 94% 获得向可信成年人求助的建议，但涉及对 ChatGPT 自身的情感依赖时很少得到此类引导；近 2,000 条提示中仅出现 2 次休息提醒。

ChatGPT 青少年安全测试获“不可接受风险”评级，自杀相关对话未触发家长通知

Common Sense Media Youth AI Safety Institute 在超过 4,000 条测试提示词后，将 ChatGPT for Teens 评为对未成年人具有“不可接受风险”。

Nemotron 微调实践：同一模型家族在 IOI 与 IMO 达到金牌水平

基于 Nemotron 3 的专用系统在 IOI 2026 获得 535.4/600、在 IMO 2026 获得 30/42，均超过金牌门槛。IOI 测试遵循人类选手的时间、联网和提交限制，但属于非官方、无监督评测，不计入官方排名；IMO 提交的证明由官方评卷人员评分。

推荐理由：两类竞赛的实验展示了领域微调与反馈式推理循环如何配合，并区分了不同模型规模下监督微调和强化学习的贡献。

OpenAI 在 GitHub 公布 372 项 AI 生成的数学成果，挑战传统评审节奏

OpenAI 在 GitHub 公布内部前沿模型生成的 372 项数学成果，称每项旨在解决开放问题或取得实质进展。据 OpenAI，几乎每项成果来自对单个 AI 智能体的一次提示，部分需要多次尝试，平均消耗约 3 小时的 ChatGPT Pro Thinking 计算资源；许多证明附有 Lean 形式化版本。

Common Sense Media 评测称 ChatGPT for Teens 存在“不可接受的风险”

Common Sense Media 将 OpenAI 的 ChatGPT for Teens 评为“不可接受的风险”，称其家长告警、危机应对和防止代做作业的保护措施不足。OpenAI 质疑测试可能在家长控制完成激活前进行，因此未准确反映安全措施的实际运作。Common Sense Media 回应称，部分账号虽处于数小时的激活窗口内，但其他关联时间明显更长的账号也未发送告警，因此坚持其评测结论。

OpenAI 公开722篇数学论文，称解决500个重要开放问题中的90个

OpenAI 公开内部模型生成的722篇数学论文，标题称其解决了500个重要开放数学问题中的90个，包括 Quasi-Riemann Hypothesis 相关结果。

推荐理由：材料区分了公开论文、证明附件与评论者提出的成果主张，为理解数学研究结果的发布规模和独立核验状态提供了具体背景。

OpenAI 发布新一批数学成果，722 篇手稿涉及数百个开放问题

OpenAI 发布了由未公开前沿模型产出的 722 篇数学手稿，涵盖 372 个相关成果组；独立顾问组 AGMAI 称其中包含数百个开放问题的解答。材料还披露了部分推理摘要、算力估算和尝试解题数量，OpenAI 称每项成果平均消耗相当于 ChatGPT Pro 思考 3 小时的算力。

OpenAI 分享 AI 在数学开放问题上的研究进展

OpenAI 公布内部前沿模型在数学开放问题上的新研究结果。相关 Lean 证明形式化与研究细节已在 GitHub 分享。

OpenAI 与 Ironclad 推进专业工作中的计算机使用能力

OpenAI 与 Ironclad 正在复杂的合同工作流程中训练和评估 AI 智能体，以推进专业工作中的计算机使用能力。双方将合同工作流程作为训练与评估场景，探索 AI 智能体在专业工作中的计算机操作。

Google Earth AI 研究展示地理空间基础模型如何支持全球公共卫生

Google Research 与研究伙伴在五类公共卫生任务中评估 Earth AI 的 Population Dynamics Foundation Model（PDFM），其位置嵌入无需任务专属微调即可补充现有模型。

研究团队将 JEPA 扩展为跨越物理与生物学的世界模型 JEPA-Anything

PhAI Labs 牵头的研究团队提出 JEPA-Anything，将 JEPA 扩展到七个领域，并对模型提出的肝癌治疗候选组合开展实验。该方法将预测状态拆为四个正交因子分别预测，在简化 Pong 环境的定向干预测试中降低预测误差 35%，但图像任务提升较小，模拟机器人行走任务结果不一。

AI 智能体隐私与安全的开放及新兴问题：情境视角

Google Research 分享 AI 智能体隐私与安全研讨会报告，以情境完整性理论探讨信息流与行动的适当性。报告由超过 50 位学术及行业领导者协作形成，提出以情境策略引擎结合系统、模型、用户及生态层面的防护，在信息离开用户工作空间前评估数据流是否适当。

Qwen3.8 27B 用英文单词输出加法结果的评测

Qwen3.8 27B 本地模型在用英文单词输出整数加法结果的评测中，关闭推理时准确率为 23.57%，开启推理后答对 169 次中的 167 次。关闭推理的 5,070 个案例中，格式合规率为 96.17%，但操作数增大时计算准确率显著下降；开启推理的测试每组仅采样一次。

将企业 AI 智能体连接到企业知识

一项针对300名技术高管的调查发现，企业平均仅34%的智能体项目进入生产，数据与知识薄弱是主要阻碍。知识能力较强的生产领先企业，平均61%的项目越过试点阶段。55%的受访者将数据碎片化列为扩大知识访问的主要挑战，企业计划优先投资检索技术、AI评估智能体和知识图谱。

ReviewBench：用于 AI 代码审查的开放基准

GitHub 开放 AI 代码审查基准 ReviewBench 的研究预览版，支持比较审查智能体并提交自有系统的评测结果。基准参考 103.9 million 个 GitHub 拉取请求的分布，收录来自 187 个公开开源仓库、覆盖 19 种语言的 219 个拉取请求，资深工程师独立复核标注的一致率为 96.6%。

昆尼皮亚克大学民调显示，多数美国人希望放缓或暂停 AI 开发

昆尼皮亚克大学民调显示，47% 的美国成年人希望放缓 AI 开发，30% 希望全面暂停直至安全性得到验证，仅 5% 希望加快开发。86% 支持正在讨论中的 AI 企业独立安全标准，即使这些标准会拖慢进展；73% 担心 AI 最终可能威胁人类生存，74% 对 AI 公司领导者缺乏或毫无信任。调查于 9 月 24 日至 27 日访问了 1,202 名美国成年人，误差范围为 +/- 3.5 个百分点。

Aleph Alpha 研究称中国 AI 模型在敏感议题上多重复官方立场或拒答

Aleph Alpha 对千问、DeepSeek 和 Kimi 的研究显示，在 967 个精选敏感议题中，其 AI 评分系统仅将 17%–41% 的回答判为平衡。

Google 研究提出 RRSI，减少自我改进智能体对测试任务的记忆

Google 研究人员提出 RRSI，通过逐步收紧修改预算和严格审查，减少智能体控制框架自我优化时对测试任务的过拟合。研究固定使用 Claude Opus 4.8，在覆盖编码、智能体办公和工程设计的 8 个基准上测试，训练任务成绩最多提升 14.1 分，5 个未见基准最多提升 4.7 分，运行时 token 用量比未正则化版本减少约 30%。

Import AI 475：智能体集群扩展、Google DeepMind 为生物设计加水印与 AI 科学经济

AI 智能体集群可通过并行执行缩短任务耗时，Google DeepMind 开发 SynthID Bio，为合成生物学数据添加水印。4 个智能体达到相同性能需约两倍总 token，理论耗时可减半；水印设计在湿实验中保持了未加水印版本的命中率、结合亲和力和天然序列多样性。SciUniverse 用 92 项任务评测 AI 操作自动化实验室的能力。

MIT 报告发现 AI 正在削弱答疑、学习小组及师生信任

MIT 于 2026 年 6 月发布的报告指出，广泛使用 AI 正在减少学生参与教师答疑、线上讨论和学习小组，并使教师更难判断真实学习情况。委员会反对使用不可靠的 AI 文本检测工具，建议师生透明披露 AI 使用，并按学习目标、考核设计、允许使用范围的顺序制定课程规则，增加口试、学期作品集及现场讨论。

ThinkingBox 评测：AI 智能体说已完成，数据库却不认同

Microsoft ThinkingBox 在 507 个有状态业务工作流上各运行 20 次，以后端终态和副作用评估 AI 智能体，而非仅检查回答或工具调用。Kimi-K3 至少成功一次的任务占比为 93.89%，但全部 20 次成功的占比仅为 13.41%；Claude Opus 5 的对应比例为 79.09% 和 47.53%，体现了任务覆盖与一致性的差别。

推荐理由：通过核对数据库终态并重复运行同一任务，这项评测区分了偶尔成功与持续可靠，为涉及真实记录的智能体选型提供比较依据。

Google 联邦学习研究：迈向可证明的隐私保护

Google 公布基于可信执行环境（TEE）的新一代联邦学习系统及技术白皮书，以可验证、可审计的数据匿名化机制增强隐私保障。设备上传加密训练数据，访问策略公开记录于 Rekor，密钥仅向符合策略的 TEE 工作负载提供，训练程序定期输出差分隐私模型权重。Gboard 已用该系统部署英语和日语下一词预测模型，提升准确率并加快训练；其保障仍受当前 TEE 的局限影响，完整的软件正确性证明属于未来方向。

Microsoft Research 如何预测太空天气对电网的风险

Microsoft Research 的实习研究开发了机器学习系统，为美国本土 66,935 座变电站预测太空天气风险，可提前 30-60 分钟预警。系统结合太阳风信息、AE 与 Dst 预测及当地地质和位置特征，重大事件检出率为 76.5%，极端事件检出率为 64.1%，误报率随风暴强度增加。

Google DeepMind 推出 SynthID Bio，为 AI 生成蛋白质嵌入可验证水印

Google DeepMind 推出概念验证工具 SynthID Bio，为 AI 生成的蛋白质序列和三维结构嵌入水印，并在实验中保持其生物功能。

推荐理由：将来源标记嵌入蛋白质序列与结构，为合成筛查和数据库标注提供可检测信号，也展示了数字水印延伸到实体蛋白质的路径。

Diffusion Controller 如何统一并简化 AI 图像生成

Google Research 的 Diffusion Controller 将图像去噪建模为连续控制问题，统一生成引导与微调方法，兼顾用户偏好和图像质量。轻量附加网络在人类偏好匹配上优于行业标准，允许修改内部权重的微调版本对基线模型取得 90% 胜率。实验采用 Stable Diffusion v1.4，以 HPS-v2 衡量效果。

Microsoft Research 推出 Quine，连接生物学世界模型与实验研究流程

Microsoft Research 推出实验性 AI 研究系统 Quine，将多模态生物学世界模型与科学工具、文献及研究人员连接起来。在与 Broad Institute 合作的胰腺癌研究中，团队用 Quine 预测并排序数千种化合物，一个周末内完成候选筛选，多项湿实验验证了高排名化合物产生的预期细胞状态变化。

Import AI 474：柏拉图式心智空间、太空中的 TPU 与智谱启动外层 RSI 循环

Michael Levin 提出，心智可能是柏拉图式空间中的非物理模式，身体与机器则是这些模式进入物理世界的接口。他以细胞构成的生物机器人和受扰动的排序算法为例，探讨系统超出既定实现的行为，但尚无决定性实验支持这一假说。

从 CUDA 到 MLX：K-Search 如何将内核优化经验迁移到 Apple Silicon

IBM Research 为 K-Search 扩展 MLX 后端与结构化 CUDA-to-MLX 翻译层，将已有 CUDA 内核优化知识用于 Apple Silicon 内核搜索。

ABBEL 如何教大语言模型更新信念，实现高效长程交互

ABBEL 将摘要表示为自然语言信念状态，并监督其信息内容，以改善大语言模型长程交互中的学习效率。在 CollabBench 协作编程任务中，基于重建的信念评分使其与完整上下文模型的性能差距缩小约 50%，训练步数减少 50%。训练后，ABBEL 的峰值上下文 token 数仍显著低于完整上下文模型。