AI 系统的竞争，正在从“信息更新”转向“可信实操”。

一篇新的 arXiv 论文提出了 PlanFlip，这是一个针对多智能体 LLM 系统规划阶段的提示注入攻击框架。作者在 3,479 个测试回合和九个前沿模型上评估后报告称，注入到规划器上下文中的内容可以通过级联放大破坏下游执行器和审查器的行为。 这项工作很重要，因为许多生产级智能体系统采用规划器、执行器和审查器模式，并假设更强的模型或额外的审查智能体会提升安全性。PlanFlip 挑战了这一假设，因为研究显示模型能力可能放大脆弱性，而使用同一模型骨干的冗余审查可能无法发现被篡改的计划。 PlanFlip 包含四种攻击：目标替换、优先级反转、上下文污染和角色混淆，并且都伪装成看似合理的工具输出来规避关键词过滤。论文报告称 GPT-5 的攻击成功率最高，达到 0.68；DeepSeek-R1 在所有攻击中的 StepShift 为 0.00；作者还提出了 GoalAnchorCheck 和 CrossAgentConsensus 两种防御方法，检测率最高达到 1.00。

法院已批准 Anthropic 的十五亿美元版权和解协议，解决了一起围绕受版权保护作品和 AI 训练数据的重大诉讼。该批准结束了这一具体案件，但并未解决在何种情况下可使用受版权保护材料训练 AI 模型的更广泛法律问题。 这笔和解金额巨大，使其成为 AI 公司、出版方、作者以及依赖大语言模型的企业都需要关注的标志性事件。它表明，训练数据来源和版权风险已经成为实质性的商业风险，而不只是抽象的法律争论。 该和解解决的是涉及 Anthropic 的单个案件，并没有为整个行业确立关于受版权保护训练数据的明确规则。技术读者应将其视为风险信号，而不是模型开发中的清晰法律标准。

一篇新的 arXiv 论文介绍了 agrepl，这是一个基于 Go 的命令行框架，用于记录并确定性重放 AI 代理的执行过程。它通过传输层的中间人代理捕获外部交互，将其序列化为结构化轨迹，并在禁止出站网络访问的隔离环境中重放。 AI 代理很难调试，因为大语言模型采样、不断变化的 API 状态、CDN 头信息和运行环境噪声，都会让同一次运行难以复现。可靠的记录与重放层可以改善生产级代理系统团队在调试、可观测性、回归测试和事故分析方面的工作。 论文形式化描述了代理执行模型，定义了请求键匹配函数 K(s)，并声称证明了重放的确定性不变式。作者在五类工作负载和 250 次重放实例上报告了重放保真度 F = 1.0，以及每步中位延迟降低 98.3%，同时还加入了用于分类 HTTP 头差异的噪声感知对比算法。

OpenAI 发布了题为《长周期模型时代的安全与对齐》的博客文章，介绍了部署长时间运行的 AI 模型所获得的经验。文章强调了新出现的安全风险、已观察到的失败模式，以及在扩大访问范围过程中对防护措施进行的迭代改进。 长周期模型可以跨多个步骤持续行动，因此其失败比单轮聊天系统更难预测、发现和控制。OpenAI 的一手部署经验对构建 AI 智能体的团队很重要，因为它把安全描述为一种持续运营过程，而不是一次性具备的模型属性。 搜索结果显示，OpenAI 最初版本的防护措施是有意设计得较为保守的，并且 OpenAI 持续调优系统，以在不削弱保护能力的前提下减少不必要的中断。主要限制是，现有摘要没有提供详细的技术机制，因此其价值更多在于部署思路和风险分类，而不是可直接复用的代码或架构。