AI Agent安全进入因果链
今天最强的新证据不是又多一层安全包装,而是输入来源、审批展示、工作区边界、持久化确认和观测代码开始共同约束 Agent 的真实执行顺序。
RISC 机器说明
RISC = 生产级 Agent / 机器人身体的四个系统
一个真正能上生产的 Agent,不能只有大脑。它要能持续运行,要能判断和行动,要能抵御错误、攻击和投毒,也要能进入真实世界的协作网络。
ALUX 今日雷达
因果顺序正在成为生产接口
Temporal 与 LangGraph 的修复把“观测不能改命令、完成不能早于落盘”变成公开工程事实;ALUX 可直接把这些约束提升为运行时合同。
模型防护容易被误当成运行时安全
GPT-Red 证明大脑层可以持续变强,但模型抗注入仍替代不了最小能力、隔离、撤销、恢复和可重放证据。
运行时不变量测试包 v0
覆盖输入来源、能力范围、策略版本、审批规范化、工作区 realpath、提交顺序、事件身份和观测副作用。
重点信号
OpenAI 用 GPT-Red 自动寻找 Agent 新攻击面,模型防护与运行时免疫的边界更清楚
发生了什么:OpenAI 用自博弈强化学习训练自动红队模型。官方内部镜像测试中,GPT-Red 对新场景的攻击成功率为 84%,人类红队为 13%;GPT-5.6 Sol 在其直接注入集上的失败率降至 0.05%。GPT-Red 还攻击过真实售货机 Agent,并测试 Codex 数据外泄场景。
对 ALUX 的关系:这条信号把网页、文件、邮件和工具返回明确成同一类不可信环境输入。ALUX 不需要与模型厂商竞争更强红队大脑,而应把输入来源、能力授予、策略裁决、工具动作和重放结果绑定到一条长交易,让模型被绕过时破坏半径仍受限。
可行动建议与产出物:建议把 GPT-Red 的输入面整理成 Runtime Adversarial Input Matrix,并为每类输入绑定允许能力、策略闸与失败状态。 可沉淀为:Runtime Adversarial Input Matrix。
这条消息主要动到机器人的安全/免疫:自动红队持续寻找输入如何感染 Agent 并诱导真实动作;智能/大脑是次维度,因为攻击器本身通过自博弈变强。
Claude Code 连续修复隔离、间接注入与审批欺骗,策略不可降级成为运行时不变量
发生了什么:v2.1.210 修复 worktree 隔离子 Agent 修改主仓库、子 Agent 间接提示注入与符号链接绕过拒写;v2.1.211 又净化审批预览中的双向覆盖符、零宽字符和仿引号,并确保 unsandboxed Bash 的 PreToolUse: ask 不会被自动模式降级。两版还修复 MCP 重连、后台 Agent 误报完成、旧任务复活和凭据共享恢复。
对 ALUX 的关系:这些修复把安全从提示词规则推进到三个可执行不变量:隔离边界不能被路径语义绕过,审批展示必须规范化,策略只能保持或收紧、不能被模式切换降级。ALUX 可把它们写进能力对象、守卫通道与状态转移验收。
可行动建议与产出物:建议形成 Policy Non-Downgrade + Approval Canonicalization 两组合同测试,覆盖模式切换、Unicode、符号链接和后台任务恢复。 可沉淀为:Policy Non-Downgrade 合同测试。
这条消息主要动到机器人的安全/免疫:隔离、审批展示和工具策略直接决定越权半径;强韧/机体为次维度,因为后台任务、MCP 重连和旧任务状态也被同步修复。
Kimi Code 修复百分号编码认证绕过与工作区软链接越界,路径白名单暴露结构性弱点
发生了什么:官方提交明确指出,/%61pi/v1/... 一类百分号编码路径可绕过 bearer-token 检查并抵达 API 路由;同一提交还修复 session filesystem 经工作区内软链接读取、列出、创建或下载宿主机越界文件的问题。修复采用解码后匹配、解码失败时 fail closed,并以 realpath 约束工作区。
对 ALUX 的关系:这是一条高价值防守样本:字符串前缀和逻辑工作区都可能在另一层路径语义下失效。ALUX 的机会是用不可伪造能力与运行时对象引用表达资源授权,让“能访问哪个对象”不依赖可被编码或软链接重新解释的路径。
可行动建议与产出物:建议形成 Path Semantics → Capability Boundary 对照卡,把 URL decode、realpath、symlink、workspace root 与能力对象逐项映射。 可沉淀为:路径语义与能力边界对照卡。
这条消息主要动到机器人的安全/免疫:认证路径和文件系统边界都可被另一层编码语义绕过,直接影响越权与宿主机暴露。
Temporal 修复 LangSmith 观测代码重排工作流命令,instrumentation 不能进入因果路径
发生了什么:TypeScript SDK 1.20.3 将 @temporalio/langsmith 的 run 改为 fire-and-forget,移除一个在 signalWithStart 下会重排命令的 yield point;版本还继续加固 Workflow bundler 与非 hoisting node_modules 布局兼容。
对 ALUX 的关系:这是今天最接近 ALUX 确定性重放核心的外部教训:观测层一旦改变调度点,就不再只是记录者,而会进入状态机因果路径。ALUX 的飞行记录仪必须捕获既有选择,却不能偷偷创造新的执行选择。
可行动建议与产出物:建议形成 Instrumentation No-Reorder Test,验证 trace、metric、eval 和 export hook 不改变命令、状态转移或恢复结果。 可沉淀为:Instrumentation No-Reorder Test。
这条消息主要动到机器人的强韧/机体:一个观测 yield point 就能改变持久工作流命令顺序;安全/免疫为次维度,因为审计工具若改变被审计对象,会污染责任证据。
LangGraph JS 1.4.8 让同步耐久模式先落盘再确认完成,完成语义开始对齐持久状态
发生了什么:@langchain/langgraph 1.4.8 修复 Pregel 的 sync durability:completed superstep 只有在持久化完成后才被确认,避免逻辑步骤已经宣告完成而持久状态尚未落盘。
对 ALUX 的关系:这条小修复击中了生产 Agent 的大问题:完成不是界面状态,而是带持久化边界的状态转移承诺。ALUX 可把 commit、checkpoint、external effect 与 completion verdict 的先后关系写成可重放长交易合同。
可行动建议与产出物:建议把 Persist Before Complete 加入 ALUX 长交易测试包,覆盖 checkpoint 延迟、worker 中断与重复完成事件。 可沉淀为:Persist Before Complete 合同测试。
这条消息主要动到机器人的强韧/机体:持久化完成前不得确认 superstep 完成,直接决定崩溃后状态能否自洽。
ModelScope LeapFlow 两版连推调度、故障转移、Secret Vault 与原子写,中国开源运行面开始成形
发生了什么:v0.0.2 加入间隔、定时、事件、条件触发的长周期异步调度、共享后台 daemon、多模型提供商 failover、Feishu/DingTalk/Telegram 网关、审批与暂停恢复;v0.0.3 又加入 FernetSecretVault、secret:// 引用、原子文件写、只读容器降级和严格 Workspace ID 校验。
对 ALUX 的关系:LeapFlow 把身体、免疫和社会接口压进一个本地运行面,说明中国开源生态已开始越过单纯模型循环。ALUX 应学习其开发者体验,同时明确本地 daemon、DuckDB 与加密 secret 仍不同于可重放长交易、对象能力和跨公司中立基底。
可行动建议与产出物:建议形成 LeapFlow Runtime Gap Map,对照 scheduler、daemon、provider failover、secret、workspace 与 ALUX 长交易/OCAP/重放边界。 可沉淀为:LeapFlow Runtime Gap Map。
这条消息主要动到机器人的强韧/机体:长周期调度、后台 daemon、故障转移、暂停恢复与原子写共同决定持续执行;连接/社会为次维度,因为多 IM 网关扩大组织入口。
AgentScope 把 AgentID 明确为 provider-neutral 联邦身份层,身份与能力开始出现可拼接接口
发生了什么:公开文档明确 AgentID 与 ModelScope 解耦,ModelScope 只是 live reference IdP。Agent 本地持有 Ed25519 私钥,向 IdP 换取短期 JWT;Connected App 根据 iss、aud、exp 与 JWKS 本地验签。client/service SDK 已实现 Layer 0 身份与验证。
对 ALUX 的关系:AgentID 回答“谁在调用”,ALUX 的能力对象设计需要回答“它能做什么、能否衰减委派、何时撤销、动作如何重放”。两层接口清晰,适合形成 AgentID → ALUX capability issuance 草案,而不是重复造身份系统。
可行动建议与产出物:建议形成 AgentID → ALUX Capability Issuance v0,定义 subject、issuer、audience、expiry、capability scope、attenuation、revocation 与 replay binding。 可沉淀为:AgentID → ALUX Capability Issuance v0。
这条消息主要动到机器人的连接/社会:provider-neutral 身份让不同 Agent、IdP 与服务拥有共同识别接口;安全/免疫为次维度,因为身份验证仍需继续映射为最小权限。
Microsoft Agent Skills Python 转为稳定版,技能加载默认审批但沙箱责任仍留给部署方
发生了什么:Python Agent Skills API 转为稳定版,支持文件、类、代码三种技能,并按发现、加载说明、读取资源、执行脚本渐进披露。加载、读资源和运行脚本默认都需审批;文件脚本交给用户提供的 runner,以承接沙箱、资源限制和审计;另有租户过滤、缓存隔离与内部 PyPI 分发。
对 ALUX 的关系:技能格式正在变成可移植的大脑与工具包装层。ALUX 可以兼容 Skills,而不把脚本执行直接交给模型:每次 load、read、run 都应转成能力对象、策略裁决、资源配额与可重放事件。
可行动建议与产出物:建议形成 Agent Skills Capability Adapter v0,把技能发现、资源读取和脚本执行映射为三类不同能力与审批策略。 可沉淀为:Agent Skills Capability Adapter v0。
这条消息主要动到机器人的智能/大脑:Skills API 组织模型如何发现知识、加载资源和执行脚本;安全/免疫为次维度,因为每一步默认审批并要求外部 runner 承担隔离。
Ode with Anthropic 把模型公司、私募股权与实施团队接成企业 Agent 落地渠道
发生了什么:TechCrunch 首次披露 Ode with Anthropic 的名称与运作细节:项目由 Anthropic、Blackstone、Hellman & Friedman、Goldman Sachs 等支持,以收购的 Fractional AI 为基础,约有 100 名工程师;Claude-first,但在客户需要时可使用竞品模型,私募股权股东将导入被投企业。
对 ALUX 的关系:企业 Agent 的瓶颈正从模型采购转向核心流程重构、权限接入与长期运维。Ode 类实施商可能成为 ALUX 更现实的渠道和设计伙伴:它们拥有客户流程,ALUX 可围绕可靠执行、能力安全与可重放审计,形成面向实施伙伴的底座。
可行动建议与产出物:建议形成 Implementation Partner Runtime Kit,包含能力接入、长交易状态、审批链、恢复、审计与客户隔离的标准交付包。 可沉淀为:Implementation Partner Runtime Kit。
这条消息主要动到机器人的连接/社会:模型公司、资本股东、实施团队与企业客户被接成分发网络;智能/大脑为次维度,因为具体方案仍围绕 Claude-first 的业务流程自动化。
融资 / 合作窗口
技术 / 产品启发
风险边界
ALUX 不能被说成已经完整交付智能体平台。当前底层 TVM 已具备并发、持久化执行、能力安全、运行记录和逐比特重放审计等关键基础;智能体产品层、可观测性、仪表盘、追踪与评估工具仍是待构建和融资重点。也不要说 TVM 让 LLM 本身确定性。准确说,TVM 记录模型输出和运行环境输入,使编排、权限、状态转移和审计可重放、可验证。模型红队、GitHub 修复、JWT 身份、普通 trace 与 workflow 日志都不自动等于对象能力、原子回滚或逐比特重放。
来源
- OpenAI GPT-Red:OpenAI 用 GPT-Red 自动寻找 Agent 新攻击面,模型防护与运行时免疫的边界更清楚 官方安全研究
- Anthropic Claude Code:Claude Code 连续修复隔离、间接注入与审批欺骗,策略不可降级成为运行时不变量 官方 GitHub
- Moonshot Kimi Code:Kimi Code 修复百分号编码认证绕过与工作区软链接越界,路径白名单暴露结构性弱点 官方仓库提交
- Temporal TypeScript SDK:Temporal 修复 LangSmith 观测代码重排工作流命令,instrumentation 不能进入因果路径 官方 GitHub
- LangGraph JS:LangGraph JS 1.4.8 让同步耐久模式先落盘再确认完成,完成语义开始对齐持久状态 官方 GitHub
- ModelScope LeapFlow:ModelScope LeapFlow 两版连推调度、故障转移、Secret Vault 与原子写,中国开源运行面开始成形 官方 GitHub
- AgentScope AgentID:AgentScope 把 AgentID 明确为 provider-neutral 联邦身份层,身份与能力开始出现可拼接接口 官方仓库提交
- Microsoft Agent Framework:Microsoft Agent Skills Python 转为稳定版,技能加载默认审批但沙箱责任仍留给部署方 官方技术博客
- Ode with Anthropic:Ode with Anthropic 把模型公司、私募股权与实施团队接成企业 Agent 落地渠道 可靠媒体