抛砖引玉。
— 《三十六计》，抛砖引玉
本系列前情提要：
#8：亚历克斯目睹人工智能仪表盘接管系统。他将密钥藏在桌下。 — 医疗科技公司签署了一份价值百万美元的人工智能监控合同。亚历克斯在训练期间构建了一个隐藏面板。当该面板失效时，只有他能对生产环境进行读写操作。
#15：德里克和亚历克斯共用一台服务器。ACL 公司的人工智能正在监听双方。 — 亚历克斯和德里克伪造了一条警报以转移 ACL 公司审计工程师的注意力，随后重定向了采集器的输出。亚历克斯从未忘记 ACL 公司数据流水线的特征签名。
亚历克斯不关注警报。他关注模式。
警报告诉你什么出了故障。模式告诉你什么正在发生变化。
周一凌晨两点。他调取了医疗科技公司人工智能监控平台过去十六周的灵敏度曲线。三条线：异常检测率、误报率、覆盖率。前两条在正常范围内波动。第三条—灭菌合规性异常检测—每周下降 1.5%。
这条曲线过于平滑。并非随机噪声。
他检查了模型漂移、数据偏移和配置变更。如果是自然漂移，曲线不会呈线性—漂移存在加速阶段和平台期。它不会恰好每周下降 1.5%。有人在按计划人为压低该指标。
他找不到污染源。但他可以追踪受污染数据的去向。
诱饵
亚历克斯花了四天时间，在持续集成/持续部署（CI/CD）流水线内部构建了一个影子训练流水线。
它与医疗科技公司的真实训练流水线完全相同—相同的应用程序接口（API）端点、数据格式、认证协议、日志格式。无法区分。
唯一的不同在于：流经此流水线的数据会被打上不可见的签名—一个嵌入在每个训练样本浮点特征值最低有效位中的 128 位哈希值，由样本 ID 和流水线密钥生成。32 位浮点数（Float32）的尾数有 23 位。修改最低有效位引入的误差在 10⁻⁷ 量级—对模型训练精度的影响微乎其微。
他在 CI/CD 路由配置中将影子流水线地址注册为 train-pipeline-fallback（训练流水线回退），权重为 12%。 旁边有一条注释：
# 回退流水线已激活 — 根据第三季度基础设施扩展计划分配 12% 的负载
看起来完全正常。一种灰度流量分割。
如果有人审查 CI/CD 配置，他们只会看到常规的回退路由。亚历克斯只是在等待，看来自那 12% 端点的数据是否会流向不该去的地方。
午饭后，迈克走过亚历克斯的办公桌，停顿了两秒。他那天上午一直在审查第三季度基础设施扩展计划—回退路由就明晃晃地写在变更记录里。而亚历克斯的屏幕上正运行着一个验证脚本，碰巧读取了该路由的输出。
“那个回退路由。”
亚历克斯的手指在键盘上停顿了一下。
迈克没有等待回答。他继续走了。
上钩
第七天。凌晨 2:14。水印检测脚本触发
免责声明：本文内容来自互联网，该文观点不代表本站观点。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，请到页面底部单击反馈，一经查实，本站将立刻删除。
