AI监控（Monitoring）（2026.08.25）

概念编号：100

一句话理解

AI 监控就是系统上线后持续观察“它做得好不好、花费多少、是否越界、哪里正在变坏”。

具体解释

监控指标可以包括延迟、错误率、调用量、成本、工具失败、引用质量、用户反馈、拒答率、敏感信息和模型版本变化。监控发现异常后，还需要告警、回滚、降级、修复或重新评估。

边界与易混淆概念

• 监控不等于只看服务器健康：AI 质量和风险同样需要观测。
• 日志越多不等于越安全：日志本身可能包含敏感信息，需要最小化和权限管理。
• 监控不是评估的替代品：评估是有设计的测试，监控是持续观察真实运行。

例子

发现模型更新后引用错误率上升，自动暂停发布并回滚到旧版本，是监控与治理联动的例子。

相关概念

• AI系统生命周期（2026.08.25）
• AI评估（Evals）（2026.08.25）
• AI鲁棒性与可靠性（2026.08.25）

来源

• NIST AI Risk Management Framework

概念卡更新日志

• 2026.08.25｜创建概念卡：依据 AI 系统生命周期中的运行、监控和持续评估要求，登记为 100。