AI鲁棒性与可靠性（2026.08.25）

概念编号：095

一句话理解

鲁棒性关注“输入变了会不会崩”，可靠性关注“长期运行能不能持续达到预期”。

具体解释

系统可能遇到拼写错误、噪声图片、缺失字段、恶意 Prompt、工具失败、模型版本变化和流量高峰。鲁棒设计会通过测试、重试、校验、降级、人工介入和监控降低这些问题的影响。

边界与易混淆概念

• 鲁棒不等于绝对不会出错：它表示在指定范围内更稳定。
• 可靠性不只由模型决定：数据、工具、网络、权限和流程都会影响结果。
• 一次成功不代表系统可靠：需要在多种场景下重复测试。

例子

工具 API 超时后，Agent 能识别失败、重试一次或请求人工处理，而不是编造“已经完成”，体现了鲁棒性。

相关概念

• AI评估（Evals）（2026.08.25）
• AI护栏（Guardrails）（2026.08.25）
• AI监控（2026.08.25）

来源

• NIST AI Risk Management Framework

概念卡更新日志

• 2026.08.25｜创建概念卡：依据 AI 评估、风险管理和 Agent 工具失败处理，登记为 095。