ManageEngine卓豪-如何应对在 ITSM 中引入人工智能的风险

许多 AI 赋能能力已经内嵌于ITSM 工具 之中，客户组织正借助这些能力，更好地服务其员工与客户。 为便于读者从服务入口视角理解这些变化，本文亦将相关讨论与 IT 服务台 场景进行关联说明。

然而，AI 的采用同样伴随着风险。

 

在通往成功落地的过程中，这些风险必须被充分识别、审慎评估并加以缓解。

ManageEngine卓豪基于对 300 名 IT 专业人士开展的调研（及其配套报告《ITSM 中人工智能代理的兴起：认知与未来影响》，可通过相关渠道获取），系统梳理 IT 组织在采用 AI 能力时最为关注的核心问题，并就如何应对在 ITSM 中引入 AI 能力所涉及的关键风险提供实践性指导。

1）在 ITSM 中引入 AI 最突出的风险类别是什么？

本文聚焦于三类核心关切：人工智能治理、数据安全与隐私问题；人工智能代理的可靠性；以及实施复杂性。

2）如何降低人工智能治理与隐私合规风险？

可通过建立治理框架、提升透明度、维护审计追踪、加强加密与最小权限、审核供应链风险，并确保符合 GDPR、HIPAA 等法规与内部合规要求，同时开展 AI 风险与伦理培训。

3）如何提升 AI 代理的可靠性与可控性？

可通过明确边界与防护栏、任务级权限控制、沙盒测试与回滚机制、可解释且可审计的模型策略，以及持续监控可靠性指标并动态调整阈值或训练策略来实现。

4）如何在不增加长期维护负担的前提下推进 AI 落地？

建议从定义清晰的用例入手，复用现有 ITSM 与自动化基础设施，采用敏捷迭代推进，并通过统一技术标准与强调复用性降低重复建设与维护成本。