人工智能应用程序是由数据科学家、数据工程师、数据管理员和其他人组成的团队在复杂的工作流程中构建、培训、部署和管理的。为了满足这一需求，许多组织正在将人工智能治理控制构建到其MLOps过程中。本质上，这需要策略驱动的流程自动化，这些流程管理数据、统计模型、元数据，以及用于构建、培训和部署人工智能应用程序的其他构件。它还需要工具来监视人工智能应用程序在其生命周期中的使用、行为和结果。

  任何人工智能驱动过程的典型风险是不知道组织是否可以信任一个已部署的统计模型来准确可靠地完成分配的任务。如果一个统计模型的预测适合度下降到无法完成其指定任务(如识别人脸、理解人类语言或预测客户行为)的程度，那么对于构建和部署它的组织来说，这基本上是无用的。

  因此，人工智能治理的重要功能是模型保证。这是一种确定人工智能应用程序的机器学习模型是否能够预测适合其分配任务的能力，如果不适合，则将其重新放回原处。

  然而，预测精度可能是一个难以保证的性能指标。人工智能的统计模型通常以人工神经网络的形式实现，可能是如此的复杂和神秘，以至于它们掩盖了它们实际上是如何驱动自动推理的。同样令人担忧的是，基于统计的应用程序可能会无意中混淆其自动决策可能产生的任何偏见和其他不利后果的责任。此外，这些概率模型可能很少被评估和重新训练，导致曾经适合特定目的的模型现在已经失去了预测能力。

      以上是BSport体育官网带来的分享，更多详情请咨询BSport体育官网软件科技（昆山）有限公司官网。