人工智能产品不同阶段(规划设计,研发部署,运营使用)的风险挑战

应对人工智能技术在实际应用中引发的风险，除了积J推动人工智能技术可信能力 的提升，不断减少技术本身的脆弱性，还应该构建更为积J的技术应用规范/规避 现阶段人工智能技术"缺陷”带来的问题。

人工智能产品研发中规划设计、研发部署、运营使用环节的风险挑战识别十分重要, 对于构建可信研发的实践范式具有重要意义。

在规划设计阶段，难以在初始阶段形成完备的风险分析，与此同时，确保相关理念贯彻执行存在挑战，在设计理念、规范传达给个层级实施人员过程中，存在非正确 传达、误解等风险，尤其机器学习场景中固有的不可预测性，传达实施偏差会进一 步加剧。

在研发部署阶段，一方面，数据层面可能会遇到数据缺失、重复、不一致、来源不 明等问题；另一方面，模型技术层面存在着技术选型不恰当，模型尚未完备训练即 开始上线服务，以及模型运行之后的动态更新缺乏足够验证等挑战。

在运营使用阶段，一方面，在人类和人工智能交互时可能出现误用、过度依赖等问 题；另一方面，人工智能相关技术存在着被恶意使用的风险。