应对人工智能技术在实际应用中引发的风险,除了积极推动人工智能技术可信能力 的提升,不断减少技术本身的脆弱性,还应该构建更为积极的技术应用规范/规避 现阶段人工智能技术"缺陷”带来的问题。
人工智能产品研发中规划设计、研发部署、运营使用环节的风险挑战识别十分重要, 对于构建可信研发的实践范式具有重要意义。
在规划设计阶段,难以在初始阶段形成完备的风险分析,与此同时,确保相关理念贯彻执行存在挑战,在设计理念、规范传达给个层级实施人员过程中,存在非正确 传达、误解等风险,尤其机器学习场景中固有的不可预测性,传达实施偏差会进一 步加剧。
在研发部署阶段,一方面,数据层面可能会遇到数据缺失、重复、不一致、来源不 明等问题;另一方面,模型技术层面存在着技术选型不恰当,模型尚未完备训练即 开始上线服务,以及模型运行之后的动态更新缺乏足够验证等挑战。
在运营使用阶段,一方面,在人类和人工智能交互时可能出现误用、过度依赖等问 题;另一方面,人工智能相关技术存在着被恶意使用的风险。
资料获取 | |
新闻资讯 | |
== 资讯 == | |
» 人形机器人未来3-5年能够实现产业化的方 | |
» 导诊服务机器人上岗门诊大厅 助力医院智慧 | |
» 山东省青岛市政府办公厅发布《数字青岛20 | |
» 关于印发《青海省支持大数据产业发展政策措 | |
» 全屋无主灯智能化规范 | |
» 微波雷达传感技术室内照明应用规范 | |
» 人工智能研发运营体系(ML0ps)实践指 | |
» 四驱四转移动机器人运动模型及应用分析 | |
» 国内细分赛道企业在 AIGC 各应用场景 | |
» 国内科技大厂布局生成式 AI,未来有望借 | |
» AIGC领域相关初创公司及业务场景梳理 | |
» ChatGPT 以 GPT+RLHF 模 | |
» AIGC提升文字 图片渗透率,视频 直播 | |
» AI商业化空间前景广阔应用场景丰富 | |
» AI 内容创作成本大幅降低且耗时更短 优 | |
== 机器人推荐 == | |
服务机器人(迎宾、讲解、导诊...) |
|
智能消毒机器人 |
|
机器人底盘 |