目前国内外均提出了人工智能治理的相关规范,但目前我国仍缺乏新一代人工智能治理的 具体工作框架。应整合社会各界对AI社会技术复合体的离散性认知,实现对AI系统生态主权调适,突破AI包容审慎实践的探索,建立我国的统一治理框架。
建立基于“逻辑-秩序-监管“的人工智能治理工作框架
高增长:未来五年全球人工智能市场规模平均增速将超过20%;高集中:软件占比近40%硬件产品占比接近35%;高壁垒:渗透率还不到4%
在规划设计阶段机器学习场景中固有的不可预测性,传达实施偏差会进一步加剧;在研发部署阶段模型运行之后的动态更新缺乏足够验证等挑战
构建面向可持续发展的人工智能技术体系,推动人工智能技术可用、可靠、可信,其内涵包括提升技术安全和构建技术管理机制两个层面工作
企业作为落实人工智能治理原则的重要主体,形成覆盖人工智能产品全生命周期的风险管理机制,提出了面向可持续发展的人工智能治理基本框架
数据不完备和滥用风险突出而损害用户的权益;人工智能算法存在固有缺陷在可解释性鲁棒性偏见歧视等方面尚存在局限;企业人工智能管理体系不完善
调度决策外卖调度系统困住骑手;个性化推荐电商场景下的信息茧房和马太效应;内容治理如何守护清朗健康的网络环境;人工智能可以放心使用吗
全球人工智能市场收支规模达850厅美元,预测,2022年该市场规模将同比增长约20%至 1017厅美元,并将于2025年突破2000厅美元大关, CAGR 达24.5%
头部科技企业先后发布了AI治理战略和治理体系,成立了相关委员会和工作组,聚焦企业层面的AI治理和风险管理体系,可信AI技术和保障工具也在蓬勃发展
智能文档处理、智能会议、知识管理、智能客服等各类企业智能应用不断发展,全面赋能企业办公、管理、决策、风控、营销、服务等各个环节
AI软件设施在近两年成为产业焦点,AI开源框架生态,预训练大模型体系,AI软件平台生态等内容都得到了长足的发展,像水电一样成为触手可得的普惠资源
到端的MLOps一体化工具和细分场景的专项工具都非常火热,端到端工具追求大而全的功能集,专项工具在局部或某些场景下功能和性能较好
规模化是指整合了丰富的人工智能开发,部署,测试,运维等能力,标准化是指将异构的软硬件环境封装为标准化的界面,可扩展是指可以不断适配新的技术和工具