首页
产品系列
行业应用
渠道合作
新闻中心
研究院
投资者关系
技术支持
关于创泽
| En
 
  当前位置:首页 > 新闻资讯 > 机器人知识 > 深度学习的可解释性研究(二)——不如打开箱子看一看  
 

深度学习的可解释性研究(二)——不如打开箱子看一看

来源:图灵人工智能      编辑:创泽      时间:2020/6/4      主题:其他   [加盟]

在上一节中我们介绍了深度学习可解释性的三种方法:1. 隐层分析法,2. 敏感性分析法 3. 代理/替代模型法。在这一节中我们主要介绍第一种方法:隐层分析法。

1. 黑箱真的是黑箱吗?——深度学习的物质组成视角

通过上一节的介绍我们也了解到,深度学习的黑箱性主要来源于其高度非线性性质,每个神经元都是由上一层的线性组合再加上一个非线性函数的得到,我们无法像理解线性回归的参数那样通过非常solid的统计学基础假设来理解神经网络中的参数含义及其重要程度、波动范围。但实际上我们是知道这些参数的具体值以及整个训练过程的,所以神经网络模型本身其实并不是一个黑箱,其黑箱性在于我们没办法用人类可以理解的方式理解模型的具体含义和行为,而神经网络的一个非常好的性质在于神经元的分层组合形式,这让我们可以用物质组成的视角来理解神经网络的运作方式。比如如下图所示,人体的组成过程是从分子-细胞-组织-器官-系统-人体:

而通过一些对神经网络隐层的可视化我们也发现:比如下图的一个人脸识别的例子,神经网络在这个过程中先学到了边角的概念,之后学到了五官,最后学到了整个面部的特征。

如果我们能够用一些方法来帮助我们理解这个从低级概念到高级概念的生成过程,那么就离理解神经网络的具体结构就近了很多。而这也可以逐渐帮助我们完成一个“祛魅”的过程,将调参的魔法真正变成一项可控、可解释的过程。

要理解这个概念的生成过程很重要的一点就是要研究隐层的概念表示,在接下来的部分中我将给大家介绍业界关于隐层分析方法的几个研究工作。

2. 模型学到了哪些概念?

要理解神经网络中每层都学到了哪些概念一个非常直观的方法就是通过对隐层运用一些可视化方法来将其转化成人类可以理解的有实际含义的图像,这方面一个非常具有代表性的一个工作就是14年ECCV的一篇经典之作:《Visualizing and Understanding Convolutional Networks》,这篇文章主要利用了反卷积的相关思想实现了特征可视化来帮助我们理解CNN的每一层究竟学到了什么东西。我们都知道典型的CNN模型的一个完整卷积过程是由卷积-激活-池化(pooling)三个步骤组成的。而如果想把一个CNN的中间层转化成原始输入空间呢?我们就需要经过反池化-反激活-反卷积这样的一个逆过程。整个模型的结构如下图所示:









深度学习的可解释性研究(一)— 让模型具备说人话的能力

为决策树模型是一个具有比较好的可解释性的模型,以决策树为代表的规则模型在可解释性研究方面起到了非常关键的作用

不完美场景下的神经网络训练方法

腾讯优图实验室高级研究员Louis在分享了自适应缺陷数据,业务场景下的神经网络训练方法

AI在COVID-19诊断成像中的应用

人工智能技术支持的图像采集可以显著帮助扫描过程实现自动化,还可以重塑工作流程,最大限度地减少与患者的接触,为成像技术人员提供最佳保护

国内外舵机参数性能价格比较

舵机是步态服务机器人的核心零部件和成本构成,是包含电机、传感器、控制器、减速器等单元的机电一体化元器件

SLAM与V-SLAM特征对比

基于激 光雷达的SLAM(激光SLAM)和基于视觉的SLAM(V-SLAM)。激光SLAM目前发展比较成熟、应用广泛,未来多传感器融合的SLAM 技术将逐渐成为技术趋势,取长补短,更好地实现定位导航。

《视觉SLAM十四讲》作者高翔:非结构化道路激光SLAM中的挑战

SLAM阶段:解决从原始传感器数据开始,构建某种基础地图的过程,标注阶段:在SLAM结果基础上进行人为标注,实现更精细的交通规则控制

图像检索入门、特征和案例

图像检索是计算机视觉中基础的应用,可分为文字搜图和以图搜图。借助于卷积神经网络CNN强大的建模能力,图像检索的精度越发提高

如何加快解决数据产权问题

数据所有权方面,1原始数据属于个人,2企业享有衍生数据所有权,3政府享有政府数据的归属权

戴琼海院士:搭建脑科学与人工智能的桥梁

脑科学的发展将推动人工智能科学从感知人工智能到认知人工智能的跨越

“触控一体化”的新型机械手指尖研究

机械手面临的难点在于如何在柔性物体上施加可控的挤压力,以及在非稳定状况下确保精确、稳健的抓握与柔性指端操控

微信提出推荐中的深度反馈网络,在“看一看”数据集上达到SOTA

DFN模型综合使用了用户的隐式正反馈(点击行为)、隐式负反馈(曝光但未点击的行为)以及显式负反馈(点击不感兴趣按钮行为)等信息

基于脑肌融合的软体康复手研究

软体机械手充分利用和发挥各种柔性材料的柔顺性,及其非线性、粘弹性和迟滞特性等在软体手运动和控制中潜在的“机械智能”作用,降低控制的复杂度,实现高灵活性、强适应性和良好交互性,在医疗康复领域有重要应用价值
 
资料获取
新闻资讯
== 资讯 ==
» 人形机器人未来3-5年能够实现产业化的方
» 导诊服务机器人上岗门诊大厅 助力医院智慧
» 山东省青岛市政府办公厅发布《数字青岛20
» 关于印发《青海省支持大数据产业发展政策措
» 全屋无主灯智能化规范
» 微波雷达传感技术室内照明应用规范
» 人工智能研发运营体系(ML0ps)实践指
» 四驱四转移动机器人运动模型及应用分析
» 国内细分赛道企业在 AIGC 各应用场景
» 国内科技大厂布局生成式 AI,未来有望借
» AIGC领域相关初创公司及业务场景梳理
» ChatGPT 以 GPT+RLHF 模
» AIGC提升文字 图片渗透率,视频 直播
» AI商业化空间前景广阔应用场景丰富
» AI 内容创作成本大幅降低且耗时更短 优
 
== 机器人推荐 ==
 
迎宾讲解服务机器人

服务机器人(迎宾、讲解、导诊...)

智能消毒机器人

智能消毒机器人

机器人底盘

机器人底盘

 

商用机器人  Disinfection Robot   展厅机器人  智能垃圾站  轮式机器人底盘  迎宾机器人  移动机器人底盘  讲解机器人  紫外线消毒机器人  大屏机器人  雾化消毒机器人  服务机器人底盘  智能送餐机器人  雾化消毒机  机器人OEM代工厂  消毒机器人排名  智能配送机器人  图书馆机器人  导引机器人  移动消毒机器人  导诊机器人  迎宾接待机器人  前台机器人  导览机器人  酒店送物机器人  云迹科技润机器人  云迹酒店机器人  智能导诊机器人 
版权所有 © 创泽智能机器人集团股份有限公司     中国运营中心:北京·清华科技园九号楼5层     中国生产中心:山东日照太原路71号
销售1:4006-935-088    销售2:4006-937-088   客服电话: 4008-128-728