|
|
当前位置:首页 > 机器人知识 > 重构ncnn,腾讯优图开源新一代移动端推理框架TNN |
重构ncnn,腾讯优图开源新一代移动端推理框架TNN |
来源:AI科技大本营 时间:2020/6/10 |
6月10日,腾讯优图实验室宣布正式开源新一代移动端深度学习推理框架TNN,通过底层技术优化实现在多个不同平台的轻量部署落地,性能优异、简单易用。腾讯方面称,基于TNN,开发者能够轻松将深度学习算法移植到手机端G效的执行,开发出人工智能 App,真正将 AI 带到指尖。 GitHub链接: https://github.com/Tencent/TNN 轻量J部署,TNN助力深度学习提速增效 深度学习对算力的巨大需求一直制约着其更广泛的落地,尤其是在移动端,由于手机处理器性能弱、算力无法多机拓展、运算耗时长等因素常常导致发热和G功耗,直接影响到App等应用的用户体验。腾讯优图基于自身在深度学习方面的技术积累,并借鉴业内主流框架优点,推出了针对手机端的G性能、轻量J移动端推理框架TNN。 TNN在设计之初便将移动端G性能融入核心理念,对2017年开源的ncnn框架进行了重构升J。通过GPU深度调优、ARM SIMD深入汇编指令调优、低精度计算等技术手段,在性能上取得了进一步提升。以下是MNN, ncnn, TNN框架在多款主流平台的实测性能:
|
相关推荐 |
»
知识图谱在个性化推荐领域的研究进展及应用
» 基于网格图特征的琵琶指法自动识别 » 利用时序信息提升遮挡行人检测准确度 » 京东姚霆:推理能力,正是多模态技术未来亟需突破的瓶颈 » 看高清视频,如何做到不卡顿 » 基于真实环境数据集的机器人操作仿真基准测试 » 亿级视频内容如何实时更新 » 深度解析大规模参数语言模型Megatron-BERT » 自然语言处理技术五大技术进展和四大应用与产品 » 自然语言处理技术发展趋势进一步推动人工智能从感知智能向认知智能的演进 » 中国移动室内定位白皮书 » 传感器面临时代新机遇,未来发展将呈现哪些趋势 |
![]() ![]() ![]() |
![]() |
|
|
版权所有 © 创泽智能机器人集团股份有限公司 中国运营中心:北京·清华科技园C座五楼 生产研发基地:山东日照太原路71号 电话:4008-128-728 |