智能化下半场:轻量化人工智能鼓起

发布时间:2021-12-03 04:38:04 | 作者:环球体育靠谱吗


  人工智能(AI)技能在职业使用中,大多依靠海量的练习数据和大规划服务器的算力支撑,存储暴升、数据堰塞、隐私走漏、能耗高企等问题也随之而来。跟着近5年来摩尔定律的逐渐放缓,IT硬件的开展益发难以满意当时AI模型动辄万亿级规划的存储和算力需求。因而,当时对AI设备和使用的快速呼应、隐私保护以及节能减排的需求越发凸显。如何将AI模型及其核算载体前端化、轻量化,成为亟待处理的问题。

  剖析智能化使用,咱们能够看到,AI使能架构是由芯片(硬件)、AI操作无忧无虑(深度学习结构渠道)和算法三个部分组成。而Tiny AI恰是以一系列轻量化技能为驱动进步芯片、渠道和算法的功率,在更严密的物理空间上完结低功耗的AI练习和使用布置,不需求依靠与云端交互就能完结智能化操作。

  Tiny AI所带来的打破是清楚明了的。《麻省理工科技谈论》在2020年将Tiny AI列为“全球十大打破性技能”,其在评选理由中写到:“轻量化智能使现有的服务比方语音帮手、手机顾影自怜等变得更好更快,不用每次都需求衔接云端才干运转深度学习模型;此外,Tiny AI也将使新的使用成为可能,比方根据移动端的医学检测剖析、对反应时间要求更快的自动驾驶轿车;最终,本地化的AI更利于隐私保护,用户的数据不再需求脱离设备就能完结服务功用的进化。”

  更重要的是,Tiny AI将AI面向更干流,它大大下降了AI无忧无虑的布置难度和本钱,把AI从一场高门槛的科技巨子比赛变成普惠民生的智能生态。

  Tiny AI对外表现是在做减法,下降能耗、下降对硬件渠道功用指标的要求、下降与云端的通讯需求等,而实质上,轻量化的内核却是在做加法。工业需求决议了要完结的AI使命越来越杂乱,Tiny AI有必要经过加快运算功率、进步核算密度才干完结极致的功率。

  在精度挨近无损的前提下,将AI模型及其核算载体微型化,是一个极具挑战性的使命,需求对神经网络进行轻量化规划、核算加快以及规划新的核算架构完结模型的硬件化。

  这需求从软件和硬件两方面来着手。软件方面,要进行模型和算法立异,经过轻量化模型规划、矩阵分化、稀少表明、量化核算来完结模型的微型化和核算加快。而在硬件方面,则须经过流水线规划、存储形式规划等手法进行硬件架构的立异。

  尽管履行神经网络核算的是硬件,但神经网络结构和AI渠道决议着核算量的巨细和运算方法。所以,极致的轻量化有必要是软件和硬件的协同轻量化:根据杂乱的AI使用场景,将芯片、渠道和算法充沛结合以联合加快。

  首要,AI芯片作为AI的硬件载体,有必要到达更高的功用、更高的功率、更低的功耗和更小的体积,满意平价高效的核算渠道才干满意工业需求承载杂乱的AI使命,而且使推理和运算从云端迁移到终端成为可能。

  其次,轻量化的AI渠道需求以更低的功耗来练习和运转AI算法,最大化的开掘硬件的才能。

  AI三层使能架构决议了寻求单一算法、渠道或许芯片轻量化并不能最大化完结极致功率,而需求针对使用场景中杂乱的AI核算无忧无虑全面去考虑,将三者进行协同轻量化。

  2014年,在卷积神经网络大规划迈向使用之初,中国科学院自动化研讨所(以下简称自动化所)就在世界AI顶会宣布了多篇神经网络模型轻量化范畴的重要论文,成为世界上最早开端AI轻量化研讨的组织之一,相关作用引起包含英伟达公司创始人兼首席履行官黄仁勋等在内的许多专家的广泛重视。

  自动化所很早就开端了软硬协同轻量化的技能研讨,走在世界的前列。自动化所规划开发的轻量化AI渠道“QEngine”及轻量化算法已经在数十万终端上布置。2019年,在世界神经信息处理无忧无虑大会(NeurIPS)上举办的MicroNet Challenge比赛中,自动化所与ARM、IBM、高通、Xilinx等世界一流芯片公司同场竞技,规划的轻量化神经网络架构获得了图画类双冠军。

  2020年,自动化所自主研发的世界首款极低比特量化神经处理芯片(QNPU)成功流片,处理了芯片核算范畴备受重视的“内存墙”难题,在芯片本钱、功耗、核算结构、边际核算等方面完结革命性革新。该芯片的问世,也标志着自动化所成为了全球为数不多的具有“AI芯片渠道算法”全线轻量化AI技能组织之一。

  未来,以AI驱动的小型化设备会越来越多地出现在咱们身边。一起,由AI芯片、渠道和算法组成的Tiny AI智能终端将一向环绕使用场景而生。

  MCU单片机以贱价低功耗的优势,在各种终端上有着大规划的使用。可是单片机的核算功用极低,一向不被看好是能够完结AI的硬件。自动化地点几元钱的STM32单片机上成功布置了四十层网络的人脸检测模型,运转功耗仅800毫瓦,做了开创性的测验其背面便是根据Tiny AI技能。

  在教育职业,自动化所的“轻量化指尖点读处理方案”推翻了教育终端的人机互动形式,并成功打破硬件功用瓶颈,赋予低端硬件渠道高端AI算力。

  在消费电子职业,自动化所规划的轻量化的算法及轻量化神经网络核算架构可有用完结暗光增强、超分辨率等,为手机终端、安防终端供给了印象增强作用。

  在电力职业,我国的输电线路掩盖广,户外自然环境杂乱,检修保护作业风险系数高难度大。自动化所根据Tiny AI研发的自主巡检无人机、缺点辨认剖析便携终端、通道可视化智能感知摄像头号,具有多种智能辨认、检测和剖析功用,可有用保证输配电线路的安全和电力无忧无虑安稳。■

  (作者系中国科学院自动化研讨所南京人工智能芯片立异研讨院副院长,记者赵广立收拾)