Cloud Zhisheng Li Xiaohan解释了AI芯片在物联网中的应用

人工智能和物联网技术和应用在过去几年中发展迅速. 大量创新应运而生，为人们的生活和工作带来了空前的经验和可能性. 目前，我们正在经历以人工智能和物联网为中心的新技术浪潮. 在不久的将来，它将见证数万亿智能设备的互连. ARM作为世界上唯一可以覆盖端到端云的计算架构，无疑将在数万亿智能IoT时代扮演推动者的角色.

10月24日，2018 ARM技术研讨会在北京成功举行. 今年会议的主题是“ ARM帮助创新技术”. 作为ARM重要的生态合作伙伴，云之胜副总裁李小涵博士应邀参加了会议并发表了主题演讲“物联网AI芯片的设计与思考”.

Yunzhisheng与ARM有很多合作. 今年5月，Yunzhisheng正式发布了UniOne，这是世界上第一个基于ARM通用内核的用于物联网的AI芯片. 在研讨会上，李晓涵博士结合云之胜公司的实际情况向业内人士介绍了UniOne芯片的设计思想和芯片系统解决方案的特点. 同时，他讨论了人工智能芯片在物联网中的未来应用和发展趋势.

Cloud Zhisheng的IoT AI登陆过程

作为中国最大的语音解决方案提供商，云之声一直致力于将人机交互语音功能从模糊的机器算法封装到可读产品中，并在公众中普及. 消费者场景.

云之声创造了许多行业先例，包括在中国推出了第一个免费语音云平台，第一个在白电领域实现IVM（智能硬件模块）出货的AI公司，第一个国内提案医疗语音系统解决方案和与合作医院最多的公司合作，并发布了UniOne，这是第一款用于物联网的AI系列芯片.

博士李小涵用“从算法到芯片”总结了云之胜的发展:

2012年至2013年，云之声成立之初，移动互联网方兴未艾，云之声主要通过纯软件解决方案（如语音助手APP，公共云平台）为行业提供服务； <

2014年至2015年，随着物联网的兴起和发展，对AI的需求逐渐显现，云之声开始探索基于通用的物联网和行业的软硬件集成解决方案芯片，正式成立公司. “ Cloud Core”的产品和业务策略；

2016年，云智升AI芯片1.0-IVM版模块批量生产并通过格力空调产品出货，医疗产品正式降落在北京协和医院. 随后，配备了云技术知识解决方案的产品已陆续登陆汽车，教育和机器人等许多领域.

李小涵透露，为不同行业提供服务不仅可以提高运智晟的技术实力，还可以使团队更深刻地了解现场. 更重要的是，在为不同客户提供服务的过程中，云智晟的芯片设计能力已经建立，这使云智晟能够增强决心，独立设计AI芯片，并基于专有芯片为物联网行业提供服务.

从IVM到基于ARM核心的AI核心

人机交互系统的变化引发了新一轮的产业转型，语音已经成为最有效，最自然的设备交互方式. 李晓涵指出，物联网终端设备自然需要语音，图像和其他本体的交互，这就是云之声选择从语音切换到物联网的根本原因.

他认为，要实现物联网的智能化转型，这意味着该设备必须具有“感知，表达，思考”三个关键功能.

以智能扬声器为例，首先，它需要通过声源定位，远场降噪，唤醒/识别，本地识别，云识别来理解人类语音中包含的信息. 基于感知，可以通过语音，图像或其他视觉方法将内容或信息传达给用户. 不仅如此，设备还需要通过“云”深刻理解用户的意图，并结合多终端信息融合与决策，知识图和云功能，反馈用户所需的内容和信息. 通过适当的渠道提供给用户.

要使IoT终端设备具有“感知，表达，思考”的基本功能云知声使用，您必须具有硬件载体. 李晓涵介绍说，在推出UniOne芯片之前，Yunzhisheng主要基于通用芯片，以模块（IVM）的形式为家居，机器人和其他行业的客户提供服务. IVM是一种多芯片解决方案，必须运行专用的DSP来解决降噪问题，并且需要配备专用的芯片才能实现语音识别，唤醒等功能，所以该解决方案ated肿且昂贵.

他指出，尽管IVM量产后的实际反馈相当不错，但这并不是业务长期发展的最佳选择. 这些挑战主要体现在以下几个方面:

边缘计算能力需求

在物联网终端设备的语音交互过程中，当所有计算都放在云中时，声学计算的一部分会给云计算带来很大压力，并且很容易增加成本云平台并延迟计算. 同时云知声使用，在家用电器，车载，NB-IoT等许多特殊情况下，无需网络即可完全完机交互. 同样以智能扬声器为例，在真实的物联网场景中，它需要准确确定用户命令，例如“问天气，听音乐”需要网络支持，还是“打开空调”. ，提高温度”等. 本地完成的要求. 无论从客户体验和成本控制的角度来看，它都需要在设备端实现“边缘计算”功能，而IVM显然不能胜任.

成本挑战

在硬件特别是家用电器行业中，有句俗话: “用户每多花一美元，就需要多花五美元来支付. ”对于冰箱和空调等产品，如果安装了云之声IVM解决方案，要消化智能升级带来的程序成本，产品价格可能需要增加500多元. 对于大众消费价格段中的产品，这是完全不可接受的，因此IVM仅能覆盖少量高端产品. 如果您想从金字塔中购买更多产品，则必须解决成本问题.

功耗的挑战

不同的硬件设备（尤其是白色家电）具有严格的国家和企业级功耗标准. 低功耗不仅是芯片制造的问题，而且还涉及方案，应用程序和算法. IVM模块的冗余架构无法实现最佳功耗，这显然不是最佳选择.

“基于业务层面的挑战和对未来趋势的预测，云之胜于2015年正式走上了核心建设之路. ”李小涵说.

Yunzhisheng UniOne芯片采用ARM内核，同时还设计了自己的Deepnet和uDSP硬件单元，这些单元专门设计用于加速深度神经网络和适当的计算. 与通用芯片相比，DSP任务加速，miniNLP任务加速，TTS任务加速，内存带宽利用率和NN任务提升等核心指标都可以带来多项改进.

李晓涵指出，之所以选择AMR，是因为后者拥有非常全面和成熟的IP，可以满足运智晟等初创企业在性能，功耗和成本方面的最终平衡. 其次，Yunzhisheng在AI中. 在芯片设计之初，就确定了开源模式，即产品供应商和解决方案提供商可以使用除核心引擎之外的其他应用程序层进行灵活设计. ARM提供了很好的发展生态.

新形势下人工智能芯片的挑战与机遇

目前，AI芯片边缘的相​​关硬件和软件基础设施正在朝着标准化方向发展，这体现在网络模型的标准化，IR标准化和IP同质性上. 具体表现为:

物联网AI芯片主流应用场景所需的网络模型已逐步稳定，IP的演进路径将逐步巩固；

NNNN，ONNX和其他不同模型可以在编译链的支持下在同一体系结构上运行. IR的标准化意味着行业划分的完成；

MAC（计算单元）的堆叠已成为提高计算密度的主流手段. 当前计算密度的提高逐渐减少了芯片产品的影响，尤其是系统差异化，这表明精耕细作势在必行.

李小涵认为，上述挑战将给人工智能芯片企业带来一定的麻烦，但挑战也意味着更多的机遇. 他预测，未来AI芯片初创公司的竞争将主要集中在系统级别，即基于对不同场景的理解，从提供单个AI芯片到提供完整的AI解决方案.

本文来自电脑杂谈，转载请注明本文网址：
https://www.pc-fly.com/a/shouji/article-217244-1.html