[商业信息]NovuMind异构智能：人工智能正在重新定义边缘计算

随着物联网(iot)的发展，智能边缘计算已经成为最热门的市场领域。人工智能+物联网(aiot)+边缘计算将打破传统物联网数据中心不在边缘设备上的劣势，使人工智能在边缘设备上更智能、更敏捷，以满足更多应用场景的需求。边缘设备上的本地计算意味着需要对大量数据进行有效的推理、分析和提取，这需要非常高的计算能力以及低延迟和功耗。

异构智能创始人兼CEO吴仁博士在最近的2019 sv connect Summit主题演讲中，分享了他对人工智能如何在网络边缘实现高计算能力和低功耗的看法。他认为，半导体行业正在不断向人工智能领域拓展，传统的芯片架构已经不能满足人工智能的各种应用需求，尤其是在边缘器件方面。

吴仁博士在sv connect 2019上的主题演讲

作为人工智能的特殊领域架构

“通用处理器时代即将结束，未来计算性能的提升将以专用处理器架构(dsa)为突破口，适用于机器学习和推理神经网络处理器。”吴博士还引用图灵奖获得者轩尼诗和帕特森的话说，“DSA 是唯一能让 前进的路径”。Dsa是异构计算的一种体现。异构计算的直接解释是指几种不同架构的处理器进行计算的组合。概念的核心在于用专业的硬件去做专业的事情。Dsa是为了优化特定领域，充分发挥硬件性能而设计的。

传统上，深度学习技术依靠高性能GPU来满足高计算能力的需求。但说到具体的消费市场需求，就没有那么奢侈了，往往会有更严格的功耗和成本限制。特别是涉及到人工智能在不同场景中的应用，硬件要求往往是为了满足准确的目标。“传统的芯片架构需要对神经网络等人工智能计算的矩阵进行扩展，会导致大量不必要的计算和功耗。我们自行设计的novutensor芯片架构支持原生张量计算，在保证高计算能力的同时，可以达到远远超过其他常见架构的功耗比。”吴仁博士也提到， “很多芯片公司提到他们的产品峰值计算能力很高，但是没有提到计算的准确性。很多高计算能力和低功耗往往是牺牲计算精度的背后，这样的产品经不起市场检验。Novutensor使用原始的动态半精度浮点计算，与标准半精度浮点数相比，精度损失很小，但可以大大节省硬件开销。”

用异构计算思维做生意，处处都是自己人

【/h/】随着AI时代的到来，对解决方案的需求进一步明确和增加。吴博士认为，人工智能是一个赋能的行业，异构智能的愿景是利用人工智能帮助不同领域的企业更好地制造产品。无论是智能安防摄像头、智能家居、智能工厂、数据中心等。，它需要一个能够处理大量数据和视频图像的经济高效的计算引擎。“异构计算的核心理念是充分发挥不同架构处理器的优势，让擅长做自己擅长的事情的人，以及异构智能产品。”吴博士提到，“我们擅长的是帮助不同的行业赋予人工智能技术以权力，使他们的产品更接近市场需求，更好地为客户服务。”

【/h/】随着人工智能技术的发展，无论是云应用还是终端应用都会变得更加成熟。他们不是对立的，而是互补的双赢。异构智能的优势在于可以提供人工智能的全栈服务，从云到边缘，再从底层硬件的支持到模型的训练。未来，随着计算能力和市场的发展，异构智能将在人工智能浪潮中发挥重要作用。