close
当前位置: SmartTimes > 硬科技 > 新闻 >

AI芯片看起来像什么?

根据您的参考点,人工智能将是下一个大问题,或者它将在所有下一个大问题中发挥重要作用。
这解释了过去18个月该行业活动的狂热。大公司正斥资数十亿美元收购初创公司,甚至更多地用于研发。此外,全球各国政府正向大学和研究机构投入数十亿美元。一场全球竞赛正在创造最佳的架构和系统,以处理需要处理的大量数据才能使AI正常工作。
市场预测相应提高。根据Tractica的数据,到2025年,人工智能的年收入预计将达到368亿美元。该研究机构表示,到目前为止,它已经确定了27个不同的行业领域和191个AI用例。
屏幕截图2017年2月24日上午9.41.23
图1. AI收入增长预测。资料来源:Tractica
但是深入研究,很快就会发现,没有唯一的最佳方法可以解决人工智能。实际上,甚至没有关于什么是AI或需要分析的数据类型的一致定义。
OneSpin Solutions总裁兼首席执行官Raik Brinkmann说:“这里需要解决三个问题。” “首先,您需要处理大量数据。第二个是建立用于并行处理的互连。第三是力量,这是您必须四处移动的数据量的直接结果。因此,您确实需要从von Neumann架构过渡到数据流架构。但是那到底是什么样的呢?”
到目前为止,答案不多,这就是为什么这个市场上的第一批芯片包括现成的CPU,GPU,FPGA和DSP的各种组合。尽管英特尔,谷歌,英伟达,高通IBM等公司正在开发新设计,但尚不清楚哪种方法会获胜。似乎总是需要至少一个CPU来控制这些系统,但是随着流数据的并行化,将需要各种类型的协处理器。
AI中的许多处理都涉及矩阵乘法和加法。大量并行工作的GPU提供了一种廉价的方法,但代价是功率更高。带有内置DSP模块和本地存储器的FPGA更加节能,但它们通常更昂贵。这也是真正需要共同开发软件和硬件的部分,但是许多软件远远落后于硬件。
Mentor Graphics董事长兼首席执行官Wally Rhines说:“研究和教育机构目前正在开展大量活动。” “有一场新的处理器开发竞赛。也有用于深度学习的标准GPU,与此同时,一大群人正在使用CPU。目的是使神经网络的行为更像人类的大脑,这将激发全新的设计浪潮。”
视觉处理在AI方面引起了最多的关注,这在很大程度上是因为特斯拉在自动驾驶汽车有望推出之前将近15年就引入了自动驾驶功能。这为该技术以及处理图像传感器,雷达和LiDAR收集的数据所需的芯片和整个系统架构打开了巨大的市场。但是,许多经济学家和咨询公司正在把目光投向这个市场,而不是人工智能将如何影响整体生产力。埃森哲(Accenture)最近的一份报告预测,在某些国家,人工智能将使GDP增长一倍以上(参见下面的图2)。虽然这将导致工作岗位严重中断,但整体收入提高幅度太大,无法忽略。
屏幕截图2017年2月24日上午10.00.15
图2:人工智能的预期影响。
Synopsys的董事长兼联合首席执行官Aart de Geus 指出了三波电子浪潮:计算和网络,移动性和数字智能。在后一类中,重点从技术本身转移到它可以为人们提供的服务上。
“您将看到具有神经网络IP的处理器用于汽车中的面部识别和视觉处理,” de Geus说。“ 机器学习是另一方面。人们正在大力寻求更多功能,而最新的技术可以更快地做到这一点。这将推动开发到7nm和5nm甚至更高。”
当前的方法
自动驾驶中的视觉处理在AI的当前研究中占主导地位,但该技术在无人机和机器人技术中的作用也越来越大。
“对于成像中的AI应用而言,计算复杂度很高,” Achronix总裁兼首席执行官Robert Blake说。“有了无线,数学就很好理解了。通过图像处理,就像荒野西部。这是一个非常多样化的工作负载。该市场将需要5到10年的时间才能摆脱震荡,但是可编程逻辑无疑将发挥重要作用,因为需要可以以高度并行方式完成的可变精度算术。
FPGA非常擅长矩阵乘法。最重要的是,可编程性为设计增加了一些必要的灵活性和面向未来的能力,因为目前尚不清楚所谓的智能在设计中的位置。用于决策的某些数据将在本地处理,而某些数据将在数据中心处理。但是每种实现的百分比可能会发生变化。
这对AI芯片和软件设计有很大影响。尽管AI的总体状况并没有太大变化-大多数被标记为AI的东西比真正的AI更接近机器学习-但是对如何构建这些系统的理解已经发生了很大变化。
Arteris营销副总裁Kurt Shuler说:“有了汽车,人们正在做的事情就是把现有的东西放在一起。” “要使一个真正高效的嵌入式系统能够学习,它需要一个高效的硬件系统。为此使用了几种不同的方法。如果您看视觉处理,那么您正在做的是试图弄清楚设备正在看什么以及如何从中推断。这可能包括来自视觉传感器,LiDAR和雷达的数据,然后应用专用算法。这里发生的很多事情都试图使用深度和卷积神经网络来模仿大脑中发生的事情。”
这与真正的人工智能的不同之处在于,当前的技术水平能够检测和避开物体,而真正的人工智能将能够增加一定程度的推理,例如如何穿越一群人。街头或者孩子追球的可能性是否会撞上街头。在前一种情况下,判断是基于各种传感器的输入,这些传感器基于海量数据处理和预编程行为。在后者中,机器将能够做出价值判断,例如为避免孩子而转向的许多可能后果,这是最佳选择。
舒勒说:“传感器融合是1990年代飞机出现的一种想法。” “您将其转换为通用数据格式,机器可以在其中处理它。如果您是军人,您会担心有人向您开枪。在汽车中,这是关于有人在您面前推婴儿车。所有这些系统都需要极高的带宽,并且所有系统都必须内置安全性。最重要的是,您必须保护数据,因为安全性正变得越来越重要。因此,您需要的是计算效率和编程效率。”
这是当今许多设计中所缺少的,因为很多开发都是使用现成的零件构建的。
Cadence高级架构师Samer Hijazi说:“如果优化网络,优化问题,最小化位数并利用针对卷积神经网络定制的硬件,则可以将功耗降低2到3倍数量级。” 以及公司深度学习小组的负责人。“效率来自软件算法和硬件IP。”
Google正在尝试更改该公式。该公司已经开发了Tensor处理单元(TPU),这是专门为机器学习而创建的ASIC。为了加快AI开发速度,该公司在2015年将其TensorFlow软件变成了开源软件。
屏幕截图2017年2月25日上午10.46.19
图3:Google的TPU板。资料来源:谷歌。
其他人有自己的平台。但是这些都不是最终产品。这是一个进化,而且没人能确定人工智能在未来十年将如何发展。部分原因是仍在为该技术发现用例。在一个领域中有效的方法(例如视觉处理)不一定对另一种应用有益,例如确定气味是危险的还是良性的,或者可能是两者的结合。
NetSpeed Systems营销和业务开发副总裁Anush Mohandass表示:“我们正在黑暗中射击。” “我们知道如何进行机器学习和AI,但是目前它们如何实际工作和融合尚不清楚。当前的方法是拥有大量的计算能力和不同类型的计算引擎(用于神经网络应用程序的CPU,DSP),并且您需要确保其能够正常工作。但这只是第一代人工智能。重点是计算能力和异构性。”
但是,随着要解决的问题变得更有针对性,这种情况有望改变。就像早期版本的IoT设备一样,没人知道各个市场将如何发展,因此系统公司投入了一切,并使用现有的芯片技术将产品推向了市场。对于智能手表,结果是一次电池在两次充电之间只能持续几个小时。在针对这些特定应用开发新芯片时,通过结合更具针对性的功能,更智能地分配本地设备和云之间的处理方式,以及更好地了解瓶颈在哪里的组合,可以平衡功率和性能。设计。
Arm的模型技术主管Bill Neifert说:“挑战在于找到您不知道的瓶颈和约束。” “但是根据工作量,处理器可能与软件交互不同,软件本质上是并行应用程序。因此,如果您正在查看诸如财务建模或气象图之类的工作负载,那么每种强调基础系统的方式都是不同的。而且,您只能通过内部了解来了解这一点。”
他指出,在软件方面解决的问题需要从更高的抽象层次来审视,因为这使它们更易于约束和修复。那是难题的关键部分。随着AI进入更多市场,所有这些技术都需要发展以实现与一般技术行业,尤其​​是半导体行业过去所展示的相同的效率。
Mohandass说:“目前,如果架构仅能很好地处理一种类型的计算,我们就会陷入困境。” “但是异质性的缺点是,整个分而治之的方法分崩离析。结果,该解决方案通常涉及过度配置或配置不足。”
新方法
随着自动驾驶汽车以外的AI的用例越来越多,采用范围也将扩大。
这就是英特尔去年8月收购Nervana的原因。Nervana开发了2.5D深度学习芯片,该芯片利用高性能处理器内核,将数据通过插入器移动到高带宽内存。声明的目标是与基于GPU的解决方案相比,训练深度学习模型的时间减少100倍。
截屏,2016年4月26日 - 在 -  50年10月23日-AM
图4:Nervana AI芯片。资料来源:Nervana
eSilicon营销副总裁Mike Gianfagna表示:“这些看起来非常像高性能计算芯片,基本上是使用硅中介层的2.5D芯片。” “您将需要大量的吞吐量和超高带宽内存。我们已经看到一些公司正在研究这个问题,但是还没有几十个。还为时过早。当您谈论实现机器学习和自适应算法,以及如何将它们与传感器和信息流集成在一起时,这非常复杂。如果您看着汽车,就意味着从多个不同的源流式传输数据,并添加了自适应算法来避免碰撞。”
他说,使用这些设备要解决两个挑战。一种是可靠性和认证。另一个是安全性。
对于AI,需要在系统级别上考虑可靠性,包括硬件和软件。ARM在12月收购Allinea提供了一个参考点。另一个来自斯坦福大学,研究人员正在尝试量化软件修整计算的影响。他们发现,大规模切割或修剪不会对最终产品产生重大影响。加州大学伯克利分校一直在开发一种基于不到100%准确度的计算的类似方法。
“与细粒度修剪相比,粗粒度修剪不会损害准确性。” 斯坦福大学的候选人,他正在研究节能深度学习。韩说,在斯坦福大学开发的稀疏矩阵所需的计算量比DRAM少10倍,存储器占用空间小8倍,能耗也低120倍。他将斯坦福称为“高效语音识别引擎”的压缩技术应用于加速推理。(这些发现在Cadence最近举行的嵌入式神经网络峰会上发表。)
量子计算为AI系统添加了另一种选择。Leti首席执行官Marie Semeria表示,量子计算是其团队的未来方向之一,特别是在人工智能应用方面。IBM Research科学与解决方案副总裁Dario Gil解释说,使用经典计算,只有四分之一的机会猜出四张卡中的哪一张是红色的(如果其他三张是蓝色的)。使用量子计算机并纠缠叠加的量子位,通过反转纠缠,系统每次都会提供正确的答案。
屏幕截图2017年2月25日下午6.53.27
图5:量子处理器。资料来源:IBM。
结论
AI不是一回事,因此,没有哪个系统可以最佳地在任何地方运行。但是对AI系统有一些一般要求,如下表所示。
屏幕截图2017年2月28日下午7.06。
图6:AI基础知识。资料来源:OneSpin
而且AI确实在许多市场上都有应用程序,所有这些都需要广泛的改进,昂贵的工具和支持生态系统。经过多年依靠收缩设备来改善功率,性能和成本的经验之后,整个细分市场都在重新考虑他们将如何进入新市场。对于建筑师来说,这是一个巨大的胜利,它为设计团队增加了巨大的创意选择,但同时也将刺激从工具和IP供应商一直到封装和流程开发的大规模开发。这就像点击技术行业的“重启”按钮一样,这在未来几年内将证明对整个生态系统的业务都有好处。

(责任编辑:ioter)

用户喜欢...

98point6将AI推动的远程医疗带给Sam's Club会员

三个州的Sams Club会员很快就可以在一天中的任何时候通过电话直接就医,每次疗程只需$ 1。 这项津贴归功于在密歇根州,宾夕法尼亚州和北卡罗来纳州的一名飞行员,沃尔玛拥有的Sams Club正在...


物联网客户旅程中的AI丰富了体验

自动化,人工智能和机器学习的兴起开始以给组织提供新的机会来吸引消费者和潜在客户的方式来扰乱客户的旅程。根据思科的VNI预测重点工具,到2022年,预计普通人将拥有至少13台连接的设备...


AI和IoT实时监控Citarum河的植树造林

印尼农民德迪担心,由于他抚育了28年的那片小小的稻田,未来前景并不乐观。他的农场位于爪哇岛著名的Citarum河的上游,更不用说他的家人和社区了,他依靠297公里的水道维持生计。 他说:...


AIOT时代助力集成电路迎来新高峰

国内半导体IDM最负盛名的华润微电子有限公司出席大会,公司常务副董事长陈南翔博士应邀在世界制造业大会集成电路产业高峰论坛上发表题为《AIoT时代:集成电路产业将攀上新高峰》的主旨...


创维在IFA 2019上点燃了AIoT的未来

今年的IFA与连通性有关。随着语音控制和人工智能(AI)的日益普及,家用电器也开始通过AIoT组合和连接多种设备的功能和特性,以使消费者能够将指尖连动起来。作为业内领先的创新者,创维...


1020万美元的资金和可解释的AI引擎标签:Fiddler Labs如何看待企业市场

Fiddler Labs已成为填补Explainable AI差距的最新冠军。可解释的人工智能引擎宣布本周筹集了1,020万美元的A轮融资。Fiddler当前帮助企业客户揭开黑匣子AI的奥秘,以更好地理解这些平台为何做出决定...


AI会产生智能超级智能的“合成天才机器”吗?

在计算和自动化方面,我们已经超越了科幻领域的超人能力。随着新的先进技术和机器学习功能的出现,人类正在寻找新的途径来扩展认知神经科学和增强学习能力,以构建合成天才机器。在最...


阿里巴巴携手推动提供AI就绪的基础设施

在过去的几年中,中国的在线零售/云托管/娱乐流媒体强国阿里巴巴真正涉足了AI,这不仅是因为其业务现在要求尽其最大的努力来利用这种技术。因此,毫不奇怪地注意到,它与中国同胞华为...


成功AI的关键:将其使用隐藏在人们的视线之外

在越来越多的领域中,人工智能已证明自己优于人类智能。也就是说,除非人们知道正在使用AI。 是的,因为在某些以人为中心的部门中,如果人们被告知智能机器的参与,人工智能的性能就会...


为什么AIoT作为工业4.0的未来而兴起

主导技术行业的两个趋势是物联网(IoT)和人工智能(AI)。但是对于工业自动化而言,这两种技术远不止是流行语或热门话题。AI和物联网的融合将重新定义工业自动化的未来。它将引领工业...