本篇文章4626字,读完约12分钟
最近,英特尔的行动可谓非常频繁:它在学术会议上发表了各种关于其新算法的论文,在商业领域先后收购了nervana和mopius,并发布了最新的深度学习处理器knights mill。在一份声明中,它声称四个骑士芯片的计算能力比四个图形处理器快2.3倍。这把剑指的是英伟达,一个自个人电脑时代以来恋爱并被杀害多年的老对手。尽管英伟达态度坚决,甚至语气中带着一丝不屑,但英特尔仍在公开声明中坚定地为其数据辩护,称去年为深度学习开发的处理器中只有不到3%使用了gpu。
真相是什么?在考虑了各种因素之后,我们真的说不清楚哪一个更适合深度学习开发,gpu还是英特尔,最新的深度学习芯片。然而,有一点是肯定的:英特尔声明中提到的gpu不是这款深度学习芯片应该瞄准的最新的gpu特斯拉p100,而是英伟达早在18个月前就上市的maxwell架构gpu,所以2.3倍的数据应该是湿润的。我们可以理解英特尔推销其产品的愿望,但使用其下一代产品来瞄准已上市一年多的上一代架构产品难道不是有点不合适吗?英特尔应该心中有数,而且这也不是英特尔第一次在宣传中使用类似的手段(之前英特尔经常宣称其集成显卡的计算能力超过了某个nvidia公司生产的独立显卡),但是英特尔的杀敌一千人、输800人的宣传方式可以说明一件事:英特尔确实非常重视ai和深度学习市场,早些时候和最近的一系列收购也从侧面证明了这一点。
早在个人电脑时代,两种图形处理器就经常被比较,照片来自youtube
但是你为什么这么执着?目前,深度学习市场上有四个活跃的主角:cpu、gpu、fpga和专用处理器,其中fpga和专用处理器的应用还处于探索阶段,真正使用它们的开发者很少。因此,这个领域的市场竞争主要集中在gpu和cpu之间,甚至英特尔和nvidia之间。然而,每个深度学习开发人员都很清楚,在深度学习开发,尤其是算法训练方面,gpu比cpu有着巨大的先天优势。为什么英特尔坚持要在这个似乎天生就是对手的战场上竞争?虽然gpu很好,但它不能独立工作,至少没有人会这样做,因为由于gpu的特性,它不能执行有效的逻辑运算。即使是英伟达最新的深度学习超级计算机dgx-1也包含两个英特尔至强处理器(恩,英伟达在许多宣传文件中故意弱化甚至忽略了这一点)。似乎无论英伟达的市场有多大,总会有英特尔的份额,那么为什么英特尔如此急于占领英伟达的位置呢?
双英特尔至强e5-2698写在nvidia官方网站提供的dgx-1配置表的cpu栏中
为了澄清这个问题,我们必须从人工智能的角度拓宽视野,审视英特尔的整体战略布局。实际上,这个标题不太准确。因为英特尔的业务似乎没有那么繁荣。近年来,英特尔的核心盈利业务cpu同时受到三大因素的冲击:个人电脑市场增长放缓和移动市场的爆发,进军移动市场的尝试失败,摩尔定律逐渐接近极限,几乎失败。简单地销售cpu可以赚钱,但是只有通过开发高端芯片,形成自己的领导者形象,然后卖给更多的人,你才能赚更多的钱,支持公司的发展。然而,这些因素的同时出现使英特尔发现,如果它仍然保持其cpu业务的轻松,它将很快面临一场巨大的危机。事实上,在过去的一年里,利润下降和裁员的消息一直围绕着英特尔。
英特尔曾经是计算机技术发展的驱动力之一。显然,英特尔希望保持这一地位。自去年以来,英特尔开始了一场缓慢、痛苦但坚定的转型。我想继续成为云计算、云存储、物联网等领域的领先公司。,并在相关领域投入了相当大的精力和做出了许多调整。
理想是充实的,但现实总是单薄的。经过几年的高调,一度备受期待的物联网似乎已经迷失了方向。从来没有真正的杀手级产品。许多曾经受欢迎的产品和型号已经消失,整个市场也没有发展起来。即使对未来非常重要的云计算,也是英特尔最重视的云计算。当时,市场已经基本结束了最初的杀戮,还有亚马逊、微软、谷歌、阿里巴巴云、ibm等。已经在市场上站稳了脚跟。英特尔落后的可能性越来越小。
2016年,随着alphago的水平空的诞生,人工智能突然变得炙手可热,这一下子将所有人都默默参与的人工智能硬件竞争提到了一个新的高度。看着老对手英伟达利用这股东风,因为它专注于优化gpu擅长的并行计算。英特尔如何才能放开这个市场?此外,由于目前非常流行的深度学习需要大量的数据和计算,因此它可以成为云计算的重要服务对象之一。目前,fpga还没有成为深度学习市场的气候,像谷歌这样的大公司喜欢自己开发特殊的芯片。因此,可以说对于深度学习芯片来说,对于个人开发者和中小企业来说仍然有相当大的市场。目前,nvidia几乎是这个市场上唯一一家成为气候公司的公司,英特尔可能不会没有机会大举进入。即使英特尔最终无法超越英伟达,它也能为后来者形成优势,稳坐第二。当然,对于英特尔来说,他们肯定不愿意成为第二个孩子,但他们必须走向老板的位置。
想拍瓷器作品,你有阿津钢琴曲吗?英特尔有机会在人工智能和深度学习领域进行反击并重新获得其在个人电脑时代的领先地位吗?我们认为英特尔并非没有机会,尽管英伟达似乎已经利用时间和地点,依靠gpu性能和支持多年开发的软件优化。但其中,英特尔确实有翻身的可能。
赌fpga
去年6月,英特尔以前所未有的167亿美元收购了著名的fpga制造商altera。当时,业界对英特尔此举的解读主要集中在服务器市场和物联网市场的布局上,而英特尔自己对此次收购的解读并未明确提及机器学习。但现在看来,这一收购可能是由于英特尔认识到其在人工智能领域的潜力。
无论当时发生了什么,至少现在英特尔已经完全意识到这次收购在人工智能领域带来的价值。现场可编程门阵列对图形处理器的潜力在于它的计算速度与图形处理器相当,但它在成本和功耗方面比图形处理器有显著的优势。当然,也有缺点,我们最后会提到,但是fpga的潜力是显而易见的。作为一种想投放市场的商品,fpga最需要克服的问题,也是最容易克服的问题,是它的普及性——大多数pc机都配有高端或低端独立的图形处理器,它们的性能基本上足够个人开发和训练中小规模的神经网络。然而,现场可编程门阵列在计算机中找不到,但在各种冰箱、电视和其他电气设备及实验室中更为常见。因此,获得一个可用于深度学习的fpga是相当麻烦的。可以想象,这是英特尔将关注的问题之一。
图像源,eetimes
集成显卡——未开发的处女地
也许有些人没有意识到。事实上,英特尔在显卡的设计和制造方面有很强的能力。它甚至是世界上最大的图形处理器制造商,因为市场上的许多低端电脑和超极本没有配备单一显示器,但几乎每个英特尔cpu都有一个集成显卡。英特尔最初打算让这种显示器帮助日常图形操作,这样不需要运行高性能程序的用户就可以以非常低的成本获得可用的计算机。然而,近年来,集成显卡的性能越来越强,甚至达到了运行许多中型游戏的水平。iris pro graphics 6200的理论性能甚至达到了中端水平。然而,目前还没有人能用set display在小范围内进行深度学习,因为它仍然很慢,但是它们的计算能力显然没有太大的不同。为什么速度这么慢?接下来要谈的是我们想说的重点:
软件!软件!软件!
现在信息技术领域有一个非常奇怪的现象。许多人说他们的手机和电脑被卡住了,而他们的性能却超负荷了。事实上,这归根结底是软件优化的问题。在相同的计算能力下,软件优化较好的一方可以获得更高的性能。经过英伟达多年的努力,gpu已经得到了一套深度学习软件的支持。Nvidia的gpu经过优化,与主流深度学习平台兼容,如caffe、an ano和torch,并拥有自己的cuda。然而,fpga的优化程度要低得多,所以基于fpga的开发难度实际上要比gpu高得多,这也是前面提到的fpga的另一个缺陷。
英特尔不是一家软件公司。说到英特尔和软件,恐怕它制造的各种硬件的驱动程序是人们最关心的。但是人工智能从来都不是一件简单的事情。如果你想在这个领域大放异彩,光靠硬件是不可避免的。事实上,英特尔已经开始展示其在软件和算法方面的努力。上周,英特尔中国宣布了其深度学习算法的一项创新:“动态手术”算法。这表明英特尔已经开始努力学习算法理论。在这一领域的创新表明英特尔对其算法有着深刻的理解,我相信下一步就是将这些理解应用于未来深度学习芯片的优化。
英特尔的信心事实上,当英特尔不断面对英伟达时,它仍试图告诉每个人一件事:
事实上,gpu对于深度学习并不那么重要。
许多人,包括我自己,当他们第一次听到这个观点时,可能会有一个wtf的表达。但是从某个角度来看,也许英特尔所说的确实是合理的。事实上,当我们提到与人工智能相关的硬件时,我们会想到更高的服务器机架和其上闪烁的指示灯,至少是主板另一端的titanx和Xeon cpu。然而,很少有非人工智能专业人员意识到,人工智能的开发和应用实际上分为几个阶段,其中只有“算法训练”阶段真正需要强大的计算能力,从数据筛选到算法开发。
当然,在一个好的项目中,算法训练应该贯穿整个应用过程,但这意味着拥有超级计算能力并不是人工智能领域中使用的芯片所需要的唯一特征。
这是英特尔最大的信心来源。它对人工智能的理解一点也不比英伟达弱,而且它清楚地知道自己擅长什么,在哪里可以捕捉到它。让我们回到过去,仔细看看英特尔首席执行官柯在奇在他的博客中提到的转型之后打算关注的领域。我们会发现其中两个特别重要:
1.物联网中不同形式的“物”:物联网中几乎所有的设备都有两个明显的特点:体积小和电池驱动。对于这些设备来说,图形处理器的尺寸和功耗显然太大,而fpga和专用处理芯片则适合这些设备。这是英特尔的第一次机会。
对于物联网设备来说,这样的主板体积很大,但很明显,即使这样的主板也不可能插入gpu,更不用说耗电了
第二:连通性,如前所述,在一个好的项目中,算法的训练应该贯穿整个应用过程,以便随时为消费者提供最佳的体验服务。然而,如果所有的算法都集中于局部训练,它们不仅会面临计算瓶颈的问题,还会面临从单个用户收集的数据量太小的尴尬。就目前而言,我们不考虑基于无监督学习的人工智能,因为小样本可能会出现很长一段时间(这几乎和人一样)。在目前人工智能的发展下,将所有数据集中在云中进行计算显然更合理、更有效。这就对沟通提出了很高的要求,而英特尔恰好在这一领域积累了相当多的经验!尽管英特尔的通信部门年年亏损,但在当前形势下,它出人意料地具有了新的价值和潜力。
以上两项业务是英伟达从未涉足的领域,目前也是人工智能所需要的。英特尔已经发现了这些领域,这并不意味着它可以在这些领域做得很好并取得成功,但它确实给了英特尔挑战英伟达和许多竞争对手的信心。除了直接竞争,它目前的行动也是告诉大家,我们在人工智能领域从来就配不上英伟达,所以我们拭目以待!
敢于面对变化的人不会太不幸。英特尔确实面临着前所未有的挑战,但没有机会。幸运的是,英特尔看到了这个机会,并开始努力追赶这些领域的先驱。移动浪潮的到来使许多传统的互联网公司面临困境,但大多数公司都进行了坚定的转型,有些公司甚至在今天过上了好日子。英特尔也是其中之一。它曾经是计算机行业的领导者。现在,英特尔首席执行官柯在奇也表示希望英特尔能够继续利用摩尔定律的价值引领行业前进。目前的形势不容乐观,但一旦找到了正确的道路,英特尔仍有机会彻底扭转局面。