
来源:本文由公众号半导体领域观察(ID:icbank)翻译自「nextplatform」,感谢。
自在1965年被提出以来,摩尔定律在过去几十年里驱动计算产业经历了一段显著的同比和稳固时期。晶体管密度和处理器性能也在过去五十年李获得了大幅度的提升,也促进了通用计算模型的兴起。然而根据MIT计算机科学与人工智能实验室的Neil Thompson和哈佛大学的客座教授Svenja Spanuth的说法,这一切都将会结束了。
你们认为,通用计算不应该仍然是常态。在超级计算的晚期阶段,来自Cray等企业的定制矢量架构主导了HPC行业。目前,NEC还在基于矢量系统构建相关品牌。但谢谢摩尔定律,晶体管的性价比在过去几十年里有了大幅度的攀升,其带给的经济劣势就趋势产业界走进了通用计算的年代。
这主要是因为开发和制造定制芯片的费用在3000万到8000万美元之间。因此,但是用户需要高性能的微处理器,但通用处理器的微缩速度,会将定制处理器带来的差异快速拉近。同时,晶体管微缩的费用可以被数百万个处理器摊销,所以而费用问题也会导致采用特制架构的益处也很快消逝。
但摩尔定律所带给的计算经济学正在发生改变。

近年来,随着半导体材料的数学限制开始凸显,扩大的晶体管变得越来越昂贵。据了解,在过去的25年中,构建一个领先的晶圆厂的费用每年增长11%。2017年,半导体行业协会估计建造一座新工厂需要花费约70亿美元。这并且推高了芯片制造商的固定成本,还将先进半导体制造商的人数从2002年的25家减少到今天的三家:英特尔,台湾半导体制造企业(TSMC)和三星。

美国战俘统计局(BLS)也在其四份报告中企图量化每微美元的微处理器性能。按照你们的统计,这个数据的提升率从2000 - 2004年的48%下降到2004 - 2008年的29%,而2008 - 2013年,数字又增加到每年8%。
一切其他都从根本上改变了扩大晶体管的费用/效益。
由于修建和运营新工厂的成本不断上升,英特尔的固定成本有史以来第一次超过其可变费用。更令人烦躁的是,连三星和高通这样的企业现在都觉得,在最新工艺节点上制造的晶体管成本正在迅速提高,这进一步阻碍了产业界对更小尺寸的追求。这也应该是GlobalFoundries 最近放弃其7nm技术计划背后的因素。

这不仅仅是摩尔定律的好转。专用处理器的另一个驱动原因是一些通用计算不能满足需求的新应用程序的产生。如移动装置和物联网(IoT)这种的平台,你们在电力效率和利润方面要求很高,所以需要大量部署,这就催生了定制芯片的需求。而这些具备更严格要求的低体积使用,例如军用和民航设备,也是是独特用途设计芯片的市场锁着。
但在笔者看来,跨越移动,桌子,嵌入式,云计算和超级计算等几乎一切计算环境的应用程序类别的深度学习的问世,才是行业真正的分水岭。
深度学习及其首选软件平台GPU是计算从通用处理器走向专用处理器的一个最显著的实例。因为希望比CPU更有效地进行数据并行处理,这样可以被视为半计算架构的GPU已经变成练习深度神经网络的首选平台。
但对于深度学习,GPU可能只是“入门药”(gateway drug)。现在,英特尔,富士通和数十家创业企业早已提供了人工智能和深度学习专用芯片,谷歌专门用来练习和使用大脑网络的TPU目前也更新到了第三代。
“创建一个定制的处理器对谷歌而言十分低廉,可能固定成本为数千万美元,”学者说到,但是,坏处也很大。按照你们的说法,三代TPU的外观增长相当于摩尔定律的七年。

Thompson和Spanuth还表示,特制处理器越来越多地被应用于超级计算。他们认为通用计算平台,2018年11月的TOP500排名中,特制处理器(主要是Nvidia GPU)首次超越CPU,作为大部分增加的外观的来源。在这里,我们还对其列表进行了回归分析,结果表明,具备专用处理器的超级计算机每瓦特可以执行的假设次数几乎是使用通用处理器的超算的五倍,这一结果更加具备统计意义。

Thompson和Spanuth提供了一个数学模型,用来选定专用处理器的费用/本金。在这个模型中,你们同样考虑到了开发定制芯片的固定成本,芯片数量,定做实施提供的加速以及处理器改进的速率。由于后者与摩尔定律联系在一起,所以速度减缓意味着即使预期的加速比较适中,特制芯片的合理化也会显得非常容易。
“如果,对于许多(但不是全部)应用,现在获得特制处理器在经济上是可行的,起码在软件方面,”学者认为。“另一种看待这些现象的方式是在2000 - 2004年期间,市场体量约为83,000台处理器的应用程序如果需要特制处理器,所以则需要型号优化100倍才便宜,但在2008 - 2013年,这种的处理器只需要2倍的提升,就足够了。


Thompson和Spanuth还考虑到了特制处理器重新定位应用插件的额外成本,你们可能每行代码的售价为11美元。这在一定程度上使模型复杂化,因为您必须权衡代码库的形状,但这并不总是很容易追踪。在这里,你们还表示,一旦代码再次开发完成通用计算平台,它通常会阻挡代码库移回通用平台。
Thompson和Spanuth还为特制处理器纳入了重新定位应用插件的额外成本,你们可能每行代码的售价为11美元。这在一定程度上使模型复杂化,因为您必须权衡代码库的形状,这并不总是很容易追踪。在这里,你们还表示,一旦代码再次开发完成,它通常会阻挡代码库移回通用平台。
最重要的是,摩尔定律的缓慢消亡正在揭示过去的变革,市场扩张和再投资是一个很好的良性循环。但随着越来越多的芯片开始蚕食计算领域,这个周期变得支离破碎。由于较少的用户采用最新的制造节点,晶圆厂的的投资也显得非常困难,这进一步加速了技术进步。这将加快业界将计算领域分割成多个专门领域。
其中如深度学习等行业,由于其体量和对的适用性,你们将率先步入快车道。而像处理这种的行业还是被广泛使用,但可能会成为死水,因为这样类型的假设并不需要专用芯片。尽管认为从中受益,但类似气候模型则因为使用面太窄,并不需要去做定制芯片。
我们也可能清楚认识到,这并不意味着CPU甚至GPU会失败。尽管作者对此没有太深入的研究,但我觉得,将来专用,半和通用计算引擎就会被集成到同一芯片或处理器封装中,而一些芯片制造商也早已走上了这条大路。
例如,Nvidia在其新一代GPU Volta中采用了Tensor Cores,后者是其专门用来深度学习的特制电源。通过这样做,Nvidia能够提供一个既能满足传统超级计算模拟又能深度学习应用的平台。同样,CPU正在与特制逻辑块集成,用来加密/解密,图例加速,讯号处理,其实还有深度学习。
期待这些态势继续下去。
本文来自电脑杂谈,转载请注明本文网址:
http://www.pc-fly.com/a/jisuanjixue/article-118768-1.html
我们加紧建设我们的