宁武| 山海关| 绿春| 台州| 邵东| 金川| 宾县| 习水| 黄平| 宿豫| 固阳| 五原| 大同区| 阳泉| 黄埔| 红安| 平陆| 英吉沙| 常熟| 阿城| 英吉沙| 新郑| 乡宁| 宜昌| 陇县| 建宁| 鄂托克旗| 定日| 青川| 贾汪| 榆林| 环县| 马尔康| 虎林| 岷县| 新巴尔虎右旗| 平安| 梨树| 腾冲| 什邡| 涉县| 莫力达瓦| 肃北| 明溪| 大荔| 海南| 衡水| 左权| 灵山| 召陵| 获嘉| 大关| 尼勒克| 都匀| 洛宁| 平武| 无锡| 南沙岛| 长武| 济南| 阆中| 师宗| 鹿邑| 庐山| 怀宁| 阿城| 延吉| 富平| 兴城| 泸县| 岑巩| 泰州| 克拉玛依| 临洮| 盱眙| 黄山区| 香格里拉| 齐齐哈尔| 会宁| 泉州| 雅江| 澄海| 抚顺市| 旺苍| 定襄| 都江堰| 江达| 会宁| 安塞| 邵阳县| 涉县| 广河| 宝清| 洞口| 榆社| 美溪| 新泰| 华山| 三都| 长武| 侯马| 平鲁| 索县| 保山| 方山| 古冶| 金寨| 兰坪| 岚县| 九龙坡| 汪清| 肃南| 平南| 东乡| 霞浦| 平川| 海城| 康定| 城步| 洮南| 蕉岭| 左权| 汝城| 崇义| 广西| 塔河| 锡林浩特| 东安| 徽县| 凌源| 景宁| 稷山| 伽师| 鄂尔多斯| 林周| 简阳| 景德镇| 井陉| 阿鲁科尔沁旗| 汉沽| 盐山| 容城| 建瓯| 株洲市| 台南市| 河源| 巫山| 固阳| 同仁| 牡丹江| 伊宁县| 蛟河| 玛曲| 徐州| 延寿| 永丰| 湘阴| 永福| 同心| 迁安| 科尔沁左翼中旗| 阿荣旗| 德令哈| 都昌| 新洲| 墨脱| 鄂伦春自治旗| 凤庆| 钦州| 徐水| 改则| 辽中| 师宗| 宝清| 敦煌| 皋兰| 济南| 宁津| 绵阳| 喀喇沁左翼| 太和| 伊宁市| 伊春| 邱县| 柳江| 东安| 岳阳县| 新田| 梅县| 会同| 西青| 恒山| 闻喜| 勃利| 吉首| 文山| 福安| 离石| 望谟| 大同县| 金湖| 梁平| 灵璧| 漠河| 宁武| 南岔| 公安| 涿州| 华安| 称多| 台南市| 彭州| 方山| 疏勒| 九龙| 垣曲| 罗源| 安陆| 蓝田| 安庆| 蒙阴| 孝昌| 从化| 谷城| 来宾| 潘集| 微山| 石泉| 万山| 同德| 咸宁| 望谟| 陇川| 格尔木| 鄂州| 延安| 岚县| 宜春| 建昌| 吐鲁番| 来凤| 武胜| 诸城| 尖扎| 宿松| 乌拉特后旗| 罗田| 夏邑| 长丰| 九龙| 隆化| 米泉| 龙湾| 绥化| 囊谦| 潞城| 涟源| 灵丘| 新城子| 大埔| 姚安| 饶阳| 青龙|

赖清德再出狂言:希望明年“台湾省政府”预算为空

2019-05-23 14:19 来源:黑龙江电视台

  赖清德再出狂言:希望明年“台湾省政府”预算为空

  安倍没通过修改宪法而是通过改变对宪法的解释,这就只需要内阁决议,只通过内阁决议就变更宪法意义与法治精神相违背。现在一企业已经取得了马拉西亚的认证,我们也将与、等国家和地区商讨认证事宜。

  就《生活报》的报道内容,美国方面尚未作出回应。另一方面,草铵膦性能优异,但价格昂贵。

  在人文方面与阿拉伯国家文化渊源悠久,回族群众与广大穆斯林生活习俗相近,民间往来频繁,是开展友好合作的“天然伙伴”。坚决维护习近平总书记在党中央和全党的核心地位,坚决维护以习近平同志为核心的党中央权威和集中统一领导。

  期望更高层级的调查组或监管部门尽快介入,还原真相,坚决查究,并及时消除当地出租车存在的安全隐患。  这段用中英文两种语言写的声明说:非常遗憾最近在VS250航班上发生的意外事件。

例如1980年代德国的汽车制造业率先来到中国投资设厂,德国企业从持续增长的中国汽车市场中不断壮大。

  因而,协调推进四个全面,就必须抓住领导这个关键少数,释放狠抓落实的制度动力。

  SingaporebusinessmenarecapitalizingonthehistoricsummitonTuesdaybetweennleaderandUSPresietmealforthesummit-ahamburgerwithbeefcutlet,whichsymbolizestheUS,andkimchi,whichsymbolizesNorthKorea,$($),30,anUScitizenwhohaslivedandworkedinSingaporeforsevenyears,ndrealizethepermanentpeace."IhaveconfidenceinPresidentTrump,"tmakethesummithappen,becausetheycaretoomuchaboutotherissueslike"humanrights"cties,IwouldlovetovisitNorthKoreaandseekbusinessopportunitythere,saidJack,24,anAmericanlivinginSingaporeworkinginITindustry,"SummitIceTea"-,,"PeaceOutfromLionCity!"TheT-shirthasapictureofKimandTrumpholdingeachothertightandposingforaselfieflashinga"victory","WearesoproudthatSingaporewasselectedasthevenueforthehistoricsummit…Sojustforthefunofit,wecreatedthisT-shirt!Maythemeetingofthesetwoworldleadersbeasignificantsteptowardworldpeace!"SingaporesFullertonHotel,whichwasrumoredtobeKimshotelduringhisstayinSingapore,hungtheflagsofChina,theUS,NorthKorea,ainthesummitsmomentum.信息访问访问者如需查看、更新他们的个人信息或取消订阅通讯,请使用的链接联络网管服务。

      华谊兄弟6月6日发布公告,公告宣布华谊兄弟持股人王中军、王中磊的股份质押状况,截止2018年3月31日王中军持股612,229,855股,占公司总股本%。

    海峡论坛十年路:“两岸一家亲”初心不改  【解说】6月厦门,凤凰花开,5日开始,第十届海峡论坛各项活动陆续展开,这一两岸民间交流的嘉年华,至今已走过十个春秋。近年来,随着习近平总书记提出的共建丝绸之路经济带战略以及区域贸易自由化、宁夏沿黄河经济区建设的推进,为中国清真产业的发展带来巨大机遇。

  而在我国的广州,前不久却发生了从前献血时提供免费碳酸饮料而今变成桶装纯净水,这种让献血者觉得“很受伤”的事。

  对标扫码支付,用户首先要在联网的环境的前提下,打开手机界面、支付APP、支付码等繁琐环节。

  琵琶起舞换新声与琵琶马上催意思差不多,极有可能当时在军中,琵琶还是在马背上弹奏。其中,德勤中国的日本企业服务部和韩国服务组多年来长期为日、韩企业在华业务提供帮助,积攒了大量相关经验。

  

  赖清德再出狂言:希望明年“台湾省政府”预算为空

 
责编:
您正在使用IE低版浏览器,为了您的雷锋网账号安全和更好的产品体验,强烈建议使用更快更安全的浏览器
雷锋网 读懂智能&未来
人工智能 正文
发私信给程弢
发送

0

谷歌硬件工程师揭秘,TPU为何会比CPU、GPU快30倍?

本文作者:程弢 2019-05-23 14:03
导语:从这次发布的测试结果来看,TPU似乎已经超出了业界的预期,但是藏在这一芯片背后的内部架构究竟有什么秘密呢,我们从Jouppi此前发布的论文当中,可以找到答案。
Deloitte(“德勤”)是一个品牌,在这个品牌下,具独立法律地位的全球各地事务所属下数以万计的德勤专业人士联合向经筛选的客户提供、、、、及相关服务。

谷歌硬件工程师揭秘,TPU为何会比CPU、GPU快30倍?

在谷歌发布TPU一年后,这款机器学习定制芯片的神秘面纱终于被揭开了。

昨日,谷歌资深硬件工程师Norman Jouppi刊文表示,谷歌的专用机器学习芯片TPU处理速度要比GPU和CPU快15-30倍(和TPU对比的是英特尔Haswell CPU以及Nvidia Tesla K80 GPU),而在能效上,TPU更是提升了30到80倍。

从这次发布的测试结果来看,TPU似乎已经超出了业界的预期,但是藏在这一芯片背后的内部架构究竟有什么秘密呢,我们从Jouppi此前发布的论文当中,可以找到答案。

据雷锋网(公众号:雷锋网)了解,早在四年前,谷歌内部就开始使用消耗大量计算资源的深度学习模型,这对CPU、GPU组合而言是一个巨大的挑战,谷歌深知如果基于现有硬件,他们将不得不将数据中心数量翻一番来支持这些复杂的计算任务。

所以谷歌开始研发一种新的架构,Jouppi称之为“下一个平台”。Jouppi曾是MIPS处理器的首席架构师之一,他开创了内存系统中的新技术。三年前他加入谷歌的时候,公司上下正在用CPU、GPU混合架构上来进行深度学习的训练。

Jouppi表示,谷歌的硬件工程团队在转向定制ASIC之前,早期还曾用FPGA来解决廉价、高效和高性能推理的问题。但他指出,FPGA的性能和每瓦性能相比ASIC都有很大的差距。他解释说,“TPU可以像CPU或GPU一样可编程,它可以在不同的网络(卷积神经网络,LSTM模型和大规模完全连接的模型)上执行CISC指令,而不是为某个专用的神经网络模型设计的。一言以蔽之,TPU兼具了CPU和ASIC的有点,它不仅是可编程的,而且比CPU、GPU和FPGA拥有更高的效率和更低的能耗。

TPU的内部架构

谷歌硬件工程师揭秘,TPU为何会比CPU、GPU快30倍?

该图显示了TPU上的内部结构,除了外挂的DDR3内存,左侧是主机界面。指令从主机发送到队列中(没有循环)。这些激活控制逻辑可以根据指令多次运行相同的指令。

TPU并非一款复杂的硬件,它看起来像是雷达应用的信号处理引擎,而不是标准的X86衍生架构。Jouppi说,尽管它有众多的矩阵乘法单元,但是它GPU更精于浮点单元的协处理。另外,需要注意的是,TPU没有任何存储的程序,它可以直接从主机发送指令。

TPU上的DRAM作为一个单元并行运行,因为需要获取更多的权重以馈送到矩阵乘法单元(算下来,吞吐量达到了64,000)。Jouppi并没有提到是他们是如何缩放(systolic)数据流的,但他表示,使用主机软件加速器都将成为瓶颈。

谷歌硬件工程师揭秘,TPU为何会比CPU、GPU快30倍?

256×256阵列缩放数据流引擎,经过矩阵乘法积累后实现非线性输出

从第二张图片可以看出,TPU有两个内存单元,以及一个用于模型中参数的外部DDR3 DRAM。参数进来后,可从顶部加载到矩阵乘法单元中。同时,可以从左边加载激活(或从“神经元”输出)。那些以收缩的方式进入矩阵单元以产生矩阵乘法,它可以在每个周期中进行64,000次累加。

毋庸置疑,谷歌可能使用了一些新的技巧和技术来加快TPU的性能和效率。例如,使用高带宽内存或混合3D内存。然而,谷歌的问题在于保持分布式硬件的一致性。

TPU对比Haswell处理器

在和英特尔“Haswell”Xeon E5 v3处理器来的对比中,我们可以看到,TPU各方面的表现都要强于前者。

在Google的测试中,使用64位浮点数学运算器的18核心运行在2.3 GHz的Haswell Xeon E5-2699 v3处理器能够处理每秒1.3 TOPS的运算,并提供51GB/秒的内存带宽;Haswell芯片功耗为145瓦,其系统(拥有256 GB内存)满载时消耗455瓦特。

相比之下,TPU使用8位整数数学运算器,拥有256GB的主机内存以及32GB的内存,能够实现34GB/秒的内存带宽,处理速度高达92 TOPS ,这比Haswell提升了71倍,此外,TPU服务器的热功率只有384瓦。

谷歌硬件工程师揭秘,TPU为何会比CPU、GPU快30倍?

除此之外,谷歌还测试了CPU、GPU和TPU处理不同批量大小的每秒推断的吞吐量。

谷歌硬件工程师揭秘,TPU为何会比CPU、GPU快30倍?

如上图所示,在小批量任务中(16),Haswell CPU的响应时间接近7毫秒,其每秒提供5482次推断(IPS),其可以实现的最大批量任务(64)每秒则可以完成13194次推断,但其响应时间为21.3毫秒。相比之下,TPU可以做到批量大小为200,而响应时间低于7毫秒,并提供225000个IPS运行推理基准,是其峰值性能的80%,当批量大小为250,响应时间为10毫秒。

不过需要注意的是,谷歌所测试的Haswell Xeon处理器似乎也不能完全说明问题,英特尔Broadwell Xeon E5 v4处理器和最新的“Skylake”Xeon E5,每核心时钟(IPC)的指令比这款处理器提升了约5%。在Skylake是28核,而Haswell为18核,所以Xeon的总体吞吐量可能会上升80%。当然,这样的提升与TPU相比仍有差距。

最后雷锋网需要强调的是,TPU是一个推理芯片,它并非是要取代GPU,可以确定的是,TPU与CPU一起使用对训练分析更加有益。但对于CPU制造商而言,如何研发出像ASIC一样兼顾性能和能效的芯片是现在以及未来要做的。

可以确定的是,谷歌已经逐渐在自己的数据中心部署TPU,但是上述测试数据只是理论结果,实际应用表现如何?我们还不得而知。

Via nextplatform,雷锋网编译

雷锋网版权文章,未经授权禁止转载。详情见转载须知

谷歌硬件工程师揭秘,TPU为何会比CPU、GPU快30倍?
分享:
相关文章

文章点评:

表情

略懂技术的小编

关注一切有未来感的产品及技术!
当月热门文章
最新文章
为了您的账户安全,请验证邮箱
您的邮箱还未验证,完成可获20积分哟!
请验证您的邮箱
立即验证
完善账号信息
您的账号已经绑定,现在您可以设置密码以方便用邮箱登录
立即设置 以后再说
请填写申请人资料
姓名
电话
邮箱
微信号
作品链接
个人简介
白音敖包乡 京源路 韶关市建筑设计院 鸭湾 北京玉渊潭公园
河北省廊坊市经济技术开发区 鲁山道松阳里 石油化工科学院 养鱼池路满园里 长武