让内存干CPU的活儿 这项技术将芯片运行速度提升百倍
<

云鼎娱乐场网址:让内存干CPU的活儿 这项技术将芯片运行速度提升百倍

来源:科技日报2019-03-21

娱乐场所标准 www.b1ng0.com 近日,美国普林斯顿大学研究人员推出了一款新型计算机芯片,其运行速度是传统芯片的百倍。有媒体称其采用了“内存计算”技术,使计算效率得到大幅提升。

这一神奇的技术到底是什么?它为何能显著提高芯片性能?科技日报记者就此采访了相关专家。

高度集成,把计算与存储功能合二为一

对于我们常用的计算机来说,存储器可分为内部存储器和外部存储器。内部存储器,即“内存”,是电脑的主存储器。它的存取速度快,但只能储存临时或少量的数据和程序。

外部存储器,通常被称为“外存”,它包括硬盘、软盘、光盘、U盘等,通??捎谰么娲⒋罅渴?,如操作系统、应用程序等。当运行某一程序时,处理器(CPU)会先从内存中读取数据,而后将一部分结果写入内存,并选择性地将另一部分结果写入外存进行永久保存。

也就是说,通常情况下,内存只能存储少量数据,计算机中大部分数据都“住”在外存。当CPU运行程序时就需要调取数据,若调取“住”在内存的数据,则用时较少;若调取“住”在外存的数据,则可能要费些周折。

因此科学家就想,能否把数据都存在内存里呢?于是,内存计算技术出现了。

“内存计算技术是伴随着大数据处理技术的兴起而兴盛起来的。在处理大数据过程中,由于数据量极大,处理数据时频繁访问硬盘这些外存会降低运算速度。随着大容量内存技术的兴起,专家开始提出在初始阶段就把数据全部加载到内存中,而后可直接把数据从内存中调取出来,再由处理器进行计算。这样可以省去外存与内存之间的数据调入/调出过程,从而大大提升计算速度?!北本┖娇蘸教齑笱Ъ扑慊г航淌?、中德联合软件研究所所长刘轶告诉科技日报记者。

“但普林斯顿大学研发团队采用的‘内存计算’技术与上述概念中所指的内存计算并不完全相同?!绷蹰笏?,普林斯顿大学所采用的技术其实是PIM(Process in-memory),通常被翻译为“存内计算”“存算一体”或“计算存储一体化”。

“PIM技术是指直接在内存中处理数据,而不是把数据从内存读取到处理器中进行处理?!绷蹰笾赋?,PIM的技术概念在1990年就已被提出,虽然相关研究论文早已发表出来,但相关技术始终难以落地。

刘轶认为“难落地”的主要原因在于,PIM技术尚难以达到传统计算机冯·诺依曼结构的灵活性和通用性水平?!澳壳?,学界所提出的PIM技术,只能做某些类别的应用,难以实现灵活编程?!彼?。

可解决“存储墙”问题,大幅提升性能

在刘轶看来,PIM技术的重要价值在于,其能解决传统计算机结构存在的“存储墙”问题。传统计算机采用的冯·诺依曼结构,需要CPU从内存中取出指令并且执行,某些指令又需要从内存读取数据进行处理,再将结果写回内存。由于处理器所执行的程序和待处理的数据都被存在内存中,这样处理器在运行过程中需要频繁访问内存。随着微电子技术的发展,处理器性能的进步速度逐渐快于内存性能。

近30年来,处理器性能每年提升55%,而内存访问速度每年仅提升7%。这使得处理器的处理速度远远快于内存的读取速度,直接导致了“存储墙”的出现,严重拖慢了程序执行速度。

“这好比一个人消化能力很强,饭桌上也有很多食物,但这个人的嗓子眼儿很细,咽不下去。这就使得强大的消化能力‘无用武之地’,也限制了这个人吃东西的速度?!绷蹰笏?。

“近年来深度学习等新型算法的兴起,对推倒‘存储墙’提出了更迫切的需求?!绷蹰笾赋?,新型算法访问内存的模式跟传统模式不太相同,刷脸、图片识别、机器翻译等新型算法往往以类似于人脑的方式实现对复杂数据的处理。由于这类算法涉及的神经元数量多、训练样本量大,这导致在通用计算机上进行深度学习计算的效率比较低。

为了提高效率,科研人员开发了各种加速部件和专用的深度学习处理器,前者的典型代表是图形处理器(GPU),后者的典型代表有谷歌公司的张量处理器(TPU)、国内的寒武纪处理器等。

“CPU、GPU等处理器通过总线与内存相连,总线的传输速度决定了计算的效率?!敝泄远Щ峄旌现悄茏ㄒ滴被岣敝魅?、复旦大学计算机学院教授张军平告诉科技日报记者,人们正在尝试通过改进,减少数据在总线上的传输次数,提高计算效率。例如,科研人员让CPU具备部分的GPU功能,或使GPU具备一些CPU的功能等。

刘轶表示,上述改进措施仍然属于冯·诺依曼结构,不能从根本上解决“存储墙”问题。相比之下,PIM技术在解决“存储墙”问题上更具优势。首先,它的计算模式更适合深度学习等新型计算模式;其次,PIM技术避免了冯·诺依曼结构处理器频繁访问内存这一问题,减少了数据传输次数,降低了功耗。

具有发展潜力,但尚难取代通用处理器

记者通过查阅资料发现,PIM技术应用最大的难点在于制造工艺。

PIM技术需要利用先进的半导体工艺将处理器和存储器集成在同一芯片内,使之通过片上网络相互连接。但由于目前处理器与存储器的制造工艺不同,若要在处理器上实现存储器的功能,则可能会降低存储器的存储密度;若要在存储器上实现处理器的功能,则可能会影响处理器的运行速度。

张军平指出,现阶段内存本身不具备计算功能,因此若想实现内存计算或PIM技术都需要对内存进行重新设计。

“普林斯顿大学不是专业的芯片公司,其推出的新型芯片可能只是一种技术上的探索,离真正的产业化应用还有相当长的距离?!闭啪饺衔?,随着固态硬盘等技术的发展,如果硬盘读写速度足以媲美内存,内存与外存可能被集成为新型大容量高速存储器。未来最理想的情况是,CPU、GPU等多种处理器与大容量高速存储器实现一体化高度集成。

刘轶强调,普林斯顿大学设计的这种处理器是一种专用处理器,它只针对深度学习应用,无法取代传统的通用处理器。

“正如华为、苹果等公司推出的高端手机上大多配置了深度学习处理器,但只作为附属部件,核心的计算和处理仍然由通用处理器来完成,只是把特定的任务和计算??榻挥缮疃妊按砥骼唇屑扑?,而且是在通用处理器的控制之下完成的?!绷蹰笏?。

“短期来看,PIM技术只能被用于特定类别的应用场景,难以取代通用处理器?!绷蹰笕衔?,从长远来看,如果半导体材料和器件技术无法取得突破,集成电路的摩尔定律将在不久的未来失效,即集成电路芯片内的晶体管数量将停止增长。这会对传统的计算机系统结构乃至计算机硬件和软件产业造成巨大的影响,由此也很可能引发重大的技术变革。当新的计算结构出现时,高度集成化的系统可能会对PIM技术有更多需求,但该技术能否成为主流仍有待观察。

相关新闻
>
精品栏目
热门推荐

打造大美乡村

六旬夫妻种花21年

航拍山西运城雨后盐湖

二维码组"时光隧道"

被《复联4》刷屏了吗

杨祐宁全黑look亮相

新闻 |  问政 |  资讯 |  百事通

华龙网 www.www.b1ng0.com 触屏版 | 电脑版

Copyright ?2000-2015 CQNEWS Corporation,
All Rights Reserved.
首页 | 新闻 原创 视听 | 问政 评论 匠心 | 区县 娱乐 财经 | 旅游 亲子 直播 | 文艺 教育 科普 安监 | 房产 健康 汽车 | 取证 鸣家 会客厅 | 万花瞳 百姓故事 娱乐场所标准
  • 站内
站内
分享
新浪微博
腾讯微博
微信
QQ空间
QQ好友
手机阅读分享话题

让内存干CPU的活儿 这项技术将芯片运行速度提升百倍

2019-03-21 06:30:00 来源: 0 条评论

近日,美国普林斯顿大学研究人员推出了一款新型计算机芯片,其运行速度是传统芯片的百倍。有媒体称其采用了“内存计算”技术,使计算效率得到大幅提升。

这一神奇的技术到底是什么?它为何能显著提高芯片性能?科技日报记者就此采访了相关专家。

高度集成,把计算与存储功能合二为一

对于我们常用的计算机来说,存储器可分为内部存储器和外部存储器。内部存储器,即“内存”,是电脑的主存储器。它的存取速度快,但只能储存临时或少量的数据和程序。

外部存储器,通常被称为“外存”,它包括硬盘、软盘、光盘、U盘等,通??捎谰么娲⒋罅渴?,如操作系统、应用程序等。当运行某一程序时,处理器(CPU)会先从内存中读取数据,而后将一部分结果写入内存,并选择性地将另一部分结果写入外存进行永久保存。

也就是说,通常情况下,内存只能存储少量数据,计算机中大部分数据都“住”在外存。当CPU运行程序时就需要调取数据,若调取“住”在内存的数据,则用时较少;若调取“住”在外存的数据,则可能要费些周折。

因此科学家就想,能否把数据都存在内存里呢?于是,内存计算技术出现了。

“内存计算技术是伴随着大数据处理技术的兴起而兴盛起来的。在处理大数据过程中,由于数据量极大,处理数据时频繁访问硬盘这些外存会降低运算速度。随着大容量内存技术的兴起,专家开始提出在初始阶段就把数据全部加载到内存中,而后可直接把数据从内存中调取出来,再由处理器进行计算。这样可以省去外存与内存之间的数据调入/调出过程,从而大大提升计算速度?!北本┖娇蘸教齑笱Ъ扑慊г航淌?、中德联合软件研究所所长刘轶告诉科技日报记者。

“但普林斯顿大学研发团队采用的‘内存计算’技术与上述概念中所指的内存计算并不完全相同?!绷蹰笏?,普林斯顿大学所采用的技术其实是PIM(Process in-memory),通常被翻译为“存内计算”“存算一体”或“计算存储一体化”。

“PIM技术是指直接在内存中处理数据,而不是把数据从内存读取到处理器中进行处理?!绷蹰笾赋?,PIM的技术概念在1990年就已被提出,虽然相关研究论文早已发表出来,但相关技术始终难以落地。

刘轶认为“难落地”的主要原因在于,PIM技术尚难以达到传统计算机冯·诺依曼结构的灵活性和通用性水平?!澳壳?,学界所提出的PIM技术,只能做某些类别的应用,难以实现灵活编程?!彼?。

可解决“存储墙”问题,大幅提升性能

在刘轶看来,PIM技术的重要价值在于,其能解决传统计算机结构存在的“存储墙”问题。传统计算机采用的冯·诺依曼结构,需要CPU从内存中取出指令并且执行,某些指令又需要从内存读取数据进行处理,再将结果写回内存。由于处理器所执行的程序和待处理的数据都被存在内存中,这样处理器在运行过程中需要频繁访问内存。随着微电子技术的发展,处理器性能的进步速度逐渐快于内存性能。

近30年来,处理器性能每年提升55%,而内存访问速度每年仅提升7%。这使得处理器的处理速度远远快于内存的读取速度,直接导致了“存储墙”的出现,严重拖慢了程序执行速度。

“这好比一个人消化能力很强,饭桌上也有很多食物,但这个人的嗓子眼儿很细,咽不下去。这就使得强大的消化能力‘无用武之地’,也限制了这个人吃东西的速度?!绷蹰笏?。

“近年来深度学习等新型算法的兴起,对推倒‘存储墙’提出了更迫切的需求?!绷蹰笾赋?,新型算法访问内存的模式跟传统模式不太相同,刷脸、图片识别、机器翻译等新型算法往往以类似于人脑的方式实现对复杂数据的处理。由于这类算法涉及的神经元数量多、训练样本量大,这导致在通用计算机上进行深度学习计算的效率比较低。

为了提高效率,科研人员开发了各种加速部件和专用的深度学习处理器,前者的典型代表是图形处理器(GPU),后者的典型代表有谷歌公司的张量处理器(TPU)、国内的寒武纪处理器等。

“CPU、GPU等处理器通过总线与内存相连,总线的传输速度决定了计算的效率?!敝泄远Щ峄旌现悄茏ㄒ滴被岣敝魅?、复旦大学计算机学院教授张军平告诉科技日报记者,人们正在尝试通过改进,减少数据在总线上的传输次数,提高计算效率。例如,科研人员让CPU具备部分的GPU功能,或使GPU具备一些CPU的功能等。

刘轶表示,上述改进措施仍然属于冯·诺依曼结构,不能从根本上解决“存储墙”问题。相比之下,PIM技术在解决“存储墙”问题上更具优势。首先,它的计算模式更适合深度学习等新型计算模式;其次,PIM技术避免了冯·诺依曼结构处理器频繁访问内存这一问题,减少了数据传输次数,降低了功耗。

具有发展潜力,但尚难取代通用处理器

记者通过查阅资料发现,PIM技术应用最大的难点在于制造工艺。

PIM技术需要利用先进的半导体工艺将处理器和存储器集成在同一芯片内,使之通过片上网络相互连接。但由于目前处理器与存储器的制造工艺不同,若要在处理器上实现存储器的功能,则可能会降低存储器的存储密度;若要在存储器上实现处理器的功能,则可能会影响处理器的运行速度。

张军平指出,现阶段内存本身不具备计算功能,因此若想实现内存计算或PIM技术都需要对内存进行重新设计。

“普林斯顿大学不是专业的芯片公司,其推出的新型芯片可能只是一种技术上的探索,离真正的产业化应用还有相当长的距离?!闭啪饺衔?,随着固态硬盘等技术的发展,如果硬盘读写速度足以媲美内存,内存与外存可能被集成为新型大容量高速存储器。未来最理想的情况是,CPU、GPU等多种处理器与大容量高速存储器实现一体化高度集成。

刘轶强调,普林斯顿大学设计的这种处理器是一种专用处理器,它只针对深度学习应用,无法取代传统的通用处理器。

“正如华为、苹果等公司推出的高端手机上大多配置了深度学习处理器,但只作为附属部件,核心的计算和处理仍然由通用处理器来完成,只是把特定的任务和计算??榻挥缮疃妊按砥骼唇屑扑?,而且是在通用处理器的控制之下完成的?!绷蹰笏?。

“短期来看,PIM技术只能被用于特定类别的应用场景,难以取代通用处理器?!绷蹰笕衔?,从长远来看,如果半导体材料和器件技术无法取得突破,集成电路的摩尔定律将在不久的未来失效,即集成电路芯片内的晶体管数量将停止增长。这会对传统的计算机系统结构乃至计算机硬件和软件产业造成巨大的影响,由此也很可能引发重大的技术变革。当新的计算结构出现时,高度集成化的系统可能会对PIM技术有更多需求,但该技术能否成为主流仍有待观察。

亲爱的用户,“重庆”客户端现已正式改版升级为“新重庆”客户端。为不影响后续使用,请扫描上方二维码,及时下载新版本。更优质的内容,更便捷的体验,我们在“新重庆”等你!
看天下
[责任编辑: 杜三 ]
发言请遵守新闻跟帖服务协议
精彩视频
版权声明:
联系方式:重庆华龙网集团有限公司 咨询电话:60367951
①重庆日报报业集团授权华龙网,在互联网上使用、发布、交流集团14报1刊的新闻信息。未经本网授权,不得转载、摘编或利用其它方式使用重庆日报报业集团任何作品。已经本网授权使用作品的,应在授权范围内使用,并注明“来源:华龙网”或“来源:华龙网-重庆XX”。违反上述声明者,本网将追究其相关法律责任。
② 凡本网注明“来源:华龙网”的作品,系由本网自行采编,版权属华龙网。未经本网授权,不得转载、摘编或利用其它方式使用。已经本网授权使用作品的,应在授权范围内使用,并注明“来源:华龙网”。违反上述声明者,本网将追究其相关法律责任。
③ 华龙网及其新重庆客户端标明非华龙网的确定来源或未标注华龙网LOGO、名称、水印的文字、图片、音频、视频等稿件均为非原创作品。如转载涉及版权等问题,请及时与华龙网联系,联系邮箱:[email protected]。
附:重庆日报报业集团14报1刊:重庆日报 重庆晚报 重庆晨报 重庆商报 时代信报 新女报 健康人报 重庆法制报 三峡都市报 巴渝都市报 武陵都市报 渝州服务导报 人居周报 都市热报 今日重庆
  • Chinese Premier meets press 2019-04-20
  • 端午出行怕拥堵 别慌,这里有一份出行指南 2019-04-17
  • 联播快讯:长江镇江段今起实施12天限时封航 2019-04-05
  • 巴布亚新几内亚将台“代表处”更名为“台北” 2019-04-05
  • 央行媒体:美联储加息步伐受到债务掣肘,美元汇率不一定走高 2019-04-04
  • 南京“凶宅”别墅 拍出786万元高价 2019-04-03
  • 国家安全与每一位公民息息相关-光明时评 2019-04-02
  • 一句话,风水神话就是要人们从针眼里看世界,做一个井底之蛙 2019-04-02
  • 盛世嘉园半夜狗叫声扰民哪个部门可以管 2019-03-31
  • 湖北治理违规提取公积金 防止用公积金炒房 2019-03-25
  • 《汽车产业投资管理规定》正研究制定 2019-03-23
  • 3000多只股票,0.6%涨停,咱们聊聊这4只 2019-03-21
  • 英国小伙自制冰轮自行车,不用充气,骑着骑着就没了? 2019-03-20
  • 广东警方摧毁全国首例“呼死你”专案犯罪团伙 2019-03-20
  • [专家谈]全球互联网治理 国际社会期待中国方案 2019-03-19
  • 238| 945| 424| 164| 218| 980| 720| 626| 15| 456|
    关闭
    >