应《网络安全法》要求，自2017年10月1日起，未进行实名认证将不得使用互联网跟帖服务。为保障您的帐号能够正常使用，请尽快对帐号进行手机号验证，感谢您的理解与支持！

24小时热门版块排行榜    

CyRhmU.jpeg
小木虫论坛-学术科研互动平台 » 计算模拟区 » 计算模拟 » 其他 » 【分享】GPU为什么跑得快 [转载]
111/2返回列表12下一页
查看: 1668  |  回复: 10
只看楼主@他人 存档 新回复提醒 (忽略) 收藏    在APP中查看
当前主题已经存档。

yalefield

金虫 (文坛精英)

老汉一枚

[交流] 【分享】GPU为什么跑得快 [转载]

去年底、今年初，老汉有两篇关于GPU的帖子。
GPU文献1篇：http://muchong.com/bbs/viewthread.php?tid=702923
引用回帖:
Ivan S. Ufimtsev and Todd J. Martınez
Quantum Chemistry on Graphical Processing Units. 1. Strategies for Two-Electron Integral Evaluation
J. Chem. Theory Comput.

谈谈GPU吧：http://muchong.com/bbs/viewthread.php?tid=672463

这里再转载一篇：

作者：佚名

计算机能以每秒数十帧的速率，根据当前的三维景物实时生成三维动画。你所看到的图像会随着你视点的变化而即时改变，使人产生“身临其境”的感觉。高的帧率可以得到更流畅的画面。一般来说30fps就是可以接受的，但是将帧速增加至60fps则可以明显提升交互感。这与计算机影视制作不同，电影特效可以通过很多台工作站，花几十个小时绘制出长度仅为几秒的高质量画面，并不强调实时性。

渲染一个复杂的三维场景，需要在一秒内处理几千万个三角形顶点和光栅化几十亿的像素。早期的3D游戏，显卡只是为屏幕上显示像素提供一个缓存，所有的图形处理都是由CPU单独完成。
图形渲染适合并行处理，擅长于执行串行工作的CPU实际上难以胜任这项任务。所以，那时在PC上实时生成的三维图像都很粗糙。不过在某种意义上，当时的图形绘制倒是完全可编程的，只是由CPU来担纲此项重任，速度上实在是达不到要求。

直到1995年，PC机领域第一款GPU (Graphical Processing Unit) 3dfx Voodoo出来以后，游戏的速度、画质才取得了一个飞跃。
3dfx Voodoo有两个主要的特征：深度缓冲区(z-buffer)和纹理映射（texture mapping）。z-buffer执行“隐藏面消除”这一工作，这样可以避免渲染“不可视”的无效像素。利用纹理映射功能则可以十分逼真地表达物体表面细节。

1999年，第二代GPU (Nvidia GeForce256,GeForce 2和ATI Radeon 7500)包括了图形的几何变换与光照计算功能(T&L)。而在此之前T&L都是由CPU完成的，这对CPU来说是很复杂的计算。
第二代GPU解决了系统的一个瓶颈，减轻了CPU的负荷，速度明显提高了。但是由于是固定的渲染流水线，缺乏灵活性，束缚了开发人员的创造性。

2001年，NIVIDA公司的GeForce 3首先引入了可编程的顶点着色器（Vertex Shader）单元。
2002年，可编程的像素着色器(Pixel Shader)单元也加入了GPU (见图1)。

在绘制时，GPU首先接收CPU以三角形顶点形式的发送的几何数据。然后由可编程的顶点着色器单元进行处理，完成几何变换与顶点属性计算等功能。接着，這些三维空间的三角形由一个固定功能的光栅生成器转换为二维屏幕上的像素。每个像素的最终颜色值都通过运行在像素着色器上的小程序运算而得。目前三维游戏借助于GPU，已经能够实时生成十分细腻、逼真的画面。

[ Last edited by xuefei06 on 2008-12-30 at 00:03 ]
回复此楼

» 猜你喜欢
1楼2008-04-26 02:25:15
已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

yalefield

金虫 (文坛精英)

老汉一枚
GPU的功能更新很迅速,平均每一年多便有新一代的GPU诞生，运算速度也越来越快。

2004年推出的GPU Nvidia GeForce 6800 Ultra可达到峰值40 Gigaflops( 1 GigaFLOPS＝1秒钟进行10亿次的浮点运算)
2005年发布的 Nvidia GeForce 7800 GTX更是将峰值提高至令人惊讶的169 Gigaflops。而Intel 3GHz Pentium 4采用SSE指令集也只能达到6 Gigaflops（见图2）。
GPU的运算速度如此之快，主要得益于GPU是对图形实时渲染量身定制的，具有两点主要特征：超长流水线与并行计算。

GPU、CPU浮点运算速度对比图：
赞一下 回复此楼
2楼2008-04-26 02:26:48
 已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

yalefield

金虫 (文坛精英)

老汉一枚
流水线技术与工厂里的装配线在原理上类似。

如果装配一台汽车需要10个时间单元，将它分成10个流水线阶段，每个阶段分配一个时间单元，那么一条装配线每一个时间单元就可以生产一辆汽车。显然流水线模式的生产在理想状况下要比串行方式快了十倍。

从这个例子中，可以看出为了提高流水线的速度，可以将任务划分成更小的单元，这样流水线的级数就增加了。CPU的设计中就使用了流水线原理，奔腾IV就有20级的流水线。但是流水线级数越多，一条指令从开始进入流水线到最后被执行完毕这之间的延迟间隔会相当大。换句话说,当流水线级数过多时，控制台发出一条指令，会经过很长时间才会真正生效，这不适用于快速反应要求很高的场合。

打个比方，当用消防水龙头救火时,正常情况下打开阀门开关几秒后水便喷射出来，立刻可用来扑灭火灾。但是如果延迟了十几分钟，才有水流出，即使这时水流速度(吞吐量)还是很快，不过这时火灾就会造成更大的损失了。

CPU的设计目标是不仅要有很高的吞吐量，还要求很小的延迟，这是CPU并不采用过多流水线级数的原因之一。另外流水线只有在满载时，才能发挥出最佳效率来。由于CPU执行的代码中有很多分支语句，因此长流水线需要用有效的技术来预测分支，尽量保持流水线在满负荷状态。但是一旦预测分支失败，就会清除流水线中滞留的大量无用指令，同时将新指令流重新注入流水线。但是如果流水线阶段过多的话，充满整个流水线就需要很长的时间，这样使流水线保持满载的机会不多，速度反而下降了。所以权衡利弊，CPU不会使用深度流水线。

但是GPU却采用了几百级的流水线，比如GeForce 3的流水线有800个阶段。

是什么原因，GPU的应用为何可以忍受这么大的延迟呢？假设以每秒50帧的速率显示画面，那么只要求每帧在20ms以内生成就行。而GeForce 3的时钟频率是200MHz（每个时钟周期是5ns）,5ns * 800 = 4μs < 20ms。所以对GPU来说这一些延迟根本不成问题，而且GPU中执行的Shader程序中，分支语句用的很少（在早期的GPU中，甚至不提供动态的分支语句）。因此，GPU的流水线深度变大后，利大于弊，大大提升了整体性能。

GPU的执行速度很快，但是当运行从内存中获取纹理数据这样的指令时（由于内存访问是瓶颈，此操作比较缓慢），整个流水线便出现长时间停顿。在CPU内部，使用多级Cache来提高访问内存的速度。GPU中也使用Cache，不过Cache命中率不高，只用Cache解决不了这个问题。所以，为了保持流水线保持忙碌，GPU的设计者使用了多线程机制(multi-threading),见图3。

当像素着色器针对某个像素的线程A遇到存取纹理的指令时，GPU会马上切换到另外一个线程B，对另一个像素进行处理。等到纹理从内存中取回时，可再切换到线程A。但是使用这种方法有一个前提，线程A与线程B没有数据依赖性,也就是说两线程之间无需通讯。如果线程B需要线程A提供某些数据，那么即使切换到线程B，线程B仍是无法运行，流水线还是处于空闲状态。不过幸运的是，图形渲染本质上是一个并行任务。

无论是CPU送给GPU的顶点数据，还是GPU光栅生成器产生的像素数据都是互不相关的，可以并行地独立处理。而且顶点数据（xyzw），像素数据（RGBA）一般都用四元数表示，适合于并行计算。在GPU中专门设置了SIMD指令来处理向量，一次可同时处理四路数据。SIMD指令使用起来非常简洁，可以看一个顶点矩阵变换的例子（见下代码）。此外，纹理片要么只能读取，要么只能写入，不允许可读可写，从而解决了存贮器访问的读写冲突。GPU这种对内存使用的约束也进一步保证了并行处理的顺利完成。

GPU中的多线程机制：
赞一下 回复此楼
3楼2008-04-26 02:29:26
 已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

yalefield

金虫 (文坛精英)

老汉一枚
引用回帖:
// c0 - c3 = 几何变换矩阵（world/view/proj matrix）
dp4 oPos.x, r0, c0     //指令dp4完成两个四元数的点积运算
//oP0s.x=(r0.x*c0.x)+(r0.y*c0.y)+
//     (r0.z*c0.z)+(r0.w*c0.w)
//四条dp4指令就实现了对一个顶点的矩阵变换
dp4 oPos.y, r0, c1   
dp4 oPos.z, r0, c2   
dp4 oPos.w, r0, c3

为了进一步提高并行度，可以增加流水线的条数。
在GeForce 6800 Ultra中，有多达16组像素着色器流水线， 6组顶点着色器流水线。多条流水线可以在单一控制部件的集中控制下运行，也可以独立运行。在单指令多数据流（SIMD）的结构中，单一控制部件向每条流水线分派指令，同样的指令被所有处理部件同时执行。
另外一种控制结构是多指令多数据流（MIMD），每条流水线都能够独立于其他流水线执行不同的程序。GeForce 6800 Ultra的顶点着色器流水线使用MIMD方式控制，像素着色器流水线使用SIMD结构。MIMD能比较有效率地执行分支程序，而SIMD体系结构运行条件语句时会造成很低的资源利用率。不过SIMD需要硬件少，这是一个优势。

CPU中大部分晶体管主要用于构建控制电路（象分支预测等）和Cache，只有少部分的晶体管来完成实际的运算工作。而GPU的控制相对简单，而且对Cache的需求小，所以大部分晶体管可以组成各类专用电路、多条流水线，使得GPU的计算速度有了突破性的飞跃，拥有了惊人的处理浮点运算的能力。

现在CPU的技术进步正在慢于摩尔定律，而GPU（视频卡上的图形处理器）的运行速度已超过摩尔定律，每6个月其性能加倍。

虽然GPU最初专门是为图形渲染设计的，但是GPU还可以有效地执行多种通用计算，从线性代数和信号处理到数值仿真等等。有的专家甚至认为GPU将进入计算的主流。过去，学生们在课堂学习计算机体系结构时，听老师讲解各类并行计算机时，仿佛觉得这些东西都是科学家才使用的尖端产品。可又何曾想到,现在并行计算机(GPU) 就在我们的普通PC电脑内,触手可及。

主要参考文献：
引用回帖:
1．Matt Pharr,Randima Fernando. GPU Gems 2 : Programming Techniques for High-Performance Graphics and General-Purpose Computation (Gpu Gems) .

2．The Cg Tutorial: The Definitive Guide to Programmable Real-Time Graphics.

3. Lindholm E, Kilgard MJ, Moreton H. A user-programmable vertex engine. In: Proc. of the SIGGRAPH 2001. Los Angeles, 2001. 149~158

[ Last edited by yalefield on 2008-4-26 at 02:37 ]
赞一下 回复此楼
4楼2008-04-26 02:31:52
 已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

yalefield

金虫 (文坛精英)

老汉一枚

GPU - CPU, Intel - nVidia

孙永杰
引用回帖:
IT领域征战多年，在计算机世界传媒集团做过记者、策划等，出版《宽带革命》等著作，曾任互联网实验室（http://www.chinalabs.com）网站主编，同时任互联网实验室互联网咨询业务项目经理。

如果说4月初上海的IDF，英特尔关于GPU（图形显示芯片）的一席话引发业内关于GPU和CPU谁将替代谁的争论的话，那么随着NVIDIA（简称NV）首席执行官黄仁勋（Jen-HsunHuang）炮轰英特尔的整合图形芯片组完全是“一个笑话”，声称GPU比CPU更重要，人们应该多花钱在GPU上面之后，NVIDIA的副总裁Roy Taylor（绰号Big Pipe）索性宣告英特尔的CPU已经死亡。
笔者认为，Roy Taylor的这番话确实太过极端了。先不要说NV的GPU要取代英特尔的CPU，其实目前在NV最擅长的GPU领域，NV也未占到绝对的优势。

众所周知的事实是，目前的GPU市场是三足鼎立。
英特尔牢牢掌握着GPU市场的头把交椅。在去年的第四季度，英特尔占据了GPU市场的41.1%，NV为31.8%，AMD为22.8%。具体到细分的台式PC和笔记本市场，在台式PC英特尔的发货份额为37.7%，以0.6%的略微优势超过NV排名第一，NV的份额为37.1%屈居第二，AMD的份额为19%排第三名。
在笔记本图形处理器市场，英特尔的份额从三季度的45%上升到46.8%，以压倒优势高居榜首，AMD位居第二，它的份额从第三季度的21%上升到29%，NV从三季度的32%下降为22.8%排第三名。
从这个统计可以看出，目前NV即使是在独立显卡普及的台式PC中也还没有排在老大的位置上。而在笔记本市场，NV与英特尔的差距更大。而随着超低价便携笔记本市场的兴起，鉴于功耗、体积和功能的原因，独立显卡在这块市场中难有用武之地。换句话说，英特尔整合图形芯片在未来相当的一段时间里还将将牢牢占据着这块市场。

说到超低价便携笔记本，除了英特尔日前发布的Atom（凌动）系列处理器外，NV也加入到了此阵营。据称，NV与英特尔和AMD之外的唯一x86处理器供应商—威盛电子欲建立一种PC平台，被称为“全球最经济的Vista高档PC”，这个单价不到45美元的处理平台，将结合威盛的Isaiah处理器与一个整合的NV绘图芯片组。从这里也可以看出，即使是扬言CPU已死的NV，还是未能脱离CPU而成为PC的核心。看来NV虚张声势的成分很大。倒是英特尔未来的Larrabee（一种可编程的多核心架构）让NV感觉到了莫大的威胁。

Larrabee与AMD、NVIDIA的GPGPU（通用计算图形处理器）技术不同，后两者分别使用Stream Processing（流处理）和CUDA（统一计算设备架构）来满足对GPGPU计算的需求。而Larrabee基于传统的x86架构，它既可用在显卡上，也可用作一个特殊的x86处理器，满足一些高性能计算的需求。由此笔者认为，英特尔的Larrabee进可直接威胁到NV独立显卡市场的地位，退可以继续巩固自己在整合图形芯片市场的优势，同时又不会让自己的通用处理器CPU在未来失去现有的统治地位。为此，《连线》杂志在2007年初曾经专门提及英特尔在这方面的表现：即一旦这个庞然大物利用市场优势推出融合了通用处理和图形处理的处理器，对整个产业链的打击是相当强烈的，甚至会是致命的。从NV近期近乎疯狂的言论看，这种打击的潜在效应已经开始显现。

其实近期业内所称的未来GPU将会替代CPU，大多也是人云亦云，其论点无非是理论上GPU的浮点运算性能要远远高于CPU，而且未来的应用趋势将以图形和视频为主，所以GPU会有更加广阔的市场。但笔者认为，依此就断定GPU一定取代CPU的确有失偏颇。目前用同样多的晶体管CPU浮点运算性能之所以不如GPU，其根本原因并不在于CPU的设计落后，而是CPU内有大量的缓存。在部分特别运算要求下，GPU的性能可以发挥得淋漓尽致，但对于通用计算来说，保持数据执行过程中数据流的最大平行性与最小关联度这就不是GPU架构可以达到的了。此外，由于自身架构的限制，GPU无法直接处理物理计算指令，这是其走向通用性最大的障碍。

说到这，笔者不得不引出技术之外的话题，那就是战略。
业内人士清晰记得，在2005年，英特尔低调收购了爱尔兰的Havok公司，这是一家在图形处理方面拥有强大技术实力的公司。业内人士本以为此举是英特尔弥补其在GPU技术上软肋的举措，但从近日IDF上英特尔公布的Larrabee仍然基于传统的X86架构的事实看，英特尔收购Havok公司完全是为了阻止NV和AMD-Ati利用Havok公司开发的Havok FX引擎，因为这一引擎，将会使得GPU的物理计算成为可能，即Havok将帮助AMD和NV的GPU进入物理计算以及流计算领域，而一旦Havok FX引擎得到游戏的广泛支持成为既定标准，那么英特尔凭借Larrabee平台来推行自己的流计算指令集的计划将遭到严峻的挑战。从这里可以看出，英特尔在战略上的技高一筹。

众多的事实证明，一个产业的兴起，光有技术上的优势是远远不够的，一个公司的发展战略、产业链的影响和培养、市场和用户的习惯和接受度等的任何一个因素都不亚于技术对于这个产业的影响。所以笔者认为，从未来看，仅仅凭着理论上的技术优势就断言某个产业的衰亡和兴起实属草率，而从现在看，CPU不可或缺，仍在PC系统中起着核心的作用。理由很简单，现在哪个PC能够离开CPU而只装有GPU？即使NV称CPU已经消亡，并且有了只装有GPU的PC，那么你敢买吗？看来从现在到未来相当的时间里，CPU和GPU还是各司其职的好。

至于说到未来，凭借英特尔的实力，NV要想以GPU取而代之谈何容易。

此外，从日前曝光的英特尔主板不支持微软的Windows Vista的Vista Capable标签诉讼案中，英特尔在很大程度上为NV背了黑锅。据微软在此次诉讼中公布的一份长达158页的微软内部邮件集中披露，在微软初期收到的166万份Vista系统崩溃报告中，由NV驱动引起的崩溃达到47.9万次，占28.8%。微软开发的驱动程序占17.9%居次席，此后分别是未知原因17%，ATi驱动9.3%，英特尔驱动8.83%。

从这个统计可以看出，当时业内以此评价英特尔创新乏力实在是有失公允。这多少让NV的首席执行官黄仁勋以此事炮轰英特尔的GMA3100图形芯片显得有些无力和尴尬。这也从一个侧面反映出，NV在GPU领域依旧存有不少的问题。既然在自己的领域都未做到最好，就进入人家擅长的领域，并谈什么替代CPU，难免给人一种“芯”太软和做秀的感觉。
赞一下 回复此楼
5楼2008-04-30 08:55:21
 已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

lbambool

木虫 (著名写手)
再复习一下，不错的文章，本人有意学一下基于GPU的模拟编程，有机会向你请教啊
赞一下 回复此楼
Θ抚琴闹市外，独闲山水间Θ
6楼2008-07-03 00:32:17
 已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

ems

金虫 (正式写手)
ggggggggold
回复此楼
7楼2008-07-03 20:14:25
 已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

whitewatercn

银虫 (小有名气)
最近刚买了一个GeForce GTX280,开始学习GPU编程了！有兴趣的同仁一起来探讨
赞一下 回复此楼
8楼2008-12-30 13:12:12
 已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

yalefield

金虫 (文坛精英)

老汉一枚
引用回帖:
Originally posted by whitewatercn at 2008-12-30 13:12:
最近刚买了一个GeForce GTX280,开始学习GPU编程了！有兴趣的同仁一起来探讨

多少银两？
回复此楼
9楼2008-12-30 14:21:46
 已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖

whitewatercn

银虫 (小有名气)
引用回帖:
Originally posted by yalefield at 2008-12-30 14:21:


多少银两？

RMB3000多，可以买一个普通电脑了
赞一下 回复此楼
10楼2008-12-31 08:06:51
 已阅   回复此楼   关注TA 给TA发消息 送TA红花 TA的回帖
相关版块跳转 我要订阅楼主 yalefield 的主题更新
111/2返回列表12下一页
普通表情 龙 兔 虎 猫 高级回复(可上传附件)
信息提示
关闭
请填处理意见
关闭