| 作者 |
 [CPU cache 问题技术讨论] 自称外行的请勿入，勿语。 (续） |
 |
网客JT
[博客]
头衔: 海归上校
声望: 博导
加入时间: 2008/01/11
文章: 1021
海归分: 97014
|
|
|
作者：网客JT 在 海归商务 发贴, 来自【海归网】 http://www.haiguinet.com
首贴见这里。
https://www.haiguinet.com/forum/viewtopic.php?p=1836572
继续：
T1=(1-a)*T + a*Th + Tm
王同学的WLRU 算法，宣称大幅度提高了a (hit rate)， 并会导致CPU 设计的革命，因为CPU 设计遇到了内存墙，他的WLRU算法可以帮助解决内存墙问题。 这也据说是其发明的根本价值。
是这样的吗？
内存墙，确实存在。好学的同学，可以看看这里，科普一下。
https://baike.baidu.com/view/4230085.htm
简单来说， CPU 性能的不断提高，运算速度越来越快，以至于从内存里存取的数据的速度变成了bottleneck， 再提高CPU 性能很难带来整体运算性能的提高。
内存access这个bottle neck, 取决于： bandwidth 和 latency， 即CPU 和内存间的高速公路的车道数有限， 跑个来回还有相当的时间耗费。
那么， 如果a (cache hit rate)大幅度提高，能否解决这个“内存墙”问题呢？
答案是，不能。 毫不相关。
要理解这个道理，先假设一个CPU使用理论上最好的cache algorithm， hit rate a达到理论上限， 即Belady's Optimal Algorithm, 好奇心重的同学可以看看这里：
https://en.wikipedia.org/wiki/Cache_algorithms
道理很简单， 对CPU 设计人员来讲，鬼知道用户会用它运行什么样的program， 所以也无法预测其memory trace. 但对于给定的一个program， 那它的memory access 的 trace是基本固定的，可以用软件跑一遍测试出来。然后如果能根据这个具体、已知的memory access pattern设计个cache algorithm出来，一定是最优的（先打一枪，再把靶心画在弹着点上，能不准嘛）。
这个，就是Belady's Optimal Algorithm, 是cache的上限， 无法超越的。 （当然，它是个理想情况，也是无法实现的。）
现在的问题是，假设这个理论上限实现了， 得到的hit rate是A0，比如， A0=60%。 它能解决“内存墙”问题吗？
答案，是，不能。 （如果是最优理论值不能，那么任何实际cache algorithm更不能了。）
假设这个程序运行一遍要access memory 10billion times without cache, 再假设A0=60％, 也就意味着， 最好的cache使memory access降低到4 billion times。 在4 billion times memory access的过程中， CPU 依然在等待。依然在等待。内存墙依然存在。 Intel、IBM的专业人员不是傻子。 你试试告诉他们说，一个新的cache algorithm能提高hit rate接近理论值，他们会说，huh, interesting, at what cost? 你接着告诉他们说，这会解决内存墙问题，他们会很礼貌地告诉你， get lost, please.
同学，解决内存墙不是这么回事， 为什么要信口开河呢？还是真的不懂？
当然， 提高一下cache hit rate 对CPU 很可能是好事 －－ 取决于提高的成本。 但无论如何，这跟解决内存墙问题无关，也带不来什么CPU 设计革命。 好的cache algorithm能改善CPU performance，definitely, 如前边例子里的60% improvement，(at cost not discussed yet)。 这如同汽车的fuel快光时，关掉空调、少用刹车、尽量节约用油，争取跑远一点，确有帮助。 但解决问题的根本方案，是找到加油站。
所以，指望CPU 行业革命发源于这个cache algorithm的， 可以醒醒了。
也可以接着睡。
〔待续）
可能有同学要问，即使说“解决”内存墙问题不切实际，可是大幅度提高a也是不得了的成就啊。 别着急。 前边有个关键phrase， “at what cost”, 王同学一直没有分析，不知道是不明白还是故意的，下次有空，我再"续"一下， 唠叨两句。
作者：网客JT 在 海归商务 发贴, 来自【海归网】 http://www.haiguinet.com
|
|
|
| 返回顶端 |
|
 |
|
-
 [CPU cache 问题技术讨论] 自称外行的请勿入，勿语。 (续） -- 网客JT - (2023 Byte) 2010-11-01 周一, 20:44 (4316 reads)
|
|
|
|
您不能在本论坛发表新主题, 不能回复主题, 不能编辑自己的文章, 不能删除自己的文章, 不能发表投票, 您 不可以 发表活动帖子在本论坛, 不能添加附件不能下载文件, |
|
|
