C＃中有效的主内存到CPU最大带宽

作者: 清月
发布时间: 2025-01-29 11:58:39 (6天前)
转自：

3 条回复

0#
回复此人
生如夏花 | 2019-08-31 10-32

<div class =“post-text”itemprop =“text”> <P> 这是遵循@ harold（非常好）答案的多线程版本。 </p> <P> 从16读取一个元素的for循环达到多重三角带宽。但实际上，循环读取所有元素的基本原因并不是很远，因为CPU瓶颈在多线程版本中不是问题。 </p> <pre> <code> int N = 64; uint[][] data = new uint[N][]; for (int k = 0; k < N; k++) { data[k] = new uint[1000000 * 32]; } for (int j = 0; j < 15; j++) { long total = 0; var sw = Stopwatch.StartNew(); Parallel.For(0, N, delegate (int k) { uint sum = 0; uint[] d = data[k]; //for (uint i = 0; i < d.Length; i += 64) //{ // sum += d[i] + d[i + 16] + d[i + 32] + d[i + 48]; //} for (uint i = 0; i < d.Length; i++) { sum += d[i]; } Interlocked.Add(ref total, sum); }); sw.Stop(); long dataSize = (long)data[0].Length* N * 4; Console.WriteLine("{0} {1:0.000} GB/s", total, dataSize / sw.Elapsed.TotalSeconds / (1024 * 1024 * 1024)); } </code> </pre> <P> 有关我笔记本电脑的信息测量： </p> <UL> <LI> 单线程带宽：13 GB / s </LI> <LI> 多线程带宽：20 GB / s </LI> <LI> 多线程读取所有元素：17 GB / s </LI> </UL> </DIV>

编辑
1#
回复此人
部落用户 | 2019-08-31 10-32

<div class =“post-text”itemprop =“text”> <P> 假设你的意思是单线程带宽，这很容易，例如： </p> <pre> <code> uint[] data = new uint[10000000 * 32]; for (int j = 0; j < 15; j++) { uint sum = 0; var sw = Stopwatch.StartNew(); for (uint i = 0; i < data.Length; i += 64) { sum += data[i] + data[i + 16] + data[i + 32] + data[i + 48]; } sw.Stop(); long dataSize = data.Length * 4; Console.WriteLine("{0} {1:0.000} GB/s", sum, dataSize / sw.Elapsed.TotalSeconds / (1024 * 1024 * 1024)); } </code> </pre> <P> 在我的机器上，我从这里获得了大约19.8-20.1 GB / s，我知道单线程带宽应该在20 GB / s左右，所以看起来很好。我的机器上的多线程带宽实际上更高，大约30 GB / s，但这需要一个更复杂的测试来协调至少两个线程。 </p> <P> 在这个基准测试中需要一些技巧。最重要的是，我依赖64字节的缓存行大小来跳过对大多数数据做任何事情。由于代码确实触及每个高速缓存行（由于数组不一定是64对齐的，可能在开始和结束时减去一个或两个），整个数组将从内存中传输。以防它重要（它确实改变了一点结果，所以我保留了它）我将循环展开4，并使索引变量无符号以避免无意义 <code> movsx </code> 说明。保存操作，尤其是像这样的标量代码，对于尽量避免制作很重要 <EM> 那 </EM> 瓶颈，而不是内存带宽。 </p> <P> 但是，这并没有真正对系统可用的总内存带宽进行基准测试，这在我的系统上无法从单个内核中实现。某些微体系结构细节可以将单个内核的内存带宽限制为小于整个处理器的总内存带宽。您可以阅读有关各种细节的信息 <a href="https://stackoverflow.com/a/43574756/555045"> 这个答案 </A> 由BeeOnRope撰写。 </p> </DIV>

编辑

登录后才能参与评论