论指令集和超线程的作用与重要性（二）x265效能对比-完成版

chungexcy · 发表于 2015-11-4 14:15

本帖最后由 chungexcy 于 2015-11-10 03:26 编辑

更新：非常感谢大家热心帮助和提供的测试数据，表格全部覆盖intel近十年的所有架构了，包括Core2中的迭代更新。[Core2->Skylake]

在我之前“论指令集和超线程的作用与重要性”那贴中，我谈及了FMA、AVX、SSE对于特定环境下的浮点运算有翻倍的提升，而超线程的引入能大大提高这些SIMD运算单元的使用率，通俗地说就是让计算单元不要因为其他原因而闲着。

今天我来谈谈AVX2对整数运算的加成，并用一个实际的应用的性能提升来说明。

一、简单介绍一下SIMD相关的指令集

首先提高cpu的性能主要有4个方面：IPC，频率，核心数（+超线程），以及SIMD。SIMD的意思是单个SIMD指令可以同时处理多个数据。高性能科学计算的理论极限可以简单写为IPC x 频率 x 核心数 x SIMD，单位就是我们熟悉的GFlops。

对于32位浮点运算：例如一个SIMD为128位的SSE，就是说一次SIMD操作，可以对连续的4个浮点数做加法或乘法，如上图所示。一个SIMD为256位的AVX，可以一次做8个加法或乘法，而一个SIMD为256位的FMA，可以一次同时作8个加法+乘法。这样理论性能就能翻倍，也就是我们在我上一贴中看到Skylake能比Sandy bridge翻一倍的理论基础。

AVX/FMA是浮点运算单元，而AVX2则是将整数运算的SIMD单元由原来的128位提升到256位，大大提高了理论性能。

二、测试软件x265的介绍

先简单科普一下视频编码的一些概念。

对视频编码有点兴趣的都应该听在下载的视频文件名中注意到H264或x264这个关键字。简单解释的话，视频就是一个快递盒子，里面包了一个视频，一个或几个音频，以及可选的一些字幕。这个盒子就是我能常见的文件名后缀mp4/mkv/ts。而里面的视频现在通常使用的是一个叫做H264的文件。这个H264就是我们看到的图像画面。而x264就是编码这个H264文件的一个常用工具。一般我们拍摄过的视频，或者fraps的游戏录像，都要先经过H264编码，x264的性能直接决定了一个视频得花几个小时才能编码好，之后才能分享到视频网站去。

H265/HEVC是H264/AVC的下一代标准，今年底很快就会有商业应用4k蓝光发售，而4k蓝光的视频编码格式将从H264进化到H265。这里大家应该知道了x265就是对应H265的编码工具，现在依然在开发中，未来的应该还能有不少的性能提升空间。

（同一段视频的截图示例，左边这段为 x264 10bit 96.7 KB，右边这段为 x265 10bit 96.4 KB）

由于视频编码中有大量的整数运算，而x265前期开发刚好是Haswell发布引入AVX2的时候，自然就优先采用AVX2进行优化。等到H265普及的时候，AVX2也差不多普及了。现在的版本已经到1.8，但由于1.8版本发布不到1个月，实际性能并不如1.7的最后一个版本。我在测试中决定使用1.7-511。

测试软件是一个叫做x265 benchmark的程序，有一些评测网站对6700k是用过。但这个benchmark发布较早，内部用的是x265的1.4的版本，由于是基准测试不好更换版本。但现在这个1.7的已经比1.4有了接近40%的提升，我在测试中就换成了1.7。

三、不同架构的x265性能比较

该程序对同一段视频做4遍一样的x265编码，得出4个编码速度FPS，我以平均值为参考标准。这里我测得不多，希望大家帮我测一下其他的数据。

型号运行频率指令集 2线程 4线程 8线程 12线程 16+线程数据来源ID
n2910 1.6g SSE4.2 1.56 FPS mercuryfall
qx6700 2.66g SSSE3 3.17 FPS Cubelia
e8500 3.16g SSE4.1 3.76 FPS chungexcy
e5540 2.8g SSE4.2 8.46 FPS gtboy
x5677 x2 3.6g SSE4.2 18.74 FPS (16T) li2921578
i5 2400 3.1g AVX 9.44 FPS Cubelia
i7 2600 3.5g AVX 12.41 FPS chungexcy
i5 3470 3.8g AVX 12.70 FPS mercuryfall
i7 3630qm 3.2g AVX 12.32 FPS cdlh28
e3 1230v2 3.5g AVX 12.85 FPS SuperbirdRIP
i7 3770k 4.3g AVX 16.64 FPS qilifan
e5 2660 x2 2.4g AVX 22.07 FPS (24T) 847681220
i5 4590r 3.0g AVX2 14.39 FPS chungexcy
i5 4690k 4.5g AVX2 21.51 FPS NOIP117
i7 4710hq 3.0g AVX2 16.80 FPS (est.) hym_21
e3 1231v3 3.6g AVX2 19.75 FPS Cogae
i7 4770k 4.0g AVX2 22.55 FPS overthink
i7 4790k 4.4g AVX2 24.92 FPS fastslz
i7 5820k 3.3g AVX2 26.22 FPS Aillen
i5 5200u 2.5g AVX2 6.03 FPS 7.28 FPS chungexcy
i7 6700k 4.9g AVX2 32.65 FPS (est.) sonyzhj

复制代码

每代架构选了一些代表，换算成同频率：

型号运行频率指令集 2线程 4线程 8线程 12+线程
n2910 1.6g SSE4.2 0.972 FPS
qx6700 1.0g SSSE3 1.192 FPS
e8500 1.0g SSE4.1 1.189 FPS
e5540 1.0g SSE4.2 3.020 FPS
x5677 x2 1.0g SSE4.2 5.206 FPS (16T)
i5 2400 1.0g AVX 3.045 FPS
i7 2600 1.0g AVX 3.546 FPS
i5 3470 1.0g AVX 3.341 FPS
i7 3630qm 1.0g AVX 3.850 FPS
e5 2660 x2 1.0g AVX 9.196 FPS (24T)
i5 4690k 1.0g AVX2 4.780 FPS
i7 4790k 1.0g AVX2 5.663 FPS
i7 5820k 1.0g AVX2 7.945 FPS (12T)
i5 5200u 1.0g AVX2 2.411 FPS 2.913 FPS
i7 6700k 1.0g AVX2 6.664 FPS

复制代码

以此推断：Sandy Bridge超线程提升16.5%；Haswell/Broadwell超线程提升18-21%。
关于并行效率，16线程cpu利用率大约95％，24线程大约90％，36线程大约75%。双路实际表现相对于cpu使用率还再要降一些。

换算成同频率单核心：

型号运行频率指令集 1核心百分比架构备注
n2910 1.0g SSE4.2 0.243 FPS 27.39% Silvermont (22nm) 寨版(每核128位SIMD单元数为Core(2个)的一半)
qx6700 1.0g SSSE3 0.298 FPS 33.60% Core 2 (65nm) 胶水4核心
e8500 1.0g SSE4.1 0.595 FPS 67.07% Core 2 (45nm)
e5540 1.0g SSE4.2 0.757 FPS 85.16% Nehalem
i5 2400 1.0g AVX 0.761 FPS 85.88% Sandy Bridge
i7 2600 1.0g AVX 0.887 FPS 100.00% Sandy Bridge
i5 3470 1.0g AVX 0.835 FPS 94.23% Ivy Bridge
i7 3630qm 1.0g AVX 0.963 FPS 108.57% Ivy Bridge
i5 4690k 1.0g AVX2 1.195 FPS 134.72% Haswell
i7 4790k 1.0g AVX2 1.416 FPS 159.69% Haswell
i5 5200u 1.0g AVX2 1.457 FPS 164.30% Broadwell 双核推断的4核
i7 6700k 1.0g AVX2 1.666 FPS 187.92% Skylake

复制代码

四、结论

更新：
简单来讲，由于AVX2的加成，x265 1.7的表现在Haswell/Broadwell上的编码效率比Sandy Bridge高了60-64%；Skylake比Sandy Bridge高了88%，提升非常可观。[这里没有4核i7对比，我只能估测一下，实际线程多利用率应该低一点，有了数据会更新之前的表格]。
超线程提升了21%。比之前那个神优化的浮点运算的33%提升略少。这是结论一。

结论二，新指令集平台的潜力未来是无限的。

我这里引用官方基于 1.4 版本的测试数据

Intel Core i7-2600K    DT    4    4.5    DDR3    1600    2    14.23
Intel Core i7-3770K    DT    4    4.5    DDR3    2200    2    15.02
Intel Core i7-4790K    DT    4    4.4    DDR3    2000    2    17.73

Haswell相对Sandy Bridge提升27%，相对Ive Bridge提升20%。

贴吧的一个贴子关于 x265 1.7 的初版的测试说明：

haswell同频同核心，性能比Ivy高36%，比SNB高42%。

而现在我发现HSW比SNB高了60%。27%->42%->60%，差距在越来越大。

这就是我说的软件优化对新版本的支持只会越来越好。从1.4到1.7，Sandy Bridge只提升了12.13%，而Broadwell提升了45.12%。任何脱离软件优化来谈硬件性能只能得到片面的结论。所以我不是很喜欢spec的测试，而是找一些有实际意义并且有心追求效率的软件来对比硬件带来的提升。

PS，Skylake上AVX2的效率优化是一个关键，有测试显示相对于Haswell，提升了14.40%。

PPS，大家帮忙测一下吧，我的数据覆盖范围不太够。http://pan.baidu.com/s/1hq8mUQo，4核haswell应该在4分钟左右。
解压后双击运行 bench_script.bat。
第一个提示地方，随便输入你的主频，比如100*35，然后回车。第二个提示，键入 2。
这个编码测试会跑同样4遍，每一遍有一个FPS的速度结果，大家记一下给我，或者取个平均值给我就好了，谢谢啦～～不一定要截图，要4组数据或者你算出平均值给我。还有CPU实际运行是保持的频率。

谢谢所有提供测试数据的坛友，我会把一些有代表性的架构的成绩加到对比表格中～～

补充内容 (2015-11-11 15:06):
i5 6600k 4.0g    21.42 FPS    from: yanfeixiang
单位性能             1.339 FPS    151.02%

补充内容 (2015-11-13 04:13):
i7 3960x 3.6g    18.55 FPS    from: satanisgod
单位性能             0.859 FPS    96.85%

补充内容 (2016-1-14 06:42):
i7 5775c 4.1g    22.52 FPS    from: cannibal2008

henanzheng · 发表于 2017-5-13 21:57

学习了，很不错的文章。

baoyanji · 发表于 2016-1-14 02:24

x265 HD BENCHMARK 0.1.4 RESULTS

Please do NOT compare it with older versions of the benchmark!
Please copy/paste everything below the line to to report your
data to http://x265.ru/x265-hd-benchmark/

^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
Results for x265.exe build 1.4+5
x265 Benchmark: 64-bit
==========================

CRF-20 preset-"fast"
--------------------
encoded 1128 frames in 51.12s (22.06 fps), 2864.07 kb/s, Avg QP:20.47
encoded 1128 frames in 51.01s (22.11 fps), 2864.07 kb/s, Avg QP:20.47
encoded 1128 frames in 51.07s (22.09 fps), 2864.07 kb/s, Avg QP:20.47
encoded 1128 frames in 51.09s (22.08 fps), 2864.07 kb/s, Avg QP:20.47

System Details
--------------
Name Intel Core i7 3960X
Codename Sandy Bridge-E
Specification Intel(R) Core(TM) i7-3960X CPU @ 3.30GHz
Core Stepping C2
Technology 32 nm
Stock frequency 3300 MHz
Core Speed 4300.2 MHz

Northbridge Intel Sandy Bridge-E rev. 07
Southbridge Intel X79 rev. 05

CAS# latency (CL) 9.0
RAS# to CAS# delay (tRCD) 9
RAS# Precharge (tRP) 9
Cycle Time (tRAS) 24
Command Rate (CR) 2T
Memory Frequency 800.1 MHz (1:12)
Memory Type DDR3
Memory Size 16314 MBytes
Channels Quad

Windows Version Microsoft Windows 7 (6.1) Ultimate Edition 64-bit Service Pack 1 (Build 7601)

Number of processors 1
Number of threads 12
Number of threads 12 (max 32)
L2 cache 6 x 256 KBytes, 8-way set associative, 64-byte line size
Instructions sets MMX, SSE, SSE2, SSE3, SSSE3, SSE4.1, SSE4.2, EM64T, VT-x, AES, AVX
Package (platform ID) Socket 2011 LGA (0x2)

Temperature 0 44°C (111°F) [0x2C] (TMPIN0)
Temperature 1 29°C (84°F) [0x1D] (TMPIN1)
Temperature 2 -69°C (-93°F) [0xBA] (TMPIN2)
Temperature 0 47°C (116°F) [0xC82] (THRM)

cannibal2008 · 发表于 2016-1-13 00:48

俺来补一个5代U，5775C不出遗尿跑分和4770K差不多。。。顺手跑了下E3-1280V2，只有12.xxfps

gunterwei · 发表于 2015-12-30 16:34

墙上的另一块砖 · 发表于 2015-12-29 23:45

太专业了！
INTEL的U玩视频是最好的
大家帮忙测一下吧，我的数据覆盖范围不太够.....回头有空俺试试看自己的低级货

chungexcy · 发表于 2015-11-11 15:07

yanfeixiang 发表于 2015-11-10 22:05
u 6600k 双4g，内存双通道2800 平均21.42

谢谢测试，添加补充了，时效过了不能再编辑了。

yanfeixiang · 发表于 2015-11-10 22:05

u 6600k 双4g，内存双通道2800 平均21.42

chungexcy · 发表于 2015-11-10 03:22

mercuryfall 发表于 2015-11-9 23:04
补充几组数据吧，不同平台跑的，就不上截图了：

赛扬N2910（4核1.6G主频，基本等同主流的电视棒、寨版使用 ...

谢谢，前两组加了，core m成绩不太稳定就不做参考了。

话说这n2910性能也是够差的。。。

mercuryfall · 发表于 2015-11-9 23:04

本帖最后由 mercuryfall 于 2015-11-9 23:07 编辑

补充几组数据吧，不同平台跑的，就不上截图了：

赛扬N2910（4核1.6G主频，基本等同主流的电视棒、寨版使用的Z3735F，搭配单通道DDR3-800）：
4次成绩分别为1.55fps、1.57fps、1.55、1.55，折算到1.0G主频的平均成绩为0.972（4线程）

i5-3470（Z77拉了4倍频，实际满载频率为3.8Ghz）
4次成绩为：12.70、12.69、12.69、12.71，平均成绩12.6975，折算到1.0G主频为3.341（4线程）

Core-M 5y70c（双核外带HT，满载1.9Ghz，双通道）
4次成绩为：5.95、5.79、5.62、5.58，平均成绩为5.735，折算到1.0G主频为3.02fps（4线程）
5代core相比3代提升看来不小，超线程外加架构革新之后相比单核无超线程有80%的提升，同时可以看出无风扇结构对于性能是有影响的，4次成绩呈递减趋势。

hym_21 · 发表于 2015-11-9 22:18

chungexcy 发表于 2015-11-9 01:50
非常感谢测试，居然这么详细

话说你把你的TDP限制40w了，还是高温原因？这u不是47w吗，看你aid ...

不会修改bios不会超频，降频虽然考虑过，不过影响不大就不动它。

图上64秒后就看厂家的脸各安天命了

http://i.imgur.com/pxat9TD.png

sonyzhj · 发表于 2015-11-9 14:46

这次换了双通道了分数有点提高上次跑的是内存单通道的
4.9G 6700K 平均32.XX吧

chungexcy · 发表于 2015-11-9 01:50

hym_21 发表于 2015-11-7 14:20
测试环境；室温17℃ ca. 湿度50%测试平台；i7-4710HQ+HM86+128g ssd+1600 ddr3 4g×2BIOS；X550JK.303系统 ...

非常感谢测试，居然这么详细

话说你把你的TDP限制40w了，还是高温原因？这u不是47w吗，看你aida的截图感觉应该能跑到3.2G的。

hklbr · 发表于 2015-11-8 11:00

本帖最后由 hklbr 于 2015-11-8 22:54 编辑

x265 HD BENCHMARK 0.1.4 RESULTS

Please do NOT compare it with older versions of the benchmark!
Please copy/paste everything below the line to to report your
data to http://x265.ru/x265-hd-benchmark/

^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
Results for x265.exe build 1.4+5
x265 Benchmark: 64-bit
==========================

CRF-20 preset-"fast"
--------------------
encoded 1128 frames in 66.30s (17.01 fps), 2864.07 kb/s, Avg QP:20.47
encoded 1128 frames in 64.85s (17.39 fps), 2864.07 kb/s, Avg QP:20.47
encoded 1128 frames in 65.13s (17.32 fps), 2864.07 kb/s, Avg QP:20.47
encoded 1128 frames in 65.57s (17.20 fps), 2864.07 kb/s, Avg QP:20.47

System Details
--------------

皓龙6238 x2 24线程 4gx4 1333 在win10下的结果

发现乱入了，一堆intel，就在amd的

sggfm · 发表于 2015-11-8 00:52

散热不良U温度太高，实际主频在2.8GHz左右

hym_21 · 发表于 2015-11-7 14:20

测试环境；室温17℃ ca. 湿度50%

测试平台；i7-4710HQ+HM86+128g ssd+1600 ddr3 4g×2

BIOS；X550JK.303

系统；win10 home 10565

驱动；系统自动更新

测试内容；将一段低动态低彩中等场景变换的视频转为hevc, 压缩强度中低，运行一轮压4次，共运行4轮压16次，每轮第4次截图，第4轮第4次追加cpu package功耗截图，频率截图，风扇和电压截图

第1轮run1~run4

encoded 1128 frames in 61.58s (18.32 fps), 2864.07 kb/s, Avg QP:20.47

encoded 1128 frames in 65.40s (17.25 fps), 2864.07 kb/s, Avg QP:20.47

encoded 1128 frames in 65.21s (17.30 fps), 2864.07 kb/s, Avg QP:20.47

encoded 1128 frames in 68.08s (16.57 fps), 2864.07 kb/s, Avg QP:20.47

附图；估计范围主峰平分为4份最右侧约1/4为第一轮第4次

http://i.imgur.com/LT2w2Fd.png

第2轮run1~run4

encoded 1128 frames in 61.92s (18.22 fps), 2864.07 kb/s, Avg QP:20.47

encoded 1128 frames in 64.95s (17.37 fps), 2864.07 kb/s, Avg QP:20.47

encoded 1128 frames in 66.80s (16.89 fps), 2864.07 kb/s, Avg QP:20.47

encoded 1128 frames in 66.62s (16.93 fps), 2864.07 kb/s, Avg QP:20.47

附图；估计范围第二主峰平分为4份最右侧约1/4为第二轮第4次

http://i.imgur.com/QJ7V0KY.png

第3轮run1~run4

encoded 1128 frames in 61.41s (18.37 fps), 2864.07 kb/s, Avg QP:20.47

encoded 1128 frames in 65.36s (17.26 fps), 2864.07 kb/s, Avg QP:20.47

encoded 1128 frames in 66.60s (16.94 fps), 2864.07 kb/s, Avg QP:20.47

encoded 1128 frames in 66.44s (16.98 fps), 2864.07 kb/s, Avg QP:20.47

附图；估计范围第三主峰平分为4份最右侧约1/4为第三轮第4次

http://i.imgur.com/tNfdexc.png

第4轮run1~run4

encoded 1128 frames in 61.46s (18.35 fps), 2864.07 kb/s, Avg QP:20.47

encoded 1128 frames in 65.03s (17.35 fps), 2864.07 kb/s, Avg QP:20.47

encoded 1128 frames in 66.81s (16.88 fps), 2864.07 kb/s, Avg QP:20.47

encoded 1128 frames in 67.20s (16.79 fps), 2864.07 kb/s, Avg QP:20.47

附图；估计范围第四主峰平分为4份最右侧约1/4为第四轮第4次

http://i.imgur.com/z8zRKhN.png

追加cpu package功耗图和频率图；功耗图看每轮第4次趋于平缓，此时cpupackage 40W ca.温度 82℃ ca. 频率3.00ghz ca. 电压 0.967v ca.风扇3800转ca. 转码速度 16.8 fps ca.

http://i.imgur.com/Mq6MK1k.png

http://i.imgur.com/Xl7lTGq.png

追加风扇和电压图；

http://i.imgur.com/xxR5CTB.png

http://i.imgur.com/0FiFJTf.png

开始的时候居然没出现“文件名目录名或卷标语法不正确”，搞得一测完run1~run4就自动变成最后成绩，不知道怎么终止，就索性开着aida车轮测试了,还可以看看规律和原因aida记录的影响不是很大。后来发现可以终止出结果了，上个不带aida记录的，变化不大。没权限上图，楼主推荐的imgur顺手就用了

http://i.imgur.com/Q0wWg30.png

chungexcy · 发表于 2015-11-7 12:57

847681220 发表于 2015-11-7 12:50
是的，还有运行中总占用在90%左右也是吃不满

好的，已经加前面了。24线程看来已经有点吃力了。前面有人双路共16线程已经只有可能不到95％使用率。还有一个36线程利用率降到了75%。

发表于 2015-11-7 12:50

chungexcy 发表于 2015-11-7 12:44
谢谢测试～请问截图中2.4g是运行时保持的频率吗？

是的，还有运行中总占用在90%左右也是吃不满

chungexcy · 发表于 2015-11-7 12:44

847681220 发表于 2015-11-7 11:26
encoded 1128 frames in 51.27s (22.00 fps), 2864.07 kb/s, Avg QP:20.47
encoded 1128 frames in 51.08s ...

谢谢测试～请问截图中2.4g是运行时保持的频率吗？

chungexcy · 发表于 2015-11-7 12:10

li2921578 发表于 2015-11-7 11:56
90+以上就有跑不满100...
我机子开的东西比较多

嗯，那就是x265并行性能有限，16线程还行，再高多了效率就掉下来了。我双核4线程也就大概95的使用率。

li2921578 · 发表于 2015-11-7 11:56

chungexcy 发表于 2015-11-7 00:41
你看你楼上那个有人4路e7，发现有时最多也就跑满一个CPU，所以我问问了你一下你的双路是不是都能平均有90 ...

90+以上就有跑不满100...
我机子开的东西比较多

论指令集和超线程的作用与重要性（二）x265效能对比-完成版

本帖子中包含更多资源

评分

相关帖子

本帖子中包含更多资源

本帖子中包含更多资源

本帖子中包含更多资源

本帖子中包含更多资源

评分

本帖子中包含更多资源

评分

本帖子中包含更多资源

本帖子中包含更多资源

评分