lovejunjie1 最近的时间轴更新 lovejunjie1 最近的时间轴更新 |
lovejunjie1V2EX 第 372282 号会员，加入于 2018-12-23 04:40:53 +08:00 |
| 怎么在 esxi 虚拟机的体系下玩 WS2812 型号的 LED 灯珠？ 奇思妙想 • lovejunjie1 • 162 天前 • 最后回复来自 lllllliu | 11 |
| 向职业 IT 老师求助一个问题的解决方向。 服务器 • lovejunjie1 • 270 天前 • 最后回复来自 opengg | 7 |
| 半路出家的 IT 请教一下服务器读取性能该怎么优化 服务器 • lovejunjie1 • 2022-03-25 00:04:16 AM • 最后回复来自 lovejunjie1 | 22 |
| 求助各位，自己搭的家用 nas 文件权限的问题 问与答 • lovejunjie1 • 2020-06-11 00:37:57 AM • 最后回复来自 Osk | 5 |
| 萌新请教各位建站大佬，帮忙指一条路 互联网 • lovejunjie1 • 2019-08-03 12:00:11 PM • 最后回复来自 lovejunjie1 | 4 |
| 请教一下大佬们.py 转.pyd 的方法 Python • lovejunjie1 • 2019-04-07 16:42:47 PM • 最后回复来自 justou | 8 |
| 请教一下 docker 大佬，如何给一个正在运行的 docker 容器挂上我宿主机的一块硬盘分区？ Docker • lovejunjie1 • 2019-04-03 23:25:02 PM • 最后回复来自 lovejunjie1 | 14 |
| 信息的输入方式，除了键盘.鼠标和麦克风.摄像头，还有什么？ 奇思妙想 • lovejunjie1 • 2019-03-05 11:13:43 AM • 最后回复来自 lovejunjie1 | 17 |
| 据说程序员的终点不是哲学家就是宗教信仰者？ 程序员 • lovejunjie1 • 2019-02-16 23:30:50 PM • 最后回复来自 ccnccy | 46 |
| 现在去买 HP GEN10，价格很飘啊，怎么破？ 问与答 • lovejunjie1 • 2019-02-15 16:41:01 PM • 最后回复来自 msg7086 | 16 |
lovejunjie1 最近回复了
273 天前 回复了 lovejunjie1 创建的主题 › 服务器 › 向职业 IT 老师求助一个问题的解决方向。 |
@julyclyde MegaCli 工具是可以完美适配 2288H V5 服务器的。感谢老哥的推荐。排查过硬盘没有问题之后。我可以把目光转移到下一个我怀疑的地方了。谢谢。非常感谢。
另外有点不情之请。可以咨询一下 2288H V5 装 esxi 7.0. 驱动都可以自行适配么？
另外有点不情之请。可以咨询一下 2288H V5 装 esxi 7.0. 驱动都可以自行适配么？
273 天前 回复了 lovejunjie1 创建的主题 › 服务器 › 向职业 IT 老师求助一个问题的解决方向。 |
2022-03-25 00:04:16 +08:00 回复了 lovejunjie1 创建的主题 › 服务器 › 半路出家的 IT 请教一下服务器读取性能该怎么优化 |
@kokutou
@gam2046
@ccde8259
@choury
感谢各位佬三个月前的帮助。最近我解决了这个问题了。现在上传和下载的速度都能跑满机械硬盘的极限了。
实际上硬件和软件在 SMB 或者传输协议或者 MTU 或者阵列策略缓存什么的方面，都没有问题。
真正的问题出在了硬盘挂载上。说起来可能有点扯淡。因为断电之后再启动，硬盘的 /dev/sd*对应的硬盘 UID 产生了变化。而我之前的硬盘自动挂载写的是逻辑挂载点。所以造成了目录映射的错误。
这个错误其中的一个表现就是，若要访问我认为在其中某一个盘的中的数据时，所有的硬盘读取灯都在亮。所以我猜测着大概率是在全盘寻址，因为逻辑问题造成的读取效率低下。
直到上个月我才发现了这个情况，十分惭愧。我这个不专业的 IT 给各位添麻烦了。
当我把硬盘映射从逻辑挂载点，重置到 UID 后。我的目录映射正确了。读取文件时，硬盘的指示灯也正确了。上传下载时候的速度也对了。经过这一个月的观察，确信了这件事情。
最后再次感谢各位的帮助。谢谢。
@gam2046
@ccde8259
@choury
感谢各位佬三个月前的帮助。最近我解决了这个问题了。现在上传和下载的速度都能跑满机械硬盘的极限了。
实际上硬件和软件在 SMB 或者传输协议或者 MTU 或者阵列策略缓存什么的方面，都没有问题。
真正的问题出在了硬盘挂载上。说起来可能有点扯淡。因为断电之后再启动，硬盘的 /dev/sd*对应的硬盘 UID 产生了变化。而我之前的硬盘自动挂载写的是逻辑挂载点。所以造成了目录映射的错误。
这个错误其中的一个表现就是，若要访问我认为在其中某一个盘的中的数据时，所有的硬盘读取灯都在亮。所以我猜测着大概率是在全盘寻址，因为逻辑问题造成的读取效率低下。
直到上个月我才发现了这个情况，十分惭愧。我这个不专业的 IT 给各位添麻烦了。
当我把硬盘映射从逻辑挂载点，重置到 UID 后。我的目录映射正确了。读取文件时，硬盘的指示灯也正确了。上传下载时候的速度也对了。经过这一个月的观察，确信了这件事情。
最后再次感谢各位的帮助。谢谢。
2021-12-03 16:04:28 +08:00 回复了 lovejunjie1 创建的主题 › 服务器 › 半路出家的 IT 请教一下服务器读取性能该怎么优化 |
@ccde8259 我现在十分怀疑是我的网络配置出现了问题，dd 模拟 IO 的情况下和我实际使用中的情况是一直的。
iperf3 相关的数据目前没有条件做，我这边可以让我拿来测试的只有一台 linux 服务器，另一台万兆 win10 机器时不时会有人使用。
其他协议我中午也摸过了一圈。NFS 或者 iSCSI 可能会纳入选择。但是因为用户的习惯，现在 SMB 依然是首选。
iperf3 相关的数据目前没有条件做，我这边可以让我拿来测试的只有一台 linux 服务器，另一台万兆 win10 机器时不时会有人使用。
其他协议我中午也摸过了一圈。NFS 或者 iSCSI 可能会纳入选择。但是因为用户的习惯，现在 SMB 依然是首选。
2021-12-03 15:59:39 +08:00 回复了 lovejunjie1 创建的主题 › 服务器 › 半路出家的 IT 请教一下服务器读取性能该怎么优化 |
喜报。打开缓存之后，并把 MTU 设置为 9000 后，有了 10%的性能提升
^C 记录了 301749+0 的读入
记录了 301748+0 的写出
1235959808 bytes (1.2 GB, 1.2 GiB) copied, 7.61762 s, 162 MB/s
Command terminated by signal 2
0.05user 1.06system 0:07.61elapsed 14%CPU (0avgtext+0avgdata 2384maxresident)k
2414144inputs+0outputs (1major+87minor)pagefaults 0swaps
^C 记录了 301749+0 的读入
记录了 301748+0 的写出
1235959808 bytes (1.2 GB, 1.2 GiB) copied, 7.61762 s, 162 MB/s
Command terminated by signal 2
0.05user 1.06system 0:07.61elapsed 14%CPU (0avgtext+0avgdata 2384maxresident)k
2414144inputs+0outputs (1major+87minor)pagefaults 0swaps
2021-12-03 15:56:50 +08:00 回复了 lovejunjie1 创建的主题 › 服务器 › 半路出家的 IT 请教一下服务器读取性能该怎么优化 |
@gam2046 中午调查服务器 bios 和设备管理器的时候。看到了我这边有 iSCSI 的字样。这个似乎是一个硬件的 iSCSI 设备？看来可以尝试一下这个了。
@CallMeReznov 目前 read cache policy 是 read ahead, dirver cache 是 unchanged.中午把 IO 项从直连 direct 改成缓存 cached 了。目前还在试
@CallMeReznov 目前 read cache policy 是 read ahead, dirver cache 是 unchanged.中午把 IO 项从直连 direct 改成缓存 cached 了。目前还在试
2021-12-03 13:19:51 +08:00 回复了 lovejunjie1 创建的主题 › 服务器 › 半路出家的 IT 请教一下服务器读取性能该怎么优化 |
@choury 额。伪装成 IO 的话，似乎就重现了我之前的问题
me@nas:~$ sudo time dd if=/dev/sdb of=/dev/null bs=4k iflag=direct
[sudo] huawei 的密码：
^C 记录了 1353482+0 的读入
记录了 1353481+0 的写出
5543858176 bytes (5.5 GB, 5.2 GiB) copied, 37.218 s, 149 MB/s
Command terminated by signal 2
0.34user 4.82system 0:37.23elapsed 13%CPU (0avgtext+0avgdata 2344maxresident)k
10827880inputs+0outputs (1major+86minor)pagefaults 0swaps
me@nas:~$ sudo time dd if=/dev/sdb of=/dev/null bs=4k iflag=direct
[sudo] huawei 的密码：
^C 记录了 1353482+0 的读入
记录了 1353481+0 的写出
5543858176 bytes (5.5 GB, 5.2 GiB) copied, 37.218 s, 149 MB/s
Command terminated by signal 2
0.34user 4.82system 0:37.23elapsed 13%CPU (0avgtext+0avgdata 2344maxresident)k
10827880inputs+0outputs (1major+86minor)pagefaults 0swaps
2021-12-03 13:16:02 +08:00 回复了 lovejunjie1 创建的主题 › 服务器 › 半路出家的 IT 请教一下服务器读取性能该怎么优化 |
@ccde8259 感谢，不愧是神佬。经验丰富。我也是疏忽了忘记告知是 SMB 协议。
我尝试一下 iperf3 。等会吃完午餐把数据发上来。
SMB 协议是我用的比较熟悉的。趁着午饭我也把这三个稍微摸一下。
回 7 楼的疑问：
是的，只考虑性能就可以。
1.目前服务器上 3.5 寸口的 slot 已经基本上告罄，没有硬盘也没有 slot 来测试这个问题了。
2.读写都比较多，我把这块视作一个公共的网络缓存。
3.大概是随机读写会比较多。目前已有的序列帧，单文件 15MB 到 50MB 居多，一次缓存任务，读取 200 到 600 个左右。
4.好的，我去咨询一下。这里或许是有优化的空间的。
5.这个点我还需要继续做一些调查。以我目前的知识储备还需要一些时间才能作答……
我尝试一下 iperf3 。等会吃完午餐把数据发上来。
SMB 协议是我用的比较熟悉的。趁着午饭我也把这三个稍微摸一下。
回 7 楼的疑问：
是的，只考虑性能就可以。
1.目前服务器上 3.5 寸口的 slot 已经基本上告罄，没有硬盘也没有 slot 来测试这个问题了。
2.读写都比较多，我把这块视作一个公共的网络缓存。
3.大概是随机读写会比较多。目前已有的序列帧，单文件 15MB 到 50MB 居多，一次缓存任务，读取 200 到 600 个左右。
4.好的，我去咨询一下。这里或许是有优化的空间的。
5.这个点我还需要继续做一些调查。以我目前的知识储备还需要一些时间才能作答……
2021-12-03 12:54:44 +08:00 回复了 lovejunjie1 创建的主题 › 服务器 › 半路出家的 IT 请教一下服务器读取性能该怎么优化 |
@ccde8259 测试了一下读取速度，512MB 。这个速度很理想
root@nas:~$ sudo time dd if=/dev/sdb of=/dev/null bs=4k
^C 记录了 2213858+0 的读入
记录了 2213857+0 的写出
9067958272 bytes (9.1 GB, 8.4 GiB) copied, 17.7102 s, 512 MB/s
Command terminated by signal 2
0.42user 5.75system 0:17.71elapsed 34%CPU (0avgtext+0avgdata 2452maxresident)k
17711520inputs+0outputs (1major+88minor)pagefaults 0swaps
root@nas:~$ sudo time dd if=/dev/sdb of=/dev/null bs=4k
^C 记录了 2213858+0 的读入
记录了 2213857+0 的写出
9067958272 bytes (9.1 GB, 8.4 GiB) copied, 17.7102 s, 512 MB/s
Command terminated by signal 2
0.42user 5.75system 0:17.71elapsed 34%CPU (0avgtext+0avgdata 2452maxresident)k
17711520inputs+0outputs (1major+88minor)pagefaults 0swaps
2021-12-03 12:47:03 +08:00 回复了 lovejunjie1 创建的主题 › 服务器 › 半路出家的 IT 请教一下服务器读取性能该怎么优化 |
@ccde8259 感谢回复
1.网络协议的开销方向我尝试做一下调查，感谢指导方向
2.考虑过 SSD 直通，因为费用开销的问题可能要延后才能实施了。并且因为钱的问题，没能上支持 SSD 阵列的卡。
3.硬阵列可以节省一些服务器性能的开销。因为服务器上我还跑着几个虚拟机。这是我选择硬阵列的理由之一。
4.这组 R0 阵列的内容是缓存内容。我会监控硬盘健康状态。在发生无法挽回的事情之前会转移数据。即使因为突发情况数据丢失，也可以通过另一组 R1 恢复数据。或者重新生产数据。耽误两三天的时间，是我们可以容忍的。
5.软阵列因为没有接触过。所以对他的了解并不充分。
6.感谢提供了几个方案的研究方向，我会一一搜索的。
7.我这边数据有 4 个备份。工作盘>成果盘>冷备份>个人硬盘备份。充分考虑了容灾措施。
8.是的。影视行业是重数据，一个文件 1G 还是很常见的。10 分钟的解算缓存，按照每 0.5 帧一个缓存文件的共极端情况计算。需要 28,800 帧，每帧平均 800MB ，需要约 20T 左右容量。
1.网络协议的开销方向我尝试做一下调查，感谢指导方向
2.考虑过 SSD 直通，因为费用开销的问题可能要延后才能实施了。并且因为钱的问题，没能上支持 SSD 阵列的卡。
3.硬阵列可以节省一些服务器性能的开销。因为服务器上我还跑着几个虚拟机。这是我选择硬阵列的理由之一。
4.这组 R0 阵列的内容是缓存内容。我会监控硬盘健康状态。在发生无法挽回的事情之前会转移数据。即使因为突发情况数据丢失，也可以通过另一组 R1 恢复数据。或者重新生产数据。耽误两三天的时间，是我们可以容忍的。
5.软阵列因为没有接触过。所以对他的了解并不充分。
6.感谢提供了几个方案的研究方向，我会一一搜索的。
7.我这边数据有 4 个备份。工作盘>成果盘>冷备份>个人硬盘备份。充分考虑了容灾措施。
8.是的。影视行业是重数据，一个文件 1G 还是很常见的。10 分钟的解算缓存，按照每 0.5 帧一个缓存文件的共极端情况计算。需要 28,800 帧，每帧平均 800MB ，需要约 20T 左右容量。
Select Language