Ik heb hier twee servers staan met allebei een Mellanox ConnectX-3 kaart (en een Quad port HP PCI-E maar voor nu niet relevant). Het probleem is dat wanneer ik een bestand van een aantal GB (heb 7, 12 en 30 geprobeerd) kopieer, de snelheid heel erg instabiel is (begint op 700 MB/s en eindigt rond de 150 MB/s) en traag. Lijkt wel alsof er af en toe een soort cache volloopt ofzo. Dit is als ik via Windows file Explorer kopieer, wanneer ik FTP (FileZilla) gebruik komt de snelheid niet boven de 40 MB/s. Jumbo Frames van 1514 naar 9000 heeft een klein beetje positief verschil gemaakt.
De servers draaien allebei Server 2016 en gebruiken allebei de MLNX_VPI_WinOF-5_40_All_Win2016_x64 driver (van Mellanox zelf). Bij de instellingen van de netwerkkaart zelf kan je verschillende scenario's selecteren (single port, single stream etc.), ik heb ze allemaal geprobeerd). Windows zelf draait op beide servers op een Samsung 850 SSD.
Server1:
SuperMicro X8DAH-+ f
2 x X5650
60GB
Areca 1882 8x3TB (WD RED) RAID6
IP 10.0.0.100 (de rest van het netwerk gebruikt 192.168.100.*)
Zie hier resultaat van HDtune (om uit te sluiten dat het probleem in de schijven zit):

Server2:
Asus Z8NA-D6
1 x X5650
24GB
Areca 1220 4x3TB RAID5
IP 10.0.0.200 (de rest van het netwerk gebruikt 192.168.100.*)
Zie hier resultaat van HDtune (om uit te sluiten dat het probleem in de schijven zit):

Nu ben ik niet nog niet zo handig met iperf maar hierbij wat resultaten (heb de commando's uit een ander tweakers topic gehaald, Thanks @HyperBart ):
Server1 naar Server2
Server2 (de iperf server) toont:
Wanneer ik UDP gebruik om jitter en TCP retransmissies uit te sluiten, is dit het resultaat:
Mijn vraag is (uiteraard) waarom de snelheid zo laag is en wat ik hier aan kan doen.
Wanneer ik mijn UTP netwerk (2GBit LDAP) gebruik (en dezelfde testjes doe) ligt mijn snelheid al hoger..
De servers draaien allebei Server 2016 en gebruiken allebei de MLNX_VPI_WinOF-5_40_All_Win2016_x64 driver (van Mellanox zelf). Bij de instellingen van de netwerkkaart zelf kan je verschillende scenario's selecteren (single port, single stream etc.), ik heb ze allemaal geprobeerd). Windows zelf draait op beide servers op een Samsung 850 SSD.
Server1:
SuperMicro X8DAH-+ f
2 x X5650
60GB
Areca 1882 8x3TB (WD RED) RAID6
IP 10.0.0.100 (de rest van het netwerk gebruikt 192.168.100.*)
Zie hier resultaat van HDtune (om uit te sluiten dat het probleem in de schijven zit):

Server2:
Asus Z8NA-D6
1 x X5650
24GB
Areca 1220 4x3TB RAID5
IP 10.0.0.200 (de rest van het netwerk gebruikt 192.168.100.*)
Zie hier resultaat van HDtune (om uit te sluiten dat het probleem in de schijven zit):

Nu ben ik niet nog niet zo handig met iperf maar hierbij wat resultaten (heb de commando's uit een ander tweakers topic gehaald, Thanks @HyperBart ):
Server1 naar Server2
C:\Users\Administrator\Desktop>iperf3.exe -c 10.0.0.200 -i 1 -t 30 -w 20000 Connecting to host 10.0.0.200, port 5201 [ 4] local 10.0.0.100 port 49722 connected to 10.0.0.200 port 5201 [ ID] Interval Transfer Bandwidth [ 4] 0.00-1.00 sec 137 MBytes 1.15 Gbits/sec [ 4] 1.00-2.00 sec 145 MBytes 1.22 Gbits/sec [ 4] 2.00-3.00 sec 149 MBytes 1.25 Gbits/sec [ 4] 3.00-4.00 sec 152 MBytes 1.27 Gbits/sec [ 4] 4.00-5.00 sec 143 MBytes 1.20 Gbits/sec [ 4] 5.00-6.00 sec 146 MBytes 1.22 Gbits/sec [ 4] 6.00-7.00 sec 151 MBytes 1.27 Gbits/sec [ 4] 7.00-8.00 sec 155 MBytes 1.30 Gbits/sec [ 4] 8.00-9.00 sec 150 MBytes 1.25 Gbits/sec [ 4] 9.00-10.00 sec 151 MBytes 1.27 Gbits/sec [ 4] 10.00-11.00 sec 149 MBytes 1.25 Gbits/sec [ 4] 11.00-12.00 sec 146 MBytes 1.22 Gbits/sec [ 4] 12.00-13.00 sec 146 MBytes 1.23 Gbits/sec [ 4] 13.00-14.00 sec 146 MBytes 1.22 Gbits/sec [ 4] 14.00-15.00 sec 144 MBytes 1.21 Gbits/sec [ 4] 15.00-16.00 sec 146 MBytes 1.22 Gbits/sec [ 4] 16.00-17.01 sec 143 MBytes 1.20 Gbits/sec [ 4] 17.01-18.00 sec 150 MBytes 1.27 Gbits/sec [ 4] 18.00-19.00 sec 154 MBytes 1.29 Gbits/sec [ 4] 19.00-20.00 sec 162 MBytes 1.36 Gbits/sec [ 4] 20.00-21.00 sec 156 MBytes 1.31 Gbits/sec [ 4] 21.00-22.00 sec 154 MBytes 1.29 Gbits/sec [ 4] 22.00-23.00 sec 149 MBytes 1.25 Gbits/sec [ 4] 23.00-24.01 sec 148 MBytes 1.24 Gbits/sec [ 4] 24.01-25.00 sec 149 MBytes 1.25 Gbits/sec [ 4] 25.00-26.00 sec 143 MBytes 1.20 Gbits/sec [ 4] 26.00-27.00 sec 138 MBytes 1.16 Gbits/sec [ 4] 27.00-28.00 sec 142 MBytes 1.19 Gbits/sec [ 4] 28.00-29.00 sec 135 MBytes 1.14 Gbits/sec [ 4] 29.00-30.00 sec 145 MBytes 1.21 Gbits/sec - - - - - - - - - - - - - - - - - - - - - - - - - [ ID] Interval Transfer Bandwidth [ 4] 0.00-30.00 sec 4.32 GBytes 1.24 Gbits/sec sender [ 4] 0.00-30.00 sec 4.32 GBytes 1.24 Gbits/sec receiver iperf Done.
Server2 (de iperf server) toont:
[ ID] Interval Transfer Bandwidth [ 5] 0.00-30.00 sec 0.00 Bytes 0.00 bits/sec sender [ 5] 0.00-30.00 sec 4.32 GBytes 1.24 Gbits/sec receiver
Wanneer ik UDP gebruik om jitter en TCP retransmissies uit te sluiten, is dit het resultaat:
C:\Users\Administrator\Desktop>iperf3.exe -c 10.0.0.200 -u -b 10m Connecting to host 10.0.0.200, port 5201 [ 4] local 10.0.0.100 port 62094 connected to 10.0.0.200 port 5201 [ ID] Interval Transfer Bandwidth Total Datagrams [ 4] 0.00-1.00 sec 1.09 MBytes 9.17 Mbits/sec 140 [ 4] 1.00-2.00 sec 1.25 MBytes 10.5 Mbits/sec 160 [ 4] 2.00-3.00 sec 1.12 MBytes 9.43 Mbits/sec 144 [ 4] 3.00-4.00 sec 1.27 MBytes 10.6 Mbits/sec 162 [ 4] 4.00-5.00 sec 1.12 MBytes 9.43 Mbits/sec 144 [ 4] 5.00-6.00 sec 1.30 MBytes 10.9 Mbits/sec 167 [ 4] 6.00-7.00 sec 1.11 MBytes 9.32 Mbits/sec 142 [ 4] 7.00-8.01 sec 1.16 MBytes 9.64 Mbits/sec 148 [ 4] 8.01-9.00 sec 1.20 MBytes 10.1 Mbits/sec 153 [ 4] 9.00-10.00 sec 1.30 MBytes 10.9 Mbits/sec 167 - - - - - - - - - - - - - - - - - - - - - - - - - [ ID] Interval Transfer Bandwidth Jitter Lost/Total Datagrams [ 4] 0.00-10.00 sec 11.9 MBytes 10.0 Mbits/sec 0.094 ms 0/1527 (0%) [ 4] Sent 1527 datagrams iperf Done.
Mijn vraag is (uiteraard) waarom de snelheid zo laag is en wat ik hier aan kan doen.
Wanneer ik mijn UTP netwerk (2GBit LDAP) gebruik (en dezelfde testjes doe) ligt mijn snelheid al hoger..
PC1: ASUS B650-Plus WiFi -- 9900X incl. X72 -- 64GB DDR5-6000Mhz -- Kingston Fury Renegade G5 2TB -- HP Z43 | Servers: 2x DELL R730 -- E5-2660 v4 -- 256GB -- Synology DS3617xs: 4x1,92TB SSD RAID F1 -- 6x8TB WD Purple RAID5