NFS: inconsistente performance tussen clients

[woutur]

Ik heb een server draaien op Debian Testing (kernel 3.10.2) waarbij ik een paar media directories exporteer via /etc/exports. Mijn PopcornHour A200 (een mediaspeler) draait een door de fabrikant aangepaste versie van linux. De kernel is een ongetwijfeld gepatchte 2.6.22 kernel.

/etc/exports op mijn server:

code:

/data 192.168.1.10(ro,nohide,async,subtree_check,fsid=0)
/data/data01/Films 192.168.1.10(ro,nohide,async,subtree_check)
# /data/data01/Series 192.168.1.10(ro,nohide,async,no_subtree_check)
/data 192.168.1.62(ro,nohide,async,subtree_check,fsid=0)
/data/data01/Films 192.168.1.62(ro,nohide,async,subtree_check)
/data/data01/Series *(rw,sync,wdelay,hide,nocrossmnt,secure,root_squash,no_all_squash,subtree_check,secure_locks,acl)
#/data/data01/Series 192.168.1.62(ro,nohide,async,no_subtree_check)

192.168.1.10 is de mediaspeler. 192.168.1.62 mijn laptop.
In deze versie van de exports file heb ik Series geexporteerd zoals de media speler zelf ook directories exporteerd.

Met mijn huidige setup kan ik bestanden via mijn mediaspeler benaderen. Maar slechts bladeren. Op het moment dat ik een bestand open, zie ik dat er overdracht plaatsvindt, maar minimaal (denk enkele kbytes per seconde).

Ik heb reeds een aantal firmwares van de fabrikant geprobeerd, zonder succes. Daarnaast kan de mediaspeler zelf ook via NFS zijn directories exporteren. Ik heb de waarden die de speler zelf gebruikt, ingevoerd bij mijn Debian server om te kijken of dit zou helpen. Helaas.

Ik heb dezelfde directories ook gemount op mijn Ubuntu laptop: excellente performance (tussen de 2000 en 3000 kbyte per seconde over een wireless verbinding).

Er zit geen firewall op mijn netwerk. Alles is bedraad. De server en de mediaspeler zitten op hetzelfde subnetwerk.

Mijn vraag:
Kan ik via de server nog opties meegeven die voor normale performance zorgen? Zijn er zaken die ik over het hoofd zie?

[CAPSLOCK2000]

Begrijp ik goed dat je data uiteindelijk wel binnen komt op de mediaspeler? Als het te langzaam is om met videobestanden te testen zou je misschien een mp3 of een foto kunnen proberen.

Ik denk dat de opties die je hebt toegevoegd zoals subtree_check, secure_locks en acl, het alleen maar langzamer maken, maar ik neem aan dat je dat pas bent gaan doen toen het niet goed werkte.

Ik verwacht er niks van maar kun je de laptop een keertje op de kabel van je mediaspelere aansluiten voor het theoretische geval dat daar iets mis mee is?

Controleer eens welke NFS-versie er gebruikt wordt. Ik vermoed dat je moderne Ubuntu NFS4 gebruikt en de oudere kernel nog NFS3. Als de mediaspeler toch NFS4 gebruikt zou je eens kunnen proberen om NFS3 te forceren.

Heb je IPv6 op je netwerk?

[woutur]

CAPSLOCK2000 schreef op zaterdag 07 december 2013 @ 11:57:
Begrijp ik goed dat je data uiteindelijk wel binnen komt op de mediaspeler? Als het te langzaam is om met videobestanden te testen zou je misschien een mp3 of een foto kunnen proberen.

Ik kan de data op de server prima browsen op de mediaspeler. Het is zelfs redelijk vlot te noemen. Met bestanden heb ik allerlei groottes geprobeerd. Meestal probeer ik eerst een srt file te openen van 40 kbyte. Dat duurt al meer dan 30 seconden.

Ik denk dat de opties die je hebt toegevoegd zoals subtree_check, secure_locks en acl, het alleen maar langzamer maken, maar ik neem aan dat je dat pas bent gaan doen toen het niet goed werkte.

Omdat eerst de nfs shares helemaal niet te browsen waren heb ik wat opties toegevoegd. Ik zal deze weer weghalen en kijken of dat helpt qua performance.

Ik verwacht er niks van maar kun je de laptop een keertje op de kabel van je mediaspelere aansluiten voor het theoretische geval dat daar iets mis mee is?

FTP naar de mediaspeler gaat op volle snelheid (zo'n 3000 tot 4000 kbyte per seconde, dat is qua processorkracht wel het maximale). Goede tip, maar het lijkt me niet dat het daaraan ligt.

Controleer eens welke NFS-versie er gebruikt wordt. Ik vermoed dat je moderne Ubuntu NFS4 gebruikt en de oudere kernel nog NFS3. Als de mediaspeler toch NFS4 gebruikt zou je eens kunnen proberen om NFS3 te forceren.

Ik kan eens een nfs-vers optie meegeven. Ik ga erachter aan.

Heb je IPv6 op je netwerk?

Niet dat ik weet. Ook zal ik kijken of wsize en rsize iets doen. Maar volgens mij is dat meer iets om van redelijke performance naar goede performance te gaan. Niet van uitermate belabberd naar redelijk
Van de server naar de mediaspeler is via twee access points (weliswaar bedraad). Zouden die nog iets geks doen op filtering gebied? Lijkt me gek aangezien ik op de laptop eigenlijk dezelfde weg volg, alleen de laatste stap is via wireless in plaats van draad. Bedankt voor je input zover!

[CAPSLOCK2000]

Zet er ook eens een packetsniffer op.
Ooit had ik last van een KDE-feature die alle content op m'n HD ging indexeren. Dat was leuk tot het ding ook aan de netwerkshares begon en daardoor de netwerkverbinding dicht trok.

[woutur]

Ik gebruik iptraf-ng om in- en uitgaand verkeer op de server te controleren. Daarnaast test ik FTP performance meteen na een NFS performance. Dan zou FTP ook behoorlijk tegenvallen denk ik.

[woutur]

Ik heb op één van de routers wat zaken uitgezet. Nu kan ik in ieder geval het netwerk netjes browsen in samba. Dat kon eerder al niet echt. Het zou kunnen dat dit nu beter gaat doordat ik WINS SUPPORT aan gezet heb en os level op 99.

NFS werkt nog steeds niet op de PCH. Ik ga toch eens die kabels wisselen van PCH naar mijn laptop en dan de shares op de laptop mounten. Misschien komt er via de kabel nog een vreemd filter overheen.

[init6]

NFSv4 is na een tijdje ermee spelen nog steeds een redelijke onbekende voor mij qua tuning. Er zijn wel wat tips en tricks, maar die helpen maar zo-zo.

Wat je kan proberen is je blocksize van 8 naar 32KB verhogen. Je kan noatime in je mount opties zetten ook kan je een interupt definieren. Resultaat zou zo eruit moeten zien, maar mijn persoonlijke ervaring met deze settings is dat het marge werk is, 5-8% verbetering.

rsize=32768,wsize=32768,intr,noatime

Je kan het aantal threads verhogen in je /etc/sysconfig/nfs:

RPCNFSDCOUNT=32 bijvoorbeeld ipv 8

Qua software tuning ben je er dan wel denk ik, je kan er nog wat hardware tegen aan gooien. Maar deze settings zullen naar eigen ervaring de beste performance increase geven. Er zijn nog wat sysctl tuning opties heb ik begrepen uit documentatie van een Amerikaanse uni, maar ben zelf niet zo happig op kernel tuning Maybe gaat het 10% sneller, maybe meer. Laat me weten, heb interesse in de uitkomsten.
Doe de testen iig even tussen een vm die dd's naar je NFS partitie stuurt, popcornhour is leuk... maar kan niet echt een dd doen dacht ik.

Met nfsstat kan je wat metingen verrichten.

Netwerk verbinding kan een hoop schelen, bij 1Gbit haal je betere performance dan een 100Mbit, meer disks in je systeem, meer memory, meer cpu voor meer threads... Etc.

Wat ik overal om mij heen hoor, is dat je van dergelijk filesystem niet mag verwachten dat het performed. Het doet prima waar het voor bedoelt is, maar performance heeft het amper. Ik heb eens iemand horen noemen dat CIFS qua performance beter is ( gheh, Synology gebruikt het bijvoorbeeld voor samba connecties met mediaplayers ), maar misschien is Ceph een alternatief?

[ Voor 21% gewijzigd door init6 op 17-12-2013 00:04 ]

[woutur]

Beste init6, ik weet niet zeker of ik je helemaal begrijp of andersom, of jij mij helemaal begrijpt.
Een vast gegeven is dat ik NFS wil gebruiken tussen mijn server en mijn PopCornHour. Dit gaat over 100mbit vanwege het feit dat mijn PCH slechts een 100 mbit interface heeft. De performance van NFS is ongeveer 3~4 kilobyte per seconde van mijn server naar mijn PCH. De performance van FTP van mijn server naar mijn PCH is ongeveer 8000~12000 kilobyte per seconde. We hebben het hier dus niet over procentjes maar een factor 2600. De laatste paar procenten zullen mij een spreekwoordelijke worst zijn.

Ondertussen heb ik het wel opgelost met SAMBA/CIFS waarmee ik prima kan streamen. Maar in eerste instantie was ik op zoek naar NFS. Het loopt nog steeds trouwens. Ik heb het idee dat een router ergens roet in het eten gooit. Ik heb al wat aanpassingen hier en daar gedaan (Linksys wireless router, E3000) waardoor SAMBA/CIFS in één keer browsebaar werd wat eerder al niet zo was. Blijkbaar wilde mijn router domaincontroller worden of wat dan ook voor mijn WORKGROUP. Long story short, dat heb ik uitgeschakeld.

Desalniettemin, hartstikke bedankt voor de reactie. Als ik het werkend krijg, ga ik nog even aan de slag met wat tuning.