Plex & ZFS op ESXi, niet performant

[martijndierckx]

Er draait bij mij een ML330 G6 met ESXi 5.1 met daarop een aantal vms:
- FreeBSD 10 (24GB, 1 vCPU): ZFS NAS via SMB. (5 disks op aparte HBA via directpath)
- Ubuntu 14.04 (6GB, 1 vCPU x 4 cores): plex, plexconnect
- Ubuntu 14.04 (2GB, 1 vCPU x 2 cores): sabnzbd+, sickbeard, couchpotato, nzbtomedia
- Ubuntu 14.04 (1GB, 1 vCPU): ups monitor (stuurt die vMa aan om ESxi af te sluiten bij low-power)
- vMa (600MB, 1 vCPU)
- Ubuntu 14.04 (512MB, 1 vCPU): VPN

Specs ML330:
- Xeon E5504
- 36GB
- ESXi on SD
- VMs on 4 x 250GB RAID5 on HP P410
- ZFS storage on 5 x 4TB HGST on LSI2008 (reflashed IBM model)

Kort samengevat:
Dat ding draait voor het downloaden, storen & managen van films/series.

Momenteel werkt alles echter niet altijd even denderend. Het gebeurt maar al te vaak dat ik een film niet kan kijken op mijn apple tv (hij geeft dan een fout bij het laden van de film, of stopt halverwege de film). Ik heb de indruk dat de CPU niet altijd kan volgen. Dan moet ik de plex machine rebooten om alles opnieuw in gang te stampen.
Ik wil dat alles "gewoon werkt" dus ben ik op zoek naar een oplossing.

Een kameraad (@hyperbart) gaf al aan dat ik misschien beter die ML ombouw naar een bare metal ZFS bak, en dat ik een apart bakje kan aanschaffen voor de plex & downloading software. Maar ik houd graag alles apart. Als ik dan eens begin te klooien, dan kan niet alles kapot ...

Any other ideas?
Zou het bv helpen om eens een nieuwe versie van esxi te installeren?
Of hoe kan ik er voor zorgen dat er zoveel mogelijk CPU power wordt doorgesluisd naar die plex machine?

[ Voor 5% gewijzigd door martijndierckx op 07-02-2015 15:52 ]

[prutser001]

Wat zijn de precieze specs dan? Er zijn namelijk wel verschillende uitvoeringen/opties.

[martijndierckx]

Specs toegevoegd in originele post

[IceTeaGX]

Je hebt op de ESXi toch statistieken van CPU en memory gebruik. Kijk die eens na zou ik zeggen.
Eveneens de errorlogs van de plex.

Je gebruikt trouwens meer virtuele hardware dan je fysieke hebt. Dat kan uiteraard voor ernstige vertragingen zorgen.

[Glashelder]

Waarom heeft die Plex vm 4 cores? Ik kan mij zo voorstellen dat als die vm een beetje aan de gang gaat dat hij je storage vm gaat wegdrukken. Komt natuurlijk nog eens bij dat hij altijd moet wachten tot alle 4 de cores beschikbaar zijn. Wellicht presteert het beter als je die bak terugzet naar 2 cores.

Bij virtualisatie geldt altijd begin met zo min mogelijk cores in je vm's. Voeg ze alleen toe als je ze echt nodig hebt.

[martijndierckx]

Stond nog een foutje in de originele specs ... plex heeft maar 6GB. Dus geen overcommitment.

[martijndierckx]

Ik heb de specs nu alvast aangepast naar:
2 cores voor plex
2 cores voor ZFS

[lazybones]

Wellicht handig om eens door te nemen (Performance Best Practice):

http://www.vmware.com/pdf/Perf_Best_Practices_vSphere5.0.pdf

In mijn eigen thuislab merk ik dat het enablen van C6 power state in de BIOS de zaak behoorlijk afremt, kennelijk duurt het ontwaken uit de C6 state te lang. Ik heb die dus uit gezet.

[Edd]

Wat voor een content probeer je te streamen? Ik neem aan dat je Plex dit laat transcoderen?
Als ik de info van Plex erop nasla kom ik uit op de volgende Url:
https://support.plex.tv/h...d-for-my-Server-computer-

Daar wordt aangegeven dat je voor 1080p materiaal +/- 2000 punten voor passmark nodig hebt en voor 720p 1500 punten. De Xeon van je staat in de lijst voor +/- 2800.
Nu draai je dit in een virtuele omgeving, waarbij de cpu uiteraard verdeelt wordt en ik mij wel kan voorstellen dat deze niet krachtig genoeg zou kunnen zijn om de transcodering aankan.

Wat is je CPU usage op de Plex VM en je host terwijl je naar een film kijkt? Loopt deze hoog op of niet?

[HyperBart]

Net martinos nog aan de lijn gehad, op performance gebied lijkt die ESXi het toch niet echt super zwaar te hebben. We zien een zaagtandpatroon met een piek van net onder/tegen de 100, met vlak er na een piek op 60 percent, en dat patroon herhaalt zich zolang er getranscodeerd wordt...

Content die hij probeert te streamen is in dit geval 1080p.

Ik heb 'm ook al eens aangegeven dat er heus wel een performance penalty zal zitten met virtualisatie, ik merkte dit bv. ook toen ik overschakelde van een VM met Sabnzbd naar bare metal. Het unparren en unrarren ging daar wel even met een factortje 1.25 à 1.75 sneller... Wat dat betreft ben ik op het volgende idee gekomen door de volgende post:

Edd schreef op zaterdag 07 februari 2015 @ 17:30:
Wat voor een content probeer je te streamen? Ik neem aan dat je Plex dit laat transcoderen?
Als ik de info van Plex erop nasla kom ik uit op de volgende Url:
https://support.plex.tv/h...d-for-my-Server-computer-

Daar wordt aangegeven dat je voor 1080p materiaal +/- 2000 punten voor passmark nodig hebt en voor 720p 1500 punten. De Xeon van je staat in de lijst voor +/- 2800.
Nu draai je dit in een virtuele omgeving, waarbij de cpu uiteraard verdeelt wordt en ik mij wel kan voorstellen dat deze niet krachtig genoeg zou kunnen zijn om de transcodering aankan.

Wat is je CPU usage op de Plex VM en je host terwijl je naar een film kijkt? Loopt deze hoog op of niet?

Martijn, misschien kan je eens alle VM's afzetten, snel een Windows machine'tje deployen en daar even een Passmark in draaien? Dan hebben we ten minste al IETS om een beetje te weten of het allemaal wel ok is met de te verkrijgen performantie...?

IceTeaGX schreef op zaterdag 07 februari 2015 @ 15:49:
Je gebruikt trouwens meer virtuele hardware dan je fysieke hebt. Dat kan uiteraard voor ernstige vertragingen zorgen.

Uiteraard, dat is net het hele ding van virtualisatie en consolidatie. Alleen als alle VM's tegelijkertijd aanspraak beginnen maken KAN je performance hits hebben, maar dat hoeft helemaal niet te zijn gebaseerd op het feit dat hij wat CPU overcommitment doet...

Edd schreef op zaterdag 07 februari 2015 @ 17:30:
Wat is je CPU usage op de Plex VM en je host terwijl je naar een film kijkt? Loopt deze hoog op of niet?

CPU usage gemeten vanop ESXi voor specifiek de Plex VM flatlinet wel tegen 100 als ik het mij goed herinner.

Martijn?

[ Voor 44% gewijzigd door HyperBart op 07-02-2015 18:49 ]

[Glashelder]

Het overmatig toekennen van vCPU's is juist een groot probleem bij virtualisatie (heel veel beheerders maken deze fout). Als jij 4 vCPU's toekent aan een vm op een host met maar 4 fysieke cores, dan moet die vm altijd wachten tot alle cores beschikbaar zijn.

Ook als die vm maar één zware single threaded taak heeft.

Je krijgt dan de situatie dat vm's met minder vCPU's vaker cpu tijd krijgen dan je 4 vCPU 'sterke vm'.

[HyperBart]

Ik weet wat je wil zeggen maar het is te kort door de bocht, relaxed co scheduling neemt daar ook al een deel van weg, maar in uitzonderlijke gevallen is het toevoegen van meer vCPU's inderdaad performance hitting dan bettering maar dat heeft dan vaker te maken met NUMA. Anyway in dit geval lijkt vCPU overassignment nog niet het geval te zijn want dan zouden we te maken hebben met teveel CPU ready time... Wederom lijkt het me raar als we dat daar gaan zien omdat de rest van zijn VM's doorgaans uit hun neus staan te vreten... Buiten die storage VM die wat samba en ZFS staat te serveren... En das nou ook niet ZO cpu intensief... Niettemin kan het wel eens gecheckt worden...

[lazybones]

mijn opmerking over C6 states al nagelopen?

[3DDude]

Kan je de storage nagaan / en met name de latency ? En waarom heeft die ZFS 24GB ram?
Ik snap dat ZFS 2GB voor VM zelf + 1GB per TB storage nodig heeft.
Jij haalt met 4*250 de 1TB. dus waarom heeft dat ding zoveel ram?

Nvm me, teveel specs haha

P.s. TS wellicht slim om de E5504 te upgraden.. 4 cores, geen HT.
Dat die versie bestond XD, met lage clock + met zonder HT dus..

V&A aangeboden: 2x Xeon E5520
(bijvoorbeeld die hierboven, heeft tenminste hyperthreading en is 2.53GHz ipv 2.0)

En dan ros je er gelijk 2 CPU/ sockets in? (tenminste weet niet of je dat nu ook hebt..)

[ Voor 55% gewijzigd door 3DDude op 07-02-2015 23:51 ]

[krijn1985]

Zijn ZFS storage is 5 x 4 TB, dus dan is 24 niet zo raar volgens die regel

[jantje112]

Allicht kun je plex installeren op je freebsd install. Met freenas of zfsguru moet dat lukken