Advies thuisserver met RAID of ZFS

[PuijkeN]

Ik zet deze topic hier neer, omdat ik denk dat hij hier het meeste thuishoort. Uiteindelijk zal ik nog wel wat aankoopadvies nodig hebben, maar ik weet niet of dit hier kan.

Mijn situatie
Heb nu een gamepc staan met 3x 3TB WD Green in die ik gebruik als opslag. Hierop staan vooral grote bestanden zoals films, muziek, .. Nu maakt deze PC (die in de woonkamer staat) net iets teveel lawaai om comfortabel iets te kijken op de mediaspeler. Daarom ben ik dus op zoek naar iets anders, zodat de game pc uit kan, en er gestreamed kan worden vanaf een servertje dat boven staat.

Verder zou ik graag overstappen naar een RAID/ZFS systeem omdat ik bij uitval van één schijf dit zou kunnen opvangen (RAID5 of RAIDZ). Ander voordeel is dat ik de beschikbare ruimte kan benaderen als 1 grote schijf.

De server zou ook moeten dienen als Plex Media Server, aangezien Plex op de mediaspeler geïnstalleerd is. Transcoding is optioneel, maar indien het kan wel een leuke extra. Indien mogelijk zou ik ook graag downloaden op die bak, dus het moet makkelijk over te nemen zijn. Mijn voorkeur gaat daarom uit naar een Windows OS (RDP werkt gewoon lekkerder tbh) om te downloaden.

Ik zou onmiddelijk 2x 3TB bijkopen van hetzelfde type zodat dit direct in de server kan. Verder dacht ik aan een Pentium of Core i3, 8GB RAM en een opstartdisk (kleine SSD). De opstartdisk zou ik vrij snel nemen, omdat ik bij voorkeur de server uit zou zetten als ik deze niet nodig heb (werk, transport en slaap neemt al snel 14 - 16 uur in beslag, en dan kan de server gerust uit). Een WOL oplossing zorgt er voor dat ik de server kan aanzetten wanneer ik wil.

Dus daarom graag jullie input. Wat is een aan te raden oplossing? Ik heb zelf reeds een en ander uitgezocht en ben tot volgende conclusie's gekomen:

- Windows RAID: doet wat het moet doen, maar heeft geen geweldige performance
- Linux RAID: weinig ervaring mee, performance moeilijk in te schatten
- hardware RAID: ik kan via men werk een HP P410 256MB met batterij krijgen, performance zou goed moeten zijn, maar controller defect = DISASTER
--> RAID in combinatie met desktopschijven zou slecht zijn omwille van het ontbreken van TLER --> algemene conclusie: liever geen RAID

Daarom kwam ik uiteindelijk bij ZFS terecht, waar ik weinig ervaring mee heb. Ik heb via FreeNAS een testinstallatie gedaan op een oude PC maar de performance was moeilijk in te schatten. Via netwerk kon ik uiteindelijk ongeveer 400-500 mbit halen, maar met serieuze dalen er tussen. Sommige drops gingen zo ver terug als 10 mbit. Dit was wel met oude schijven waarvan de betrouwbaarheid twijfelachtig is. Ook de PC zelf is 'slechts' een Core 2 Duo 1.8ghz.

Wat is de te verwachten performance op een nieuwere PC met 5 schijven? Ik lees hier en daar dat een gigabit verbinding vol zou getrokken kunnen worden. Wat mooi zou zijn, aangezien ik dan weinig snelheid verlies tov mijn huidige situatie (intern kopieren = 100 - 150 MiB/s).
En belangrijker, welke combinatie zal het meest betrouwbaar zijn en het makkelijkste werken? (al dan niet met virtualisatie).

Hoop dat het wat begrijpbaar is maar mijn hoofd is momenteel na het vele lezen vandaag!

[Verwijderd]

Je hebt denk ik twee keuzes: je kunt gaan voor een server - een NAS - of je kunt gaan voor een workstation met Windows waarop je direct werkt. Dat laatste heeft echter niet de kenmerken die jij gaf: 'doet wat het moet doen, maar heeft geen geweldige performance'. Dat is juist andersom: doet niet wat het moet doen (geen veilige opslag) maar is in tegenstelling tot alle andere oplossingen wel veel sneller omdat je lokale opslag hebt; er zit geen gigabit netwerk tussen die je prestaties zal afromen.

Windows opslag is geen veilige opslag; het is ouderwetse onbeschermde opslag. Je hebt het over RAID, maar je spreekt niet over welke RAID-engine je wilt gaan gebruiken. Daar houden 'Windows-gebruikers' maar zelden rekening mee; dat de ene RAID-implementatie de andere niet is. Zo is Linux software RAID absoluut superieur aan de RAID-mogelijkheden onder Windows; wat vaak op FakeRAID neerkomt ofwel Hardware RAID wat ook niet zaligmakend is.

Onder Windows heb je geen betrouwbare RAID5 mogelijkheden. Zelfs met de duurste controller, battery backup unit, speciale TLER schijven en ECC geheugen zit je nog lang niet aan de betrouwbaarheid van open source alternatieven. Laat staan ZFS; dat verschil is dag en nacht.

Je spreekt verder over performance. Over het netwerk moet je denken aan tussen 70 en 110MB/s. Denk niet dat je 110MB/s lineair gaat halen, zeker niet met een transactioneel filesystem als ZFS. Als je met 70MB/s niet tevreden bent, dan zou ik geen gigabit NAS kopen. Misschien is een DAS (Direct Attached Storage) dan nog een betere oplossing.

Je huidige Green schijven zijn in elk geval niet geschikt voor Windows RAID-arrays. Onder Linux en ZFS is dat geen probleem en wil je liever TLER uitgeschakeld hebben (al zijn de meningen hierover verdeeld).

Verder lees ik weinig over betrouwbaarheid. Zeker omdat je Windows kennelijk hoog in het vaandel hebt staan doe je er misschien goed aan om de gebreken en tekortkomingen van legacy RAID en legacy filesystems door te nemen. Want de verschillen zijn op dit vlak enorm groot.

Er zijn genoeg ZFS platforms met zowel Plex, Torrent als virtualiatie addons. ZFSguru in elk geval, maar de rest kun je ook evalueren. Je hebt FreeNAS al geprobeerd; is dat iets wat binnen je comfortzone ligt? Zo ja, kun je dat serieus overwegen, aangezien ZFS betekent dat je voor betrouwbare opslag kiest. Kies je voor Windows, dan is dat eigenlijk per definitie niet meer zo. Althans op dit moment.

[Genji]

Interessant topic! Ben benieuwd waar het naartoe gaat, want ik zit met ongeveer eenzelfde overweging te worstelen.

Wat ik uit de TS haal (en dan moet je me maar even aanvullen waar nodig, PuijkeN):

- Je wil een betrouwbare opslagoplossing voor (media)bestanden
- Je wil de mogelijkheid om je media vanaf de server te streamen naar een Plex mediaplayer
- Je wil kunnen downloaden vanaf de server (en dat moet bij voorkeur toegankelijk zijn (ai: makkelijk in gebruik)
- Je wil performance in je transfersnelheden
- Je wil een zuinige oplossing

Volgens mij zijn dit je wensen, toch (correct me if I'm wrong, please)?

Voordat we in de adviesmodus schieten heb ik toch wat punten waar je m.i. nog even over na kan denken:

Allereerst de betrouwbaarheid: Daar kan ik weinig meer aan toevoegen dan aan bovenstaande post van CiPHER: Wil je betrouwbaarheid, kies dan ZFS. Ik heb er nog geen ervaring mee, maar wat ik heb gelezen in het ongelofelijk uitgebreide topic van CiPHER is dat wat je wil hebben. En dat betekent direct ook een aantal beperkingen (bv downloaden via nieuwsgroepen. daar is, voor zover ik weet, nog niet helemaal goede ondersteuning voor).

Verder, waarom wil je zo graag die hoge transfer rates? Wat gaat jou dat in de praktijk opleveren denk je? Dat is gewoon uit interesse hoor, want als je lokaal op de server downloadt, hoe vaak ga je dan nog grote bestanden vanaf je game PC naar de server verplaatsen? En als je dat dan een keer doet, hoe belangrijk is die extreme performance dan nog voor je? Ik heb hier bv een Synology DS212j staan. Ik download op mijn pc, want de performance van Sabnzbd vind ik maar matig op dat apparaat, en het verplaatsen van een mkv van +/- 9 GB kost me +/- 4 tot 5 min in een Gb netwerk. Is het echt het geld en de moeite waard om het maximale uit je netwerk te willen halen voor die functionaliteit? Want je kan ook overwegen om boven een Synology NAS neer te zetten met 2 bays voor je media streaming. Zuinig, enigszins betrouwbaar in RAID, ondersteuning voor torrents en Sabnzbd, plex ondersteuning en niet te duur. De performance hangt af van de versie, de j variant is budget en niet snel, maar de nieuwere versies (bv 214) zijn al weer een stuk sneller. Kost echter ook wat meer..

Wil je echt een zuinige zelfbouw server, kijk dan eens in dit, of dit topic. Daar staan systemen die onder load tot 40W gaan en idle slechts 9W trekken. Prima om 24/7 aan te hebben staan denk ik, wat weer een andere kijk kan geven op je wens om snel op te starten (en een SSD dan overbodig maakt).

Je hebt FreeNAS al een keer geprobeerd, ik ben benieuwd of de toegankelijkheid je aanspreekt. Even los van de performance (ik heb uit de post van CiPHER begrepen dat je dan minimaal 8, of liever 16GB intern geheugen nodig hebt). Hoe makkelijk vond je het in gebruik? En voldeed het aan je eisen?

Ik ben zelf ook een zelfbouw NAS obv FreeNAS aan het overwegen. De beperkte ondersteuning voor Sabnzbd en het feit dat ik totaal onbekend ben met het platform, de techniek en de shell heeft me tot op heden nog tegengehouden. Maar dat is vooral een kwestie van proberen denk ik..

De hardware heb ik al wel in gedachten. Ik zat dit te overwegen (waarbij de SSD optineel is):

#	Product	Prijs	Subtotaal
1	Intel Pentium G2020 Boxed	€ 45,95	€ 45,95
1	ASRock B75 Pro3-M	€ 54,30	€ 54,30
1	Silverstone SST-CP06 4x SATA	€ 8,02	€ 8,02
1	Scythe Slip Stream SY1225SL12L, 120mm	€ 5,69	€ 5,69
1	Kingston ValueRAM KVR16N11/8	€ 64,05	€ 64,05
1	be quiet! Pure Power L7 300W	€ 35,95	€ 35,95
1	Crucial v4 SSD 2.5" 9.5mm 64GB	€ 65,28	€ 65,28
Bekijk collectie Importeer producten		Totaal	€ 279,24

Ik heb 2x 1TB en 2x 2TB schijven liggen die hier in komen te hangen.

Misschien dat de informatie in mijn post niet helemaal is wat je exact hebt gevraagd, hoop ik wel dat ik je hiermee een beetje op weg heb kunnen helpen in het prioriteren van je wensen.

@ CiPHER: Je hebt in je ZFS topic 2 zelfbouwsystemen beschreven, maar dat zijn uitersten. Een budget variant en een extreme krachtpatser. Als je, in het licht van bovenstaande wensen, een advies zou moeten geven voor hardware wat iets meer biedt dan de brazos tov de cpu kracht en de upgrademogelijkheden, maar niet gelijk een supercomputer is (even gechargeerd ), wat zou dat dan zijn? Zit ik dan in de goede richting met mijn lijstje?

[Jolke]

PuijkeN schreef op vrijdag 15 november 2013 @ 16:12:
Verder zou ik graag overstappen naar een RAID/ZFS systeem omdat ik bij uitval van één schijf dit zou kunnen opvangen (RAID5 of RAIDZ). Ander voordeel is dat ik de beschikbare ruimte kan benaderen als 1 grote schijf.

Niet om bij de hand of flauw te doen oid, maar waarom wil je nou eigenlijk RAID hebben? Als het om het 'één grote disk hebben' gaat, dan kan je dit ook onder Windows oplossen door schijven als folders aan een andere schijf te mounten. Voro de hobby en fun? Cool... I'll start following this thread

[Genji]

Jolke schreef op zaterdag 16 november 2013 @ 16:48:
[...]


Niet om bij de hand of flauw te doen oid, maar waarom wil je nou eigenlijk RAID hebben? Als het om het 'één grote disk hebben' gaat, dan kan je dit ook onder Windows oplossen door schijven als folders aan een andere schijf te mounten. Voro de hobby en fun? Cool... I'll start following this thread

Als ik het goed lees wil hij graag 1 grote opslagschijf hebben, waarbij hij een disk makkelijk kan vervangen bij uitval zonder dat zijn data verloren gaat. Dan is RAID5 dus zeker een mogelijke oplossing.
De optie die jij noemt biedt geen bescherming bij uitval van 1 schijf.

[Q]

Dit zijn je requirements:

- Storage moet ergens anders staan vanwege het lawaai
- wil data niet verliezen bij defecte disk
- media server

Het wordt inderdaad sowieso dan een NAS. Ofwel kant-en-klaar kopen, of zelfbouw.

Je hebt hierbij een handicap die je keuzes beperkt: je hebt op dit moment weinig tot geen ervaring met Linux of FreeBSD. Je kunt een kant-en-klare distro kiezen als FreeNAS of ZFSGuru, maar ik weet niet of je dan nog een plex media server kunt draaien. Als met deze oplossingen eens een keertje iets mis gaat, red je het dan als je onder de motorkap moet werken?

Misschien is het beter dat je kijkt naar een goede kant-en-klare NAS. Daar betaal je voor maar je krijgt er ook wat voor terug.

In je huidige situatie kun je ook overwegen om een goede hardware RAID controller kopen zoals die van het werk en daar een windows pc omheen bouwen. Dat geeft al veel meer bescherming dan dat je nu hebt (niets).

Als je het echt mooi wilt doen kun je zelf iets bouwen op basis van BSD en Linux, wat je ook een hardware controller scheelt, maar dan zul je wel eerst ervaring moeten opdoen met Linux/BSD. Beiden ondersteunen ZFS, alleen FreeBSD loopt ((veel) verder) voorop qua features en zal ook betere performance geven (gokje).

Wat je ook kiest (GEEN WINDOWS SOFTWARE RAID!) qua RAID, het is veel beter dan wat je nu hebt: niets.

[ Voor 14% gewijzigd door Q op 16-11-2013 19:33 ]

[GoT]

Je kan het zo duur maken als je zelf wilt, het is jouw geld.
Maar zo heb ik het gedaan: http://tweakers.net/gallery/sys/217295
1x 128GB SSD voor snel kunnen opstarten van Windows en wat bestanden voor IIS.
1x 1TB Velociraptor om torrents mee te kunnen downloaden.
Een stuk of wat 3 TB Red voor opslag, allemaal in JBOD.
Als een HDD stuk gaat: boeiuh! ik download wel opnieuw.
Ik kan ermee downloaden / films streamen / webserver-en / etc. etc.
In de meterkast gepropt, zodat ik er geen last van hebt en het 24x7 aan kan staan.

Maar je kan er ook een hardware RAID controller in stoppen, RAID10+spare/ZFS, redundante voeding, etc. etc.
Jouw geld, jouw feestje.

[BartNL]

PuijkeN schreef op vrijdag 15 november 2013 @ 16:12:
--> RAID in combinatie met desktopschijven zou slecht zijn omwille van het ontbreken van TLER --> algemene conclusie: liever geen RAID

En belangrijker, welke combinatie zal het meest betrouwbaar zijn en het makkelijkste werken? (al dan niet met virtualisatie).

de TLER eis bij hardware raid is bij thuisgebruik geen harde eis. Wel zul je regelmatig moeten controleren of de arrays nog betrouwbaar zijn (scrubben). Draai zelf al jaren met consumer schijven en de uitval is beperkt. Sinds een half jaar 48 schijven aan een areca controller en nog geen enkele schijf uit de array gevallen.

ZFS is qua techniek verder en beter dan raid maar nadeel is dat het niet goed onder gangbare OS-en wordt ondersteund. Als je een pure NAS wilt is dat geen probleem omdat je dan zfsguru e.d. kunt gebruiken en daar draaien ook allerlei uitbreidingen op.
Makkelijkst werken is meestal Windows en dan zit je nog vast aan een hardware controller. In jouw situatie kan de genoemde controller prima voldoen. Lijkt mij dat ze je op je werk ook meer over deze controller kunnen vertellen.

1GBit voltrekken moet met 5 schijven in moderne computer met zowel ZFS als hardware raid lukken. Een beetje Tweaker kiest voor ZFS

[PuijkeN]

Alvast bedankt iedereen voor de antwoorden en uitleg. Nog even wat extra uitleg en informatie na het lezen van de reacties.

Performance: is uiteindelijk geen topprioriteit meer. Indien ik kan downloaden op de NAS zal er zoals Genji reeds zegt weinig via het netwerk gekopieerd moeten worden. Een gigabit verbinding vol krijgen is dus zeker geen vereiste.

Betrouwbaarheid: uitval van 1 schijf kunnen opvangen zonder dataverlies. Vandaar dat ik al snel bij RAID/ZFS oplossingen aan kwam.

Zuinig: extra pluspunt want een NAS-server zal meestal wel een stuk zuiniger zijn dan een game pc. Mijn gamebak trekt momenteel ongeveer 100-110 Watt uit het stopcontact wanneer ik iets stream naar Plex (zonder transcoding). Een servertje zal dit met een stuk minder energie kunnen doen denk ik.

Plex server en downloaden: aangezien er momenteel alleen officiële ondersteuning is voor Windows en Linux voor Plex Media Server leek het mij handig om een Windows machine te hebben hiervoor. Ik heb hier de nodige ervaring in en dit zou de omschakeling naar een NAS zeer eenvoudig maken. Ik heb in FreeNAS de Plex installatie getest en dit leek wel correct te werken. Ik maak me echter zorgen om eventueel toekomstige updates en de support daarvan. Als een gewone officiële versie kan geïnstalleerd worden is dit voor mij een extra pluspunt. Verder download ik via filehosts (met het programma JDownloader). Het hoeft niet automatisch te gaan, ik copy/paste gerust zelf de links in JDownloader en zet de download aan. Vandaar mijn voorkeur naar een Windows oplossing omdat dit via RDP gewoon makkelijk werkt (resolutie wordt aangepast, klembord wordt makkelijk doorgegeven). VNC werkt in mijn ogen net iets minder vlot.

Ik heb in ieder geval wat ervaring met Linux. Vroeger ook nog wel met FreeBSD gespeeld maar daar weet ik weinig meer over. Echter is mijn ervaring momenteel beperkt tot Ubuntu installatie's, of Debian installatie's die beide makkelijk beheerd worden via bv. Webmin. Het gaat dan meestal om webservers of reverse proxy's. Qua storage mogelijkheden ben ik een newbie op vlak van Linux/BSD.

Ik ga in ieder geval de overige oplossingen (NAS4FREE en ZFSGuru) eens testen. Indien ik bijvoorbeeld een Windows bak kan virtualiseren op de NAS lost dit onmiddellijk bijna al mijn "problemen" op in verband met een Plex Media server en een downloadbak. Het gebruiksgemak van FreeNAS vond ik doenbaar, via de webinterface kon alles makkelijk ingesteld worden. Hier en daar enkele zaken moeten opzoeken, maar ik denk dat dit wel normaal is wanneer je aan iets compleet nieuw begint.

Het is jammer dat Linux nog wat achter loopt met de ondersteuning van ZFS. Aangezien ik hier wel wat ervaring mee heb en er dan een volwaardig OS geinstalleerd staat met veelal meer mogelijkheden. Ik weet niet hoe verstandig het is om bijvoorbeeld een Ubuntu server te bouwen met ZFS. Ik lees dat dit eigenlijk nog niet helemaal op punt staat dus vraag me af of dit wel te doen is. Daarom spreken de kant-en-klare oplossingen, met een betere implementatie van ZFS, zoals FreeNAS spreken me in ieder geval wel aan!

En om de vraag van Jolke te beantwoorden, het gaat om zowel het hebben van één grote disk als de hobby. Het bezig zijn, de server bouwen en een mooie configuratie hebben. We zitten niet voor niets op Tweakers. Ik werk dagelijks met HP servers, waarop via Xenserver Windows servers draaien. Maar dit is met de ingebouwde hardware RAID-controllers. Er is dus weinig onderzoekwerk aan en het werkt gewoon allemaal out of the box. Ik leer graag nog iets bij en probeer altijd leuke configuraties te hebben. Ik wil nu enkele dingen aanpassen en kwam telkens terug bij een zelfbouw NAS met ZFS. Iets waar ik momenteel nog weinig ervaring mee heb

[ Voor 4% gewijzigd door PuijkeN op 17-11-2013 15:19 ]

[C0rnelis]

PuijkeN schreef op zondag 17 november 2013 @ 15:15:
Zuinig: extra pluspunt want een NAS-server zal meestal wel een stuk zuiniger zijn dan een game pc. Mijn gamebak trekt momenteel ongeveer 100-110 Watt uit het stopcontact wanneer ik iets stream naar Plex (zonder transcoding). Een servertje zal dit met een stuk minder energie kunnen doen denk ik.

Ik weet zelf helemaal niets van power management in ZFSguru/FreeBSD maar ik heb 6 7200rpm schijven in een RAID-Z2 pool en heb wel eens gemeten wat het systeem zoal verbruikt. Het enige wat ik bij iedere reboot van m'n NAS instel is de Advanced Power Management instelling (APM) op 128: maximum power savings without spindown.

Bij het inschakelen van de NAS een piek van 120 watt bij 't aanslingeren van fans, zakt daarna 71, korte piek naar 94 net voordat de web-gui beschikbaar is, zakt hierna langzaam naar 62 steady. Dit is volgens mij met 6 schijven aan - zonder downspin.
6 schijven in spindown: 32 watts.
3 schijven in spindown: 51 watts. Dit is zonder enige i/o.

Als ik een iperf testje run stijgt het verbruik naar 74 watts.
Bij kopieren van meerdere bestanden over samba dan stijgt gemiddelde verbruik naar 85 watt (piek op 94).
Wanneer ik een blu-ray mkv van 20 GB uitlees gebruikt m'n NAS 80 watt (piek op 87). Bij het terugschrijven van datzelfde bestand 88 watt met een piek van 101.
Tijdens een pool-benchmark van ZFSguru piekt ie naar 95 watt.

Tijdens deze testen (gedaan bij aanschaf van de NAS) draaide ik ZFSguru nog vanaf een usbstick in m'n case maar tegenwoordig draait ZFSguru op de pool zelf.

[Jolke]

PuijkeN schreef op zondag 17 november 2013 @ 15:15:

En om de vraag van Jolke te beantwoorden, het gaat om zowel het hebben van één grote disk als de hobby. Het bezig zijn, de server bouwen en een mooie configuratie hebben. We zitten niet voor niets op Tweakers. Ik werk dagelijks met HP servers, waarop via Xenserver Windows servers draaien. Maar dit is met de ingebouwde hardware RAID-controllers. Er is dus weinig onderzoekwerk aan en het werkt gewoon allemaal out of the box. Ik leer graag nog iets bij en probeer altijd leuke configuraties te hebben. Ik wil nu enkele dingen aanpassen en kwam telkens terug bij een zelfbouw NAS met ZFS. Iets waar ik momenteel nog weinig ervaring mee heb

Duidelijk, ik ga meekijken/luisteren - ik leer ook graag iets bij, ook al heb ik het niet meteen zelf nodig. Met name de mogelijkheden van ZFS vind ik erg interessant.

[xAn52]

Heb je XPenology al eens bekeken?
Het Synology OS voor op een PC? Ik draai het in combo met een i3 3220, 6GB en 2*500GB, 3*1TB en 2*2TB disken aan een z77 bord. Alle voordelen van een PC en (bijna, want loopt iets achter) alle voordelen van een Synology NAS.
Ik heb het draaien met Plex Media Server, CouchPotato, SabNZB, SickBeard en nog wat apps.
CPU nooit boven de 30% (dus een Pentium zou prima kunnen) en RAM is ook eigenlijk te veel.
Maar als je dan eens alles tegelijk doet levert dat ook geen ellende op.