Home Media, Internationale File Server & Back-Up systeem.

[TerrorForceNL]

Beste heren & dames Tweakers,

Sla deze alinea over als je het hele verhaal aandurft: Om te beginnen met de TL;DR: Ik wil een multi-functionele server hebben staan die gemakkelijk wereldwijd bereikbaar is, veel opslagruimte heeft en het liefst enigzins modulair is, met interne faal-bestendigheid (Raid6?), zeer toekomstbestendig, zo zuinig mogelijk, door van alles te bereiken zijn (telefoons, tablets, mac's, pc's, netwerk radio's, game consoles etc). Het mag zo'n 2500 euro kosten (incl SSD/HDD's) en er moet minimaal 20TB op kunnen. Wat moet ik weten? Wat moet ik kopen?

De afgelopen paar dagen is het pijnlijk duidelijk geworden hoe zo'n amateur ik eigenlijk ben. Mijn back-up system dreigt te falen (een WHS EX490, Home Server), mijn vader komt blijkbaar al jaren niet uit de eeuwen oude vraag "hoe maak ik 'n back up" ondanks dat dit zelfs off-site met de WHS vrij makkelijk had moeten gaan, en mijn broertje zat met hetzelfde probleem en zijn HDD is nu, zoals de Russen zeggen; Kaputski, comrad!

Op korte termijn redt ik mij wel, dankzij de vlotte hulp van mede Tweakers... Op lange termijn heb ik een aantal wensen! Deze wensen spelen al langer maar een druk bestaan kom ik hier telkens maar niet aan toe (same ol', same old!)... Nu begint de sterfelijkheid van mijn apparatuur te spelen en wil ik hierop voor bereid zijn, vandaar dit topic. Voor mij is dit een monster project, aangezien ik eerst veel kennis op zal moeten doen om het systeem kundig te kunnen beheren.

Ik heb de afgelopen paar uur topics zoals DIY Nas, Storage Showoff topics, /r/buildapc en enkele maanden waard aan BestBuy lijsten van TomsHardware, Tweakers etc bekeken van HTPC's & Servers... en wordt niet veel wijzer dan; Vele wegen leiden naar Rome en Door het bos de bomen niet meer kunnen zien. Te veel info, te weinig tijd. Ik hoop dan ook op z'n minst hier in de juiste (of beter gezegd EEN juiste) richting in gestuurd te worden.

Ik ben voor alles in, dus laat JULLIE dromen hier op los en denk met me mee.

OS: ZFS, ESXi, standaard windows of een server edition, Linux, BTRFS, OpenIndiana? Keuze in overvloed en waar je op het internet ook komt, iedereen spreekt ergens wel vol lof over en van de kleinste tot de meest brute bakbeesten wordt de één maar ook de ander gebruikt. Wat is wijsheid?

Hardware & Software: Wat me vooral duidelijk wordt is dat de wensen voor het systeem; "wat moet ie kunnen dan?", dicteren hoe het beestje eruit gaat zien qua harde & zachte waren. Laat me daarom even kort omschrijven wat de wensen zijn.

1a. Gebruiksvriendelijke; familie & vrienden moeten zonder al te veel moeite kleine dingen kunnen doen... een back-up maken, een filmpje downloaden/streamen, een playlist van me afspelen, foto's erop kunnen gooien vanaf bijv hun mobiel of eraf kunnen halen met een laptop in Australië.
1b. BRING IT SON: Voor mijzelf maakt het niet uit, ik leer graag hoe ik het meeste uit een apparaat kan halen, voor mij hoeft het NIET gebruiksvriendelijk te zijn, zolang ik maar on-site & off-site waardes en stats kan bekijken vindt ik alles prima.
2. Zuinig; Het apparaat zal misschien 3 uur per dag worden aangesproken, hoe zuiniger die is des te beter.
3. Opslag: De huidige WHS begint vol te raken met intern 6.4TB & extern 8TB... Dus best wat meer dan dat.
4. Back-Up-Ception! Ik wil van alle computers van in ieder geval me familie & werk kunnen back-up'n: 5 prive PC's, 2 zakelijke PC's, 2 Mac's, 1 Macbook, 2 zakelijke laptops. Vanaf verschillende locaties, 1x per week voor de meesten, 1x per dag voor de zakelijke units.
5. File server: Makkelijk wereldwijd bij mijn bestanden kunnen.
6. Toegankelijkheid: Alles wat bluetooth of WiFi heeft moet IETS met het apparaat kunnen (on-site)... een radio die internetzenders heeft of een playlist kan afspelen... een mobiel die makkelijk bestanden op de server kan zetten... een tablet die een aflevering Community kan afspelen...
7. Modulair of Makkelijk uit te breiden: In het Storage Showoff topic zit DEZE van Hakker. Dit is dus geilheid ten top, verlangt lage instapkosten want er kan later nog een stapel aan schijven bij.
8. Toekomstbestendig: Komt ook een beetje terug op Modulair, alleen de kast hoeft maar vast te zijn... de rest mag elke paar jaar gewisseld worden, wanneer nodig uiteraard.
9. Betrouwbaar: Maximale (of in ieder geval bovengemiddelde) data bescherming alstublieft! Er moeten wel een paar schijven uit kunnen vallen voordat er problemen ontstaan.

Overige Mogelijkheden: Veelal waar ik in het verleden tegenaan ben gelopen die me zeer interessant lijken, maar waar ik niet genoeg over weet of dit a) handig is, b) uberhaubt te implementeren is. Zoals:
# Roaming Profiles; in kunnen loggen vanaf een domme-unit. Dit gebeurd alleen on-site
# Webhosting; simpele website bouwen voor gestroomlijnde toegang tot de server, maar ook overal op de wereld makkelijk bestanden up kunnen loaden en gelijk kunnen tonen. Inloggen en uploaden voor familie leden etc lijkt me ook handig. Voor alle off-site wensen.
# Remote access; in kunnen loggen van veraf, mocht er wat mee zijn, gelijk wat kunnen controleren. Lijkt me appeltje eitje te moeten zijn. Voor noodzakelijk off-site bewerkingen.
# Offsite back-up module die back-ups van me back-ups maakt, om even terug te komen op Back-up-ception! Dit wordt waarschijnlijk me huidige server, die dan bij m'n broertje thuis komt te staan. Als dit uberhaubt kan.

Om mij even te houden aan het lijstje van dit sub-forum:

Wat wil je doen met het systeem: Er gaat veelal bedraad, via een switch of 2, contact gelegd worden met PS3 (later 4), Wii-U en Xbox 360 (en de nieuwe), een hometheatre systeem en TV in de woonkamer, 3 PC's (2 zakelijk, 1 privé), een TV & een netwerk radio in het kantoor & voor muziek een philips media-module in de badkamer, de slaapkamer en de keuken. Tevens back-ups maken on-site en off-site en files wereldwijd beschikbaar hebben (voor the chosen few, familie & vrienden). edit; Alles is thuis CAT6a aangelegd maar wordt voorlopig nog niet benut op maximale capaciteit door achterblijvende switch, router & netwerk kaarten (300mbs draadloos, 1000mbs bedraad max onder optimale omstandigheden). Headless gebruik is wenselijk (remote erin), maar moet wel de optie hebben om monitor & rand apparatuur te gebruiken.

Wat mag het kosten? Ik budgeteer op 1000-1200 euro voor hardware excl. SSD/HDD's, als er meerdere raid controllers nodig zijn (zeer waarschijnlijk) dan moet het modulair en investeer ik gelijk 1x in een extra module van maximaal nog eens 1000 euro.

Componenten die je mee neemt? Nee, alles nieuw of ZGAN

Wat denk ik nodig te hebben? Afhankelijk van wat jullie bij mijn wensen vinden passen; Buiten de standaard case (of rack), mobo, CPU, PSU om? Raid controller, stapel harde schijven, veel geheugen, een tweede hypotheek.

Merk voorkeuren? Nee, maar ik stel een hoge prijs/kwaliteit verhouding enorm op prijs en gelukkig betaal je bij PC componenten niet het tweevoud voor alleen een label.

Bepaalde eisen/wensen? Zie bovenstaande; Zo zuinig mogelijk, toekomstbestendig, makkelijk uit te breiden en gebruiksvriendelijk.

Het zal voor de doorgewinterde Tweakers vast heel dom klinken, maar ik doe me best om er genoeg over te leren dat ik het zelf werkend kan krijgen... Het interessante van alle info tot nu toe is de verscheidenheid waarmee o.a. de grote jongens binnen het Storage Showoff topic succesvolle systemen neerzetten met soortgelijke wensen... De mix van hardware & software moet daarentegen wel perfect zijn en dat daarvoor weet ik nog te weinig. Ik moet een zetje in de juiste richting hebben!

Ik herhaal; Ik ben voor alles in, dus laat JULLIE dromen hier op los en denk met me mee.

Alvast bedankt & help mij hier een mooi werk van te maken!

PS: Heb al gekeken naar een Synology DS3611xs, lijkt me duur, leer ik weinig van haha
PPS: Ik sta open voor een multi-boot, virtual machines.. whatever machine! Laat je fantasie erop los en ik leer wel hoe ik het realiseer en voel je vrij leuke ideeën toe te voegen!

edit; typefout

[ Voor 9% gewijzigd door TerrorForceNL op 17-05-2013 02:47 ]

[kroegtijger]

Na je post doorgelezen te hebben lijkt het me handig om eerst even wat structuur aan te gaan brengen in de omgeving die je hebt. Voor zover ik begrijp uit je post heb je dus meerdere client-machines met verschillende OS-en, die allemaal dezelfde storage, services etc moeten kunnen benaderen, waar een domeintje op draait met de nodige policy's voor folder-redirection, sync-settings, roamings etc.

Het eeste waar ik dan aan denk is een Windows DC (2008r2 of 2012; eventueel een SBS2011). Daarmee kun je in ieder geval voor de windows-based clients alles regelen wat je zou willen in dat opzicht. In combinatie met een SSL-VPN oplossing (bijvoorbeeld via een Fortigate of vergelijkbaar device) zou je dan ook buiten je LAN toegang kunnen verschaffen. Doordat je alle data op een centrale plek hebt, is het beheren (denk o.a. aan de backup) een heel stuk eenvoudiger.
Voor de backup kan je dan een van de vele backup-applicaties nemen die hiervoor beschikbaar zijn, maar het meest gebruikt in dergelijke situaties is toch wel BackupExec (SBS-versie is dan meestal een goede optie).
Hoe e.e.a met de mac's geregeld moet worden wat dat aangaat kan ik helaas niet vertellen; ik heb geen enkele ervaring met mac wat dat aangaat, maar er zal vast wel iets vergelijkbaars voor te bedenken zijn.

Ik zou gegeven dat je uitbreidbaarheid hoog hebt staan, kiezen voor een aparte storage en aparte server, waarbij je de storage op iSCSI aan je server aanbiedt. De server zou dan ESXi kunnen krijgen, en daarop je OS (ESXi eronder, zodat je deze makkelijk in geval van problemen kan verhuizen, of er een extra machientje naast kan bouwen).

Uitgaande van een dergelijk systeem kunnen we daarna de benodigde hardware erbij gaan zoeken. Ik ben bang dat je een dergelijke omgeving (en dan met name de storage) voor dit budget niet gaat redden, maar er is wel een en ander mogelijk. Zo kun je voor een (relatief) zeer lage prijs nog wel een refurbished storage-device krijgen. Een knappe NAS van pakweg 12 bays waar je 4TB SATA-disks in kan steken levert je met 6 disks op raid5 20TB op, en heb je nog eenzelfde hoeveelheid aan expension-ruimte over. Kies bij voorkeur dan een NAS met 2x Gb-NIC die je kan teamen, zodat je met 2Gbps over iSCSI kan verbinden naar je server. De server kan je dan voorzien van een 120GB SSD (of 2x 120GB op Raid1) waar je ESXi en je OS op zet.
Afhankelijk van de services die je erop draait denk ik dat je toch wel behoorlijk wat geheugen nodig gaat hebben. Zeker als er nog Exchange of SQL op komt te draaien zou ik voor 16GB of meer kiezen.
Wat betreft CPU heb je waarschijnlijk geen heel stevige CPU nodig; een pricewatch: Intel Xeon E5620 Boxed zal denk ik al wel volstaan voor dit doeleinde. Ook hiervoor kan je, mocht het qua budget niet lukken, naar refurbished hardware kijken. Mocht up-time erg van belang zijn, rust dan zo veel mogelijk redundant uit.

Als je niet zo heel veel-eisend bent zou je ook zelf wat in elkaar kunnen gaan sleutelen, maar dat zou ik voor een zakelijke oplossing absoluut niet adviseren (maar ik zou überhaupt de prive-omgeving en de zakelijke omgeving gescheiden houden... Waarom niet zakelijk naar een hosted oplossing en privé zelf wat in elkaar draaien?).

[Joenino]

Ik denk dat je je budget van 2500 aan de te lage kant is aangezien 6 x 4T (24/7 schijven) al zo 250-350 per stuk zullen zijn. Dan zit je dus al rond de 1800. Komt vervolgens de server\nas er nog bovenop. Nas valt voor mij eigenlijk al af vanwege alle andere taken die je wilt gaan draaien. Dus het wordt een server waar je minimaal 6 schijven in kwijt kunt. Dan komen de licentie kosten er nog bovenop van alle benodigde applicaties. In geval van vmware kost het je ook nog 1 licentie per virtuele machine....

Om hier een heel verhaal te gaan houden waar kroegtijger wel de moeite voor heeft genomen. Vertel eens kort wat je nu al hebt in een lijstje. Zet hier verder in wat je precies wilt hebben/aan denkt te willen hebben. En wat het mag kosten per onderdeel. Je zegt bovenin 2500 en later heb je het over 1000.

Wil best het 1 en het ander uitzoeken voor je maar dan moet ik wel weten wat je gaat hergebruiken en of nieuw aan wilt schaffen.

Wat ik iig zou doen aan de hardware kant is iets van een SAN (2ehands) met ESXi host oplossing waar je verschillende VM's op aangaat maken. Het SAN zou ik dan als backup opslag gebruiken en de host zo kiezen dat je daar genoeg ruimte op hebt voor alle VM's.

[kroegtijger]

Joenino schreef op vrijdag 17 mei 2013 @ 13:27:
Ik denk dat je je budget van 2500 aan de te lage kant is aangezien 6 x 4T (24/7 schijven) al zo 250-350 per stuk zullen zijn. Dan zit je dus al rond de 1800. Komt vervolgens de server\nas er nog bovenop. Nas valt voor mij eigenlijk al af vanwege alle andere taken die je wilt gaan draaien.

Je kan natuurlijk een NAS prima hiervoor nemen (geeft je meestal betere performance voor je storage-array en biedt meer uitbreidbaarheid). Dit is uitsluitend voor de storage die je over iSCSI aan de server kan aanbieden. De server doet vervolgens de benodigde services afhandelen.

Dus het wordt een server waar je minimaal 6 schijven in kwijt kunt. Dan komen de licentie kosten er nog bovenop van alle benodigde applicaties. In geval van vmware kost het je ook nog 1 licentie per virtuele machine....

Je kan natuurlijk gewoon een vSphere 5 (ESXi) nemen; kost je helemaal niets. Dan komen er nog wel natuurlijk de windows/applicatie-licenties bij, maar VMWare hoeft je niets te kosten. Je gebruikt toch slechts 1 host, dus een vCenter, vMotion etc gebruik je allemaal niet.

Om hier een heel verhaal te gaan houden waar kroegtijger wel de moeite voor heeft genomen. Vertel eens kort wat je nu al hebt in een lijstje. Zet hier verder in wat je precies wilt hebben/aan denkt te willen hebben. En wat het mag kosten per onderdeel. Je zegt bovenin 2500 en later heb je het over 1000.

Als ik TS goed begreep is het €2500,- totaal, en 1000,- voor de storage. Aan alle kanten schiet dat te kort bij een goede professionele setup; zelfs met refurbished hardware. Je komt (als er geen rek in het budget zit) hoe dan ook dus uit bij consumenten-hardware wat qua functionaliteit niet direct een probleem hoeft te zijn, maar qua betrouwbaarheid voor een bedrijfs-situatie verre van ideaal is. Als uptime een issue is, zou ik dit dan dus nooit adviseren.

Wil best het 1 en het ander uitzoeken voor je maar dan moet ik wel weten wat je gaat hergebruiken en of nieuw aan wilt schaffen.

Wat ik iig zou doen aan de hardware kant is iets van een SAN (2ehands) met ESXi host oplossing waar je verschillende VM's op aangaat maken. Het SAN zou ik dan als backup opslag gebruiken en de host zo kiezen dat je daar genoeg ruimte op hebt voor alle VM's.

Waarom een SAN? Dat biedt imho in deze opstelling geen meerwaarde. Een SAN wordt interessant als je meerdere hosts hebt, zodat je dus ook je VM's altijd vanaf elke host kan benaderen en dus heel simpele migraties van de ene naar de andere host kunt doen. In dit geval speelt dat totaal niet; dan kan je dus net zo goed voor een NAS over iSCSI of lokale storage kiezen. Dat is aanzienlijk goedkoper. Wel zou ik in het geval van een NAS investeren in een goede managed switch zodat je een apart VLAN ervoor kan aanmaken, en je met 2x 1Gbps er naartoe kan connecten. (overigens zou ik altijd investeren hierin. Een goede switch is de basis voor je netwerk, en als dat al niet goed is, zal de rest nooit goed performen. )

[Joenino]

Ik dacht meer aan een SAN aangezien je aparte luns aan kan maken. Aangezien TS meerdere besturingssystemen moet backuppen had ik voor elke apart besturingssysteem 1 lun voor ogen. Misschien dat dit met een NAS ook kan maar heb zelf weinig ervaring met een NAS wel met SAN.

Is het ook niet zo dat een SAN betere performance heeft dan een NAS? En ook meer uitbreidingsmogelijkheden? Zoals dual controller, dual PSU meerdere kabinetten indien uitbreiding nodig is.

Overigens had ik het niet over de ESXi licentie maar over de windows en backup software licenties:P Ik weet dat je ook ESXi free hebt welke prima voldoet voor 1 host.

En inderdaad het werken met VLANs lijkt mij ook een vereiste om zakelijk en prive gecheiden te gaan houden.

[kroegtijger]

Joenino schreef op vrijdag 17 mei 2013 @ 15:08:
Ik dacht meer aan een SAN aangezien je aparte luns aan kan maken. Aangezien TS meerdere besturingssystemen moet backuppen had ik voor elke apart besturingssysteem 1 lun voor ogen. Misschien dat dit met een NAS ook kan maar heb zelf weinig ervaring met een NAS wel met SAN.

Waarom verschillende OSen toepassen?? je kan met 1 server af; de profiles maak je roaming naar de server, en via GPO kan je folder redirection voor je data doen. Om mobile devices ook offline te laten werken kan je in de GPO offline Folder sync op de OU van je mobiele clients instelllen. Wat moet ik dan nog met meerdere OSen??

Is het ook niet zo dat een SAN betere performance heeft dan een NAS? En ook meer uitbreidingsmogelijkheden? Zoals dual controller, dual PSU meerdere kabinetten indien uitbreiding nodig is.

Dat kan ook allemaal op een NAS natuurlijk, alleen is het niet heel gebruikelijk om het daar op toe te passen aangezien dat pas interessant wordt bij grote(re) omgevingen dan in dit geval speelt en je dan toch al gauw voor een SAN kiest omdat je dan meerdere hosts gaat gebruiken. In dit geval, met 1 host en wat storage, biedt het simpelweg te weinig voordelen en wegen de kosten dan niet meer op tegen hetgeen je aan het bouwen bent. Wat betreft de performance maakt het op zich weinig uit, ook weer omdat je hier over maar 1 host praat en je dus nooit heel extreme disk-activiteiten zal hoeven te verwachten. Als je nou met 3 of 4 VM's direct je storage aanspreekt en disk-intensieve handelingen gaat doen, dan wordt het een ander verhaal, maar dat zie ik in deze configuratie niet zo snel gebeuren. Een SAN is zeker de mooiere oplossing, maar zeker met dit budget niet haalbaar. Zelfs een refurbished MSA2012i met enkele controller en PSU (en dan heb je nog maar een instap-model) kost je al gauw een 2500,- zonder de disks... Niet een haalbare kaart dus.

Overigens had ik het niet over de ESXi licentie maar over de windows en backup software licenties:P Ik weet dat je ook ESXi free hebt welke prima voldoet voor 1 host.

Backup zou je eventueel nog af kunnen met de Microsoft Backup, alhoewel dat niet altijd even geweldig functioneert. En dan moet er uiteraard nog een medium zijn waar je de backup naartoe maakt. Een LTO-drive lijkt me niet heel praktisch qua kosten (een LTO4-drive is niet echt goedkoop te noemen) en gegeven dat je 20TB storage-ruimte hebt, gaat dat nog een behoorlijke uitdaging opleveren...

En inderdaad het werken met VLANs lijkt mij ook een vereiste om zakelijk en prive gecheiden te gaan houden.

Ik zou geen VLAN's gaan maken om zakelijk en privé strikt te scheiden, maar wel om storage-omgeving (iSCSI) en servers en clients van elkaar te scheiden. Een client zou niet bij je iSCSI-omgeving moeten kunnen komen.

[TerrorForceNL]

Ik zit even krap met de tijd vandaag, hondje is aangereden en moest vandaag gelijk onder het mes...

Veel nieuwe spannende terminologie, ik ga me morgen na het werk even inlezen dat ik jullie verhaal goed volgen kan!

@Joenino; 2500 totaal, 1000 euro exclusief schijven. Het was een schot in het duister, want ik kan me er niet veel bij voorstellen... Vandaar ook dat modulair gewenst is, dan kan ik de hardware aanschaffen en één raid met OS erop gooien en een kleine raid die me huidige systeem kan vervangen (10TB~) en dan kan ik later met modules nieuwe raids toevoegen (Raid5 of 6, 15-25TB per module).

Ik blader tussen het wachten door even door verschillende uitgebreide topics over ZFS & ESXi heen en Kroegtijger geeft al (wijselijk) aan; scheiden van zakelijk en privé is misschien een idee...

Wat ik in ieder geval tot zover begrijp is dat voor een totaal oplossing 2500 euro aan de lage kant is. Wellicht is het scheiden van de zakelijke & privé gegevens dan raadzaam, beiden zullen desondanks zakelijk worden aangeschaft en dan begin ik eens rustig met de hardware & 2 SSD's (in mirror) als basis van het systeem. Corrigeer me maar waar nodig, ik probeer op een lager niveau mee te denken.

Wat ik nu direct even niet volg, zal ik proberen even wat meer over te vinden in de loop van de avond; VM's? Wat is het nut van VMs? Hoe verzadigd een aantal VM's mijn wensen en welke?

[Dennisik]

Ik had voor de gein zoiets in elkaar gezet in pricewatch, exacte producten heb ik niet meer.
Kwam iig hierop uit.

9x3TB = 1000
2x 128GB SSD (L2ARC/ZIL) = 220
1x 256GB SSD (ESXI) = 220
32GB Geheugen = 200
VT-D Moederbord = 120
2x IBM 1015 = 240
Norco 4224 = 400
Voeding = 100

Totaal: ~2500

ESXI op 256GB SSD, op die SSD knal je nog meerdere VM's.
web/pfsense/ubuntu maar ook freenas voor ZFS. 7x3TB in RaidZ2 = 21TB.
Deze kan vervolgens via ISCSI naar ESXi mocht het nodig zijn voor grotere VM's of snapshots.
Anders via NFS/SMB/FTP/SFTP/DLNA binnen en buitenhuis.