Migratie server met ZFS naar NAS

[Blubber]

Ik heb op dit moment een server staan die op FreeBSD draait en ZFS gebruikt, maar ik wil van dit apparaat af. De server heeft 4x 3TB en 4x t.5TB HDDs, ingedeeld in twee VDEVs, beide raid-z2. Ik wil graag de server vervangen door een NAS met 4 bays, ik wil hier de 4x 3TB schijven in raid-5 in zetten.

Maar nu zit ik dus met een probleem, hoe ga ik mijn data migreren van de ZFS setup naar de NAS zonder data kwijt te raken, ik moet zo'n 6TB aan data verplaatsen, en ik heb 1 extra HD van 1.5 TB liggen die gebruikt kan worden. Dus netto moet ik dan nog zo'n 4.5TB verplaatsen.

Ik dacht zelf aan de volgende procedure:

• Haal 2x 1.5TB en 2x 3TB uit de server en installeer deze in de NAS in raid-5. Dit geeft netto 4.5TB ruimte.
• Kopieer alles wat nog op de server staat naar de NAS.
• Vervang de 2x 1.5TB in de NAS (een voor een) door de laatste twee 3TB schijven uit de server.

Er zijn een paar problemen met deze methode. Ten eerste zijn de 1.5TB schijven ruim 6 jaar oud, er is geen indicatie dat ze kapot gaan, maar de server is in degraded mode na het verwijderen van 2x 1.5TB zonder redundantie, dat is dus wat risicovol.

Die 4.5TB die verplaatst moet worden is een conservatieve schatting, het is wellicht iets meer. Gevolg is dat ik nog ergens anders een schijf vandaan moet halen, op zich moet dit lukken, maar het is wel onhandig.

Is er een betere oplossing, of is het gewoon een kwestie van een week vrij nemen en doorbijten ?

[Verwijderd]

Heb je een backup? Nee, dan is het verstandig hier eens aan te denken. Koop een WD 6TB Green schijf en gebruik deze extern bijvoorbeeld. Heb je een leuke backup disk erbij. Die kun je gebruiken als tijdelijke disk om alles over te zetten, zodat je je huidige schijven opnieuw kunt indelen zoals je wilt.

Begrijp ik je nou goed dat je van ZFS af wilt stappen en naar ouderwets RAID5 terug wilt gaan? Je bent absoluut niet verplicht tot antwoorden, maar mag ik vragen waarom? Je offert zo namelijk wel veel veiligheid op, zeker als je die RAID5 zonder backup gaat gebruiken.

Of heb ik je verkeerd begrepen, en bedoel je met RAID5 eigenlijk RAID-Z, dus dat je van RAID-Z2 naar RAID-Z wilt gaan? In dat geval zijn er nog meer opties die je kunt overwegen. Maar ik wacht eerst of je daar wel behoefte aan hebt om dat te horen.

[ Voor 8% gewijzigd door Verwijderd op 27-08-2015 13:16 ]

[Blubber]

Verwijderd schreef op donderdag 27 augustus 2015 @ 13:15:
Heb je een backup? Nee, dan is het verstandig hier eens aan te denken. Koop een WD 6TB Green schijf en gebruik deze extern bijvoorbeeld. Heb je een leuke backup disk erbij. Die kun je gebruiken als tijdelijke disk om alles over te zetten, zodat je je huidige schijven opnieuw kunt indelen zoals je wilt.

Dat is een optie die ik niet had bekeken. Op de server staat momenteel data die ik graag wil houden, maar het is niet cruciaal. Er staan backups op en media die ook elders te verkrijgen is, maar wellicht is een externe HD een goed idee ja.

Verwijderd schreef op donderdag 27 augustus 2015 @ 13:15:
Begrijp ik je nou goed dat je van ZFS af wilt stappen en naar ouderwets RAID5 terug wilt gaan? Je bent absoluut niet verplicht tot antwoorden, maar mag ik vragen waarom? Je offert zo namelijk wel veel veiligheid op, zeker als je die RAID5 zonder backup gaat gebruiken.

Ja en nee. Ik wil niet specifiek van ZFS af, dat bevalt mij prima. Wat mij niet bevalt is de rest van de server. Het kost best wel veel tijd en moeite om hem te onderhouden, zeker als er dingen kapot gaan. Er zitten momenteel 10 HDs in, en die server neemt ongeveer 150W op. Momenteel gaat hij doordeweeks om 18:00 aan en om 24:00 uit om het stroomverbruik in te perken, maar dat is suboptimaal. Nogmaals, ZFS bevalt prima .

Verwijderd schreef op donderdag 27 augustus 2015 @ 13:15:
Of heb ik je verkeerd begrepen, en bedoel je met RAID5 eigenlijk RAID-Z, dus dat je van RAID-Z2 naar RAID-Z wilt gaan? In dat geval zijn er nog meer opties die je kunt overwegen. Maar ik wacht eerst of je daar wel behoefte aan hebt om dat te horen.

Het is dus de bedoeling om naar RAID-5 te gaan, niet Z .

[ Voor 0% gewijzigd door Verwijderd op 28-08-2015 23:01 ]

[Verwijderd]

Je zegt dat het 'veel tijd en moeite' kost om je huidige server te onderhouden. Daarnaast geef je aan dat je vindt dat de server teveel energie verbruikt. Het lijkt mij dat je beide kunt oplossen, zonder direct van ZFS af te stappen. Dat is nou net het beste wat je kunt hebben. Teruggaan naar RAID5 betekent terug in de tijd waar corruptie en vooral silent corruption de gewoonste zaak van de wereld is. Daarnaast heb je waarschijnlijk consumentenschijven met 10^-14 uBER, wat inhoudt dat je data ook gevaar loopt door wat simpele bad sectors.

ZFS is juist heel leuk voor thuisgebruikers die het geld er niet voor overhebben om een 1:1 backup van al hun data te maken, maar wel graag wat extra bescherming zouden willen. Zou je niet voor ZFS kiezen, denk ik dat je beter af bent zonder RAID en gewoon losse disks die kunnen falen. RAID5 is eigenlijk nauwelijks meer bruikbaar in combinatie met consumentenschijven - het risico is wel heel groot dat er wat mee gebeurt na verloop van tijd.

Waarom overweeg je niet een alternatieve route, waarbij je wel bij ZFS blijft, maar wel de twee problemen adresseert die je noemt: onderhoud en energieverbruik. Doe bijvoorbeeld wat ik doe: één (nouja ik heb er twee) grote ZFS servers die bijna altijd uit staan en het energieverbruik dus niet zo relevant is. En één kleine superzuinige ZFS server die altijd aanstaat.

Die superzuinige ZFS server kun je op basis van J1900 doen; is ook lekker goedkoop met slechts 100 euro aanschafkosten excl. RAM, voedingsblok en behuizing. Bovendien heb je het dan helemaal passief, en dankzij de DC-DC voeding is het allemaal heel efficiënt. J1900 doet aan het stopcontact zo'n 12W. Tel daarbij iets van 3 tot 4 watt per WD Green schijf, en je zit nog onder de 20W voor 12TB opslag bijvoorbeeld, als je twee WD Green 6TB zou nemen.

Dan zou je je huidige server behouden maar als backup en 'cold storage' inzetten, dus waarbij de server bijna altijd uit staat. Je nieuwe J1900 servertje met slechts één of twee 6TB schijven kun je dan als dagelijkse storage gebruiken. Dit is wat ik doe namelijk.

Qua onderhoud, je hebt nu een full-blown FreeBSD installatie? Ik weet niet precies wat je aan onderhoud doet, maar velen gebruiken ZFS jarenlang zonder ooit op hun ZFS server in te loggen. Waarom zou je, als alles werkt? Dit kun je vrij makkelijk regelen met de talrijke ZFS distributies, met name die gebaseerd zijn op BSD zijn het overwegen waard. Heb je ook geen onderhoud meer.

Wat vind je van dit idee? Dan zou je als primaire server een bordje zoals deze gebruiken:



pricewatch: ASRock Q1900DC-ITX

[Blubber]

Verwijderd schreef op donderdag 27 augustus 2015 @ 13:44:
[...]

Waarom overweeg je niet een alternatieve route, waarbij je wel bij ZFS blijft, maar wel de twee problemen adresseert die je noemt: onderhoud en energieverbruik. Doe bijvoorbeeld wat ik doe: één (nouja ik heb er twee) grote ZFS servers die bijna altijd uit staan en het energieverbruik dus niet zo relevant is. En één kleine superzuinige ZFS server die altijd aanstaat.

Die superzuinige ZFS server kun je op basis van J1900 doen; is ook lekker goedkoop met slechts 100 euro aanschafkosten excl. RAM, voedingsblok en behuizing. Bovendien heb je het dan helemaal passief, en dankzij de DC-DC voeding is het allemaal heel efficiënt. J1900 doet aan het stopcontact zo'n 12W. Tel daarbij iets van 3 tot 4 watt per WD Green schijf, en je zit nog onder de 20W voor 12TB opslag bijvoorbeeld, als je twee WD Green 6TB zou nemen.

Dan zou je je huidige server behouden maar als backup en 'cold storage' inzetten, dus waarbij de server bijna altijd uit staat. Je nieuwe J1900 servertje met slechts één of twee 6TB schijven kun je dan als dagelijkse storage gebruiken. Dit is wat ik doe namelijk.

Hiermee introduceer je wel extra soft- en hardware die kapot kan gaan, en dus onderhoud met zich mee brengt. Plus deze setup is minder handig, want als je bij je cold storage wilt moet je die server aanzetten. Ik snap wat jij bedoeld, en als je me dit een oaar jaar geleden had voorgelged zou ik het wellicht eens zijn geweest. Maar ik wil inmiddels iets wat gewoon werkt, ik werk al de hele dag met computers, dat hoeft wat mij betreft thuis niet door te gaan .

Verwijderd schreef op donderdag 27 augustus 2015 @ 13:44:
Qua onderhoud, je hebt nu een full-blown FreeBSD installatie? Ik weet niet precies wat je aan onderhoud doet, maar velen gebruiken ZFS jarenlang zonder ooit op hun ZFS server in te loggen. Waarom zou je, als alles werkt? Dit kun je vrij makkelijk regelen met de talrijke ZFS distributies, met name die gebaseerd zijn op BSD zijn het overwegen waard. Heb je ook geen onderhoud meer.

Recentelijk een paar HDs vervangen (dat heb je met een NAS natuurlijk ook.) Er zitten fans in die kapot beginnen te gaan, die moeten vervangen worden. Ding staat allemaal stof op te zuigen, dus ik maak hem bij tijd en wijlen schoon. Daarnaast hou ik er niet van als zo'n OS niet up-to-date is, zeker wat betreft de beveiliging. Ik ben dus meer op zoek naar een oplossing die -gewoon werkt' en weinig energie verbruikt.

Ik zal je suggestie eens bekijken en de kosten op een rijtje zetten, maar zoals het er nu voor staat gaat mijn voorkeur naar mijn oplossing uit.

[ Voor 0% gewijzigd door Verwijderd op 28-08-2015 23:00 ]

[Verwijderd]

Ik bouw nooit een computer met fans, altijd fanless / passief gekoeld. Dus als je zo een computer bouwt, zoals ook het voorstel hierboven, heb je (vrijwel) geen onderhoud aan je computer. Je probleem met energie is met 12 tot 20 watt ook opgelost denk ik.

Je wilt een oplossing die 'gewoon werkt' maar dat is RAID5 nu juist niet? Ja het zal in het begin wel 'gewoon werken' totdat het plots niet meer 'gewoon werkt'. Dat kan al gebeuren door een paar simpele bad sectors. Dus mijns inziens ga je juist van een situatie waarbij je de zaken redelijk goed hebt geregeld, naar een storingsgevoelige oplossing die enorm veel minder bescherming biedt aan je data. RAID5 is eigenlijk not-done in dit tijdperk. Dit komt door de gestegen datadichtheid, waardoor het probleem van uBER bad sectors onacceptabel groot is geworden. Lees hiervoor ook: Why RAID5 stops working in 2009.

Je zegt verder dat je niet houdt van een OS dat niet up-to-date is. Maar dat geldt eigenlijk alleen als die vanwege veiligheidsredenen geupdate moet worden, toch? Een NAS die je alleen intern gebruikt, heeft hier niet of veel minder mee te maken. Daarnaast, welke software ga je draaien op je RAID5 server waarbij dit niet meer geldt? Als jij alles up-to-date wilt hebben, heb je toch bij elke oplossing onderhoud? Waarom zou dit minder zijn als je van ZFS afstapt en terugkeert naar RAID5?

[Blubber]

Ok je hebt wellicht gelijk wat die raid5 betreft, ik heb daar zelf ook al enige horror mee meegemaakt. Maar ik voel er niets voor om twee servers te hebben. Dus de andere optie zou dan zijn om zelf iets te bouwen wat fanless is en weinig juice nodig heeft, en daar FreeBSD of FreeNAS oid op te zetten. Dat is een optie die ik wel zou overwegen, maar dan blijft mijn vraag feitelijk hetzelfde als inde OP, hoe ga ik die data migreren .

Wat die updates betreft, het is wel enkel voor intern gebruik, maar dat neemt niet weg dat het een goed idee is om je shit up-to-date te houden. Een NAS oplossing zoals Synology heeft daar een makkleijkere methode voor. Ik geef direct toe dat dit niet zo'n sterk argument is.

Iets anders wat die synlogy software kan is toegang verschaffen tot de NAS van buitenaf. Dat zou met een eigen oplossing wellicht via owncloud kunnen, maar daar was ik eerlijk gezegd niet zo van gecharmeerd.

[Verwijderd]

Je hebt 4x 3TB en 4x 1,5TB. Je kunt die 4x 1,5TB in 2x 3TB omdopen. Dan heb je 6x 3TB.

Zou je schijven bijkopen, zoals 4 extra 3TB schijfjes, heb je in totaal 10x 3TB. Dat past heel mooi in een RAID-Z2 pool met slechts 20% overhead, terwijl je wel dubbele parity protection krijgt.

Om energie te besparen, kun je spindown overwegen. Dan verbruiken de schijven ongeveer 0,5 watt per stuk - dus 6W plus het systeem zoals 12W, dus dan zit je nog onder de 20 watt.

Eventueel kun je dit combineren met mijn tip van een 6TB Green schijf. Stel je neemt er daar één van, en deze staat altijd aan terwijl je grote pool in spindown gaat, dan heb je een leuke combinatie gemaakt waarbij je uiteindelijk veel dingen hebt bereikt:

• Energiezuinig, van 150 watt naar ~20 watt bij gebruik van spindown.
• Toch slechts één systeem, omdat je geen twee systemen wilt.
• Hergebruik van je huidige schijven, met veel opslag en weinig overhead, terwijl je wel een hoge vorm van bescherming geniet.
• Toch ZFS, geen onbetrouwbaar RAID.
• Je investeert vooral in de hardeschijven; dat is een investering die ook echt wat oplevert. Beter veel geld aan schijven besteden dan allerlei zaken eromheen. Het is immers te doen om de opslag.

Aan jou de keuze, uiteraard.

[HyperBart]

Allereerst: sluit je quotes eens netjes af . Dat kan je doen door [/quote] te typen ipv zoals je nu doet [quote] te zetten om de quote af te sluiten. Dat gezegd zijnde.

Blubber schreef op donderdag 27 augustus 2015 @ 13:54:

Hiermee introduceer je wel extra soft- en hardware die kapot kan gaan, en dus onderhoud met zich mee brengt.

Euh, je hebt toch in je QNAP/Synology/whatever je wil aanschaffen EXACT hetzelfde zitten? Een voeding, een moederbordje, SATA connectoren... Even goed gaat daar iets naar z'n grootje, en dan mag je het hele apparaat vervangen... Versus een specifiek onderdeeltje met je zelfbouw NAS

Plus deze setup is minder handig, want als je bij je cold storage wilt moet je die server aanzetten. Ik snap wat jij bedoeld, en als je me dit een oaar jaar geleden had voorgelged zou ik het wellicht eens zijn geweest. Maar ik wil inmiddels iets wat gewoon werkt, ik werk al de hele dag met computers, dat hoeft wat mij betreft thuis niet door te gaan .

Hier hetzelfde hoor, maar sinds ik met ZFS werk maak ik me eigenlijk veel minder zorgen dan vroeger. Ik scrub 2 x per week, mijn disks gaan in spindown en het ding downloadt ook nog eens alles wat ik wil... Niks omkijken naar. Recent heb ik wat werk in mijn NAS gestoken ja, maar dat was omdat het boeltje wat aan het vollopen was en ik disk uitbreidingen moest doen. Ik zou nooit terug willen naar een traditionele NAS. Overlaatst wou ik eens aan de slag gaan met Sonarr ipv SickBeard wegens de betere failed download handling daarvan. Exact 2 commando's had ik nodig om een clone te maken en daarop Sonarr te laten draaien. Ik heb afgelopen week zelfs gemekrt dat ik van die clone een op zichzelf staand FS kan maken en zodoende mijn films en series in twee aparte datasets kan onderbrengen. Ik kan dus lekker transparant overschakelen naar mijn nieuwe dataset waar ik Sonarr al een tijdje op heb laten proefdraaien...

[...]


Recentelijk een paar HDs vervangen (dat heb je met een NAS natuurlijk ook.) Er zitten fans in die kapot beginnen te gaan, die moeten vervangen worden. Ding staat allemaal stof op te zuigen, dus ik maak hem bij tijd en wijlen schoon. Daarnaast hou ik er niet van als zo'n OS niet up-to-date is, zeker wat betreft de beveiliging. Ik ben dus meer op zoek naar een oplossing die -gewoon werkt' en weinig energie verbruikt.

Heb je al eens gezien wat er van QNAP allemaal uitkomt qua updates?
downloads: QNAP TS-xx0/xx2/xx9 4.1.4 build 0820

Kijk eens bij die update geschiedenis. Ik had dat ook hoor, altijd op de laatste nieuwe firmware willen draaien, maar bij mijn RAID met al mijn data op was ik daar toch heel huiverig over... Als ik mijn disks allemaal uit zou willen trekken uit de QNAP zou dat ding beginnen piepen als een malle... Met ZFS je FreeNAS updaten oid? Zet het ding af, doe zelfs geen export en er wordt nergens over gemiept. Goed, je doet beter een export en daarna een import, maar het kan...

Ik zal je suggestie eens bekijken en de kosten op een rijtje zetten, maar zoals het er nu voor staat gaat mijn voorkeur naar mijn oplossing uit.

Heb je al eens geprobeerd, gewoon geprobeerd om een toegankelijker OS als NAS4Free te proberen? Dat biedt met een hele spartaanse maar simpele interface datgene aan wat QNAP en Synology doen...

Ik krijg het gevoel dat je eigenlijk gewoon niet meer wilt kloten/bouwen aan hardware in zelfbouw, maar dat is makkelijker op te lossen. Hell, als je toch zo graag een kant en klaar iets wil met 4 bays, waarom kies je dan geen HP MicroServer?
pricewatch: HP Proliant MicroServer Gen8 G1610T
Latje geheugen erbij, FreeNAS er op en je bent klaar.

[Blubber]

HyperBart schreef op vrijdag 28 augustus 2015 @ 22:33:
[...]

Euh, je hebt toch in je QNAP/Synology/whatever je wil aanschaffen EXACT hetzelfde zitten? Een voeding, een moederbordje, SATA connectoren... Even goed gaat daar iets naar z'n grootje, en dan mag je het hele apparaat vervangen... Versus een specifiek onderdeeltje met je zelfbouw NAS

Precies, elke oplossing introduceert extra soft- en hardware, wat extra onderhoud met zich mee brengt. Dat is de reden dat ik niet twee van die apparaten wil hebben staan zoals Cipher voorstelt ...

HyperBart schreef op vrijdag 28 augustus 2015 @ 22:33:
Heb je al eens geprobeerd, gewoon geprobeerd om een toegankelijker OS als NAS4Free te proberen? Dat biedt met een hele spartaanse maar simpele interface datgene aan wat QNAP en Synology doen...

Dat is exact wat ik zelf hierboven al aangeef, welicht is zelfs iets energiezuinigs met FreeNAS oid een optie.

HyperBart schreef op vrijdag 28 augustus 2015 @ 22:33:
Ik krijg het gevoel dat je eigenlijk gewoon niet meer wilt kloten/bouwen aan hardware in zelfbouw, maar dat is makkelijker op te lossen. Hell, als je toch zo graag een kant en klaar iets wil met 4 bays, waarom kies je dan geen HP MicroServer?
pricewatch: HP Proliant MicroServer Gen8 G1610T
Latje geheugen erbij, FreeNAS er op en je bent klaar.

Dat is wellicht een goede optie ja.

[Compizfox]

Ik kan beämen wat CiPHER zegt: van ZFS naar legacy RAID is een vreemde downgrade en niet echt aan te raden.

Ik zou zeggen: koop zo'n HP MicroServer, pleur er FreeNAS/Nas4Free/ZFSGuru op en je hebt er even veel omkijken naar als met een kant-en-klaar NAS.

Er kunnen zo te zien 4 HDDs in die MicroServer die hierboven gelinkt is, dus daar past je 4x 3 TB in.

Wat betreft het migreren van data, tja, dat is lastig. Het makkelijkste zou natuurlijk zijn dat je een VDEV van je ZFS-pool kunt afsplitsen waardoor alle data op 1 VDEV komt te staan, maar ik weet niet of dat mogelijk is.

[ Voor 38% gewijzigd door Compizfox op 30-08-2015 15:08 ]