Het grote DIY RAID NAS topic deel 3

[HarmoniousVibe]

Blergh, een cron job voor een eenmalige taak die helemaal niet automatisch op een bepaald tijdstip unattended hoeft te starten?

[Duikhond]

De filemanager (Webmin) is wat ik gebruik. Ben nu 1,8TB aan het overpompen van oude NAS naar mijn Ubuntu 10.10 bak.

[mphilipp]

Midnight Commander gebruik ik voor het overpompen van zaken op mijn NAS. Da's net zo handig als een of andere GUI (hoe licht ook) en veel sneller uiteindelijk.

[FireDrunk]

Ik dacht dat het om terugkomende acties ging... Gewoon ssh met mc werkt mijns inziens het fijnst..

[Kriss1981]

mphilipp schreef op zondag 16 januari 2011 @ 18:35:
Midnight Commander gebruik ik voor het overpompen van zaken op mijn NAS. Da's net zo handig als een of andere GUI (hoe licht ook) en veel sneller uiteindelijk.

Bedankt

Daar was ik naar op zoek. Simpel, effectief en ik hoef geen GUI te installeren.

[FireDrunk]

LB06 schreef op zondag 16 januari 2011 @ 09:47:
edit:
Heb LSI even gemaild en ik had binnen een kwartier een antwoord terug. Ik moest tijdelijk alle onboard controllers disablen, waarna ik wel gewoon in het menu kon. Beetje omslachtig en ik snap niet waarom het helpt, maar de support is in ieder geval goed. Nice!

Dat heeft te maken met Interrupt 13 Handoff Een controller verteld het BIOS dat hij een menu/config/weetikwat dingetje kan leveren aan hem, die trigger gaat via Interrupt 13... Als meerdere controllers dat interrupt tegelijk opvragen of triggeren wil dat nog wel eens verkeerd gaan.

[Hermanvh]

Q schreef op zondag 16 januari 2011 @ 13:16:
[...]


Zo was ik bijna mijn 18 TB array kwijt door een rokende Coolermaster. Je zit lekker achter je computer en plotseling ruik je heel licht een geur waarvan je instinctief weet dat het helemaal mis is. Mag je blij zijn dat de voeding de rest van de componenten niet mee het graf in neemt.

Neem een voeding van een kwaliteitsmerk (lees meerdere reviews) met enige overcapaciteit.

Zo heb ik zelf de illusie dat Corsair goede voedingen maakt. De grap is wel dat ik mijn meen te herinneren dat Lampie1979 onafhankelijk al veel eerder tot een zelfde conclusie was gekomen.

Ik heb al jaar en dag (een jaartje of 12) Antec en ben er erg over te spreken! 1x een kapotte voeding gehad, RMA, was niet meer leverbaar, nieuwe gekregen met weer volledige garantie!

[HarmoniousVibe]

FireDrunk schreef op maandag 17 januari 2011 @ 07:52:
[...]


Dat heeft te maken met Interrupt 13 Handoff Een controller verteld het BIOS dat hij een menu/config/weetikwat dingetje kan leveren aan hem, die trigger gaat via Interrupt 13... Als meerdere controllers dat interrupt tegelijk opvragen of triggeren wil dat nog wel eens verkeerd gaan.

Hmm thanks! Weer iets geleerd.

[Duikhond]

mphilipp schreef op zondag 16 januari 2011 @ 18:35:
Midnight Commander gebruik ik voor het overpompen van zaken op mijn NAS. Da's net zo handig als een of andere GUI (hoe licht ook) en veel sneller uiteindelijk.

Super, goede tip . Is nu ook geïnstalleerd. Ben zelf van het NC tijdperk past dus goed bij mij

[vargo]

Net verschenen: Create a NexentaStor VMware ESXi Virtual Machine.

Toevallig precies wat ik thuis wil gaan proberen (dit weekend als ik tijd heb).

Kwam ook nog deze how-to + benchmark tegen van een soortgelijke setup (dwz met ESXi; niet de hardware ): http://napp-it.org/napp-it/all-in-one/index_en.html

HD-Performance of a virtualized ZFS-Server Supermicro X8DTH-6F, 2 x Xeon Quadcore, 24GB RAM,
SAS-II PCI-Passthrough to Nexenta ZFS pools

SAS Controller LSI 1068E (PCI-Passthrough to Nexenta ZFS pools)
Pool of 6 x wd raptor 300 GB:

pool4 ONLINE 0 0 0
mirror-0 ONLINE 0 0 0
c3t0d0 ONLINE 0 0 0
c3t1d0 ONLINE 0 0 0
mirror-1 ONLINE 0 0 0
c3t2d0 ONLINE 0 0 0
c3t3d0 ONLINE 0 0 0
mirror-2 ONLINE 0 0 0
c3t4d0 ONLINE 0 0 0
c3t5d0 ONLINE 0 0 0


Bonnie+ reports via napp-it
Seq-Out (Char): 178 MB/s
Seq-Out (Block): 221MB/s
Seq-Out (Rewrite): 159MB/s
Seq-In (Char): 198 MB/s
Seq-In (Block): 557 MB/s

new config: (only 4 x Solidata K8 SSD 120GB with Sandforce 1200 Controller)
pool4 ONLINE 0 0 0
mirror-0 ONLINE 0 0 0
c3t0d0 ONLINE 0 0 0
c3t1d0 ONLINE 0 0 0
mirror-1 ONLINE 0 0 0
c3t2d0 ONLINE 0 0 0
c3t3d0 ONLINE 0 0 0

Seq-Out (Char): 172 MB/s
Seq-Out (Block): 327 MB/s
Seq-Out (Rewrite): 195 MB/s
Seq-In (Char): 196 MB/s
Seq-In (Block): 835 MB/s

[FireDrunk]

vargo schreef op dinsdag 18 januari 2011 @ 10:41:
Net verschenen: Create a NexentaStor VMware ESXi Virtual Machine.

Toevallig precies wat ik thuis wil gaan proberen (dit weekend als ik tijd heb).

Kwam ook nog deze how-to + benchmark tegen van een soortgelijke setup (dwz met ESXi; niet de hardware ): http://napp-it.org/napp-it/all-in-one/index_en.html

[...]

4 SSD's van 120GB met een SF1200 controller die Sequential write doen van 170MB/s?
Das toch pokke traag?

Offtopic:

* FireDrunk heeft toch maar een Xeon x3430 besteld om VT-d te kunnen gebruiken

[Verwijderd]

Hey Q of Mphilipp (of iemand anders),

Weten jullie hoe ik de RAID 5 op mijn NAS (ubuntu server 10.10) normaal in standby modus kan krijgen?
Als ik Hdparm probeer dan willen ze om de één of andere manier niet in standby raken maar manueel werkt het wel. Ik gebruik 4x de Samsung Ecogreen F4 voor mijn software RAID 5, aangemaakt met MDADM.

Help?

[Verwijderd]

APM inschakelen? Dan spinnen de disks zich vanzelf down.

[Nielson]

Verwijderd schreef op dinsdag 18 januari 2011 @ 13:15:
Weten jullie hoe ik de RAID 5 op mijn NAS (ubuntu server 10.10) normaal in standby modus kan krijgen?

Heb hetzelfde, na ubuntu geupgrade te hebben naar 10.10 gaat m'n raid5 ook niet meer in standby, erg irritant.

[vargo]

FireDrunk schreef op dinsdag 18 januari 2011 @ 12:05:
[...]


4 SSD's van 120GB met een SF1200 controller die Sequential write doen van 170MB/s?
Das toch pokke traag?

Offtopic:

* FireDrunk heeft toch maar een Xeon x3430 besteld om VT-d te kunnen gebruiken

Idd - de gebruikte hardware is top dus zou veel sneller moeten kunnen. Vraag is wat de oorzaak is: benchmark, ESXi, setup, Nexenta etc. Een vergelijking tussen bare metal installatie en een installatie onder ESXi zou duidelijkheid kunnen geven over de performance impact van virtualizeren mbv VT-d.

Heb de auteur van de bovenste link ook om benchmarks gevraagd.

[FireDrunk]

vargo schreef op dinsdag 18 januari 2011 @ 14:40:
Een vergelijking tussen bare metal installatie en een installatie onder ESXi zou duidelijkheid kunnen geven over de performance impact van virtualizeren mbv VT-d.

Dat ga ik dus komende week (als mijn controllers tenminste komen) doen

[Verwijderd]

Verwijderd schreef op dinsdag 18 januari 2011 @ 13:35:
APM inschakelen? Dan spinnen de disks zich vanzelf down.

Kun je me vertellen hoe dat werkt? En hoe kun je de timing beheren wanneer een spindown zich voordoet?

[analog_]

Die NS scores van die SSDs kunnen mogelijk lichtjes vertekend zijn als die write-hole bescherming opstaat, je kan het handmatig afzetten maar het wordt niet aangeraden tenzij je er een UPS aanhangt.

[SymbolicFrank]

Nou, ik had dus last van een crashende NAS iedere ~50 uur. Ik heb er na de laatste apt-get update/upgrade geen last meer van. Ik had er dus waarschijnlijk per ongeluk net een slechte patch tussen zitten.

Kortom, alleen updaten als het ook meerwaarde heeft, want het kan ook fout gaan. Kleine kans, maar je zult het net zien. Dat was voor mij ook de reden om voor 10.04 LTS te gaan, en geen distupgrade te doen naar 10.10.

Ook had ik eerst tegenvallende streamsnelheden, waarbij er toch voor de hele grote bestanden soms stotters optraden, dat is nu ook verholpen. Alhoewel de killa.sampla.x264.mkv nog niet vloeiend word weergegeven. Dus er is nog ruimte voor verbetering.

Ik ben in ieder geval blij dat het probleem op zo'n simpele manier is opgelost.

[vargo]

FireDrunk schreef op dinsdag 18 januari 2011 @ 15:11:
[...]


Dat ga ik dus komende week (als mijn controllers tenminste komen) doen

Ben benieuwd naar de resultaten.

Wil zelf eigenlijk eerst 4x 4GB DDR2 geheugen erbij halen, maar de prijzen vallen me tegen (300+ euro voor 4x4GB DDR2)! Daarmee is DDR2 2x duurder dan DDR3?!

[FireDrunk]

Vraag Hardware Junk of YaaD eens in V&A, die hebben vaak wel van dat soort meuk liggen

[ Voor 39% gewijzigd door FireDrunk op 19-01-2011 10:01 ]

[clemento]

clemento schreef op woensdag 19 januari 2011 @ 10:52:
Ik ben aangemeld bij ibood.nl en kreeg de aanbieding voor:
Iomega StorCenter Dual Bay NAS server met 4TB http://www.ibood.com/nl/n...B_en_Gigabit_aansluiting/
Vandaag nog te koop voor € 269,95

Lijkt me een mooie aanbieding.

[FireDrunk]

Een link naar een kant-en-klare NAS past niet echt in het Do-It-Yourself NAS topic...
Hier doen we dat soort dingen met het handje

[Dadona]

Het is soms wel eens goed om een referentiepunt aan te houden waar je het allemaal voor doet Maar 4TB (2x2TB) kost je al zo'n 160 euro. Alleen schijnt de betrouwbaarheid van deze dingen een beetje tegen te vallen. Ook geluidsproductie en hitte zijn een probleem met de ix2-200. Motivatie van een DIY gevonden.

(Reviews: 1TB - Tweakers - 2TB versie - Tweakers - 4TB versie - Tweakers - 2TB versie - Newegg - 2TB versie - Amazon Je moet soms wel kijken of de gebruiker niet de review na een dag of twee al neerzet, of aankoopmotivaties neerzet. Maar ik blijf het jammer vinden dat dit soort dingen het toch net niet zijn. Met name koeling en geluid zijn erg jammer, temeer ze bij het ontwerp al af te vangen zijn.)

[ Voor 59% gewijzigd door Dadona op 19-01-2011 11:13 ]

[FireDrunk]

Dat is toch hetzelfde als dat Mux een moederbord 10x zuiniger kan maken alleen maar door kritisch naar het ontwerp te kijken. Als elke persoon op aarde zo indringend naar een ontwerp zou kijken, zouden alle producten goed en duur zijn en zou je nooit goedkope rommel kunnen kopen

[Verwijderd]

Verwijderd schreef op dinsdag 18 januari 2011 @ 15:40:
[...]


Kun je me vertellen hoe dat werkt? En hoe kun je de timing beheren wanneer een spindown zich voordoet?

APM inschakelen gaat met smartctl (smartmontools) onder Linux/BSD. APM is een instelling die je hardeschijf moet ondersteunen, maar het voordeel is dat één keer instellen de APM actief blijft zelfs na stroom-onderbrekingen.

Wat je kunt doen is je controllers even allemaal op non-RAID zetten en met een Ubuntu Linux livecd booten, daar APM inschakelen op je schijven en testen, daarna terug naar je oude situatie.

APM kun je heel ruw instellen, maar niet precies; ook kan de spindowntijd verschillen per merk/schijf; je kunt van 0 tot 255 instellen, waarbij de waardes vanaf 128 spindown doen, dacht ik. Beetje experimenteren zou je verder moeten helpen.

Deze methode werkt dus ook als je normaliter geen spindown kunt versturen, omdat je schijven achter een non-AHCI controller zitten en je dus geen echte SMART toegang hebt; hooguit SMART passthrough waarbij je aan de controller vraagt om iets met SMART met een disk te doen; maar dat is beperkt ten opzichte van directe toegang tot de schijf; dan kun je alles.

[iBurger]

Even een korte vraag: heeft het nou eigenlijk zin om m'n systeem disk te vervangen - nu nog een notebook 2.5 '' - met een SSD? Ik vermoed dat het weinig uitmaakt; zaken zoals read/write specs van m'n RAID array, CPU, en mem lijken me meer van belang dat de systeem schijf voor network throughput.

[FireDrunk]

Als de data direct van je Array af komt boeit je OS disk totaal niet nee. Maar boottijd, installatie van patches enzo, maar (bij veel programma's) gaat uitpakken van zip/rar bestanden via een temp dir die op je OS schijf staat...

[HarmoniousVibe]

Ik heb het zelf ook overwogen, maar nu heb ik een aparte controller en knippert mijn HDD-activity LED alleen maar bij activiteit op mijn systeemschijf. Hij knippert echt bijna nooit. Ligt er een beetje aan wat je er nog meer mee doet, maar als het puur een NAS is: niet aan beginnen .

[Verwijderd]

Bij een desktopsysteem ga je dingen openen/activeren die nog niet draaiden, een server/NAS heeft alle programma's die actief zijn allang in RAM geladen; de systeemschijf zal dus in feite ongebruikt worden eenmaal na het opstarten en inladen. Alleen wat kleine writes voor de logs enzo, maar niet genoeg om een rol te spelen in performance.

Gebruik je 2,5" disk voor wat leuks, en stop je OS op een USB stick; lekker makkelijk en scheelt weer ruimte/stroom/kosten. Voor Windows is dat een no-go, maar voor een NAS zou dat prima moeten werken. Hou er wel rekening mee dat flash stuk kan gaan door write cycles, dus backup maken van belangrijke bestanden of het hele stickje is geen slecht idee.

[Tha_Butcha]

Hou er wel rekening mee dat flash stuk kan gaan door write cycles, dus backup maken van belangrijke bestanden of het hele stickje is geen slecht idee.

FreeNAS en wat andere *nix distro's zijn ervoor getweakt, echter standaard distro's idd niet. Ik meende ergens gelezen te hebben dat je die cycles er doorheen jast met een jaar. Of was dat nou CF ?

[FireDrunk]

Dat was CF, maar USB is ook niet heilig... Een van de belangrijkste opties was volgens mij om noatime en nodiratime mee te geven bij de mount van je root fs.

[Phoenix1337]

Morgen mijn 9 nieuwe schijven, 2 controllers en 4 kabels maar eens bestellen. Hopelijk dat het deze week binnen is

[FireDrunk]

9 schijven? En ik maar denken dat ik gek was

* FireDrunk heeft gister zijn 4 nieuwe 2TB disks in zijn server geschroeft.
* FireDrunk heeft ook een Xeon met VT-d ingeprikt

* Nu nog wachten op mijn LSI controllers...

[Phoenix1337]

Die LSI controllers zijn dezelfde als de intel controllers? Of heb je t over andere ?

[FireDrunk]

Jup, die zijn onderweg uit China...

[Phoenix1337]

Ahh oke ik ga de intel variant hier in nederland bestellen. Die moeten nog geflashed worden toch ?

[HarmoniousVibe]

Phoenix1337 schreef op zondag 23 januari 2011 @ 16:14:
Ahh oke ik ga de intel variant hier in nederland bestellen. Die moeten nog geflashed worden toch ?

Flashen is sowieso wel een goed idee lijkt me. Tevens ligt het er ook maar aan of ze met de IR of IT firmware worden geleverd en welke firmware je wilt. Is dus geen eenduidig antwoord op te geven.

[Phoenix1337]

Ik wil de IT firmware aangezien ik mdadm ga gebruiken voor mn raid-array

[HarmoniousVibe]

Phoenix1337 schreef op zondag 23 januari 2011 @ 17:14:
Ik wil de IT firmware aangezien ik mdadm ga gebruiken voor mn raid-array

Juist. Dan is de kans groot dat je moet flashen. Mijn LSI werd in tegenstelling wat ik hier op GoT las ook gewoon geleverd met de IR-firmware, dus ik heb hem ook moeten flashen. Het was een beetje jammer dat ik met de Linux of Windows tool niet kon flashen van IR naar IT (of vv). Daarvoor moest ik een FreeDos USB-disk maken met op de tweede partitie de BIOS en FW images.

[ Voor 8% gewijzigd door HarmoniousVibe op 23-01-2011 17:29 ]

[Phoenix1337]

Hmm, hopen dat het bij mij makkelijker gaat dan. We zullen zien deze week.

Wat voor snelheden haal jij eigenlijk met die controller?

[HarmoniousVibe]

250MiB/s lezen en 150MiB/s schrijven ofzo. 3*2TB MD raid 5 met alleen 'Green' disks.

[ Voor 33% gewijzigd door HarmoniousVibe op 23-01-2011 19:23 ]

[Phoenix1337]

Das wel netjes. Ben benieuwd wat mijn array met 16 schijven dan gaat doen zijn ook green/ecogreen schijven.

[JornZ]

Beste mensen,

Ik ben ook aan het overwegen om zelf een NAS in elkaar te draaien. Echter na er eens over nagedacht te hebben hoop ik eigenlijk wat meer functionaliteit eruit te kunnen halen. Daar hoop ik hier wat advies over te kunnen krijgen.

Eerst maar even de setup die ik in gedachten heb:

• Asus M4N68T-M V2
• AMD Athlon II X2 255
• Aspire X-qpack (incl. 420W voeding)
• Corsair 2G DDR3 1333MHz
• 3 x Western Digital WD10EARS 1TB

Ik wil graag RAID5 gebruiken om wat meer zekerheid te hebben over de data. Ik heb al een paar keer meegemaakt in een desktop pc dat er één schijf kapot ging en ik data kwijt was.

Nou heb ik in de woonkamer een PS3 staan met ernaast een stereo. In het meest ideale geval zou ik het volgende met de NAS willen (als je het dan nog een NAS mag noemen):

1. Films, foto's en MP3's op bewaren
2. Torrents mee kunnen downloaden
3. Koppelen aan de stereo (via een audiokabeltje)
4. Koppelen aan de PS3 (via het netwerk) om filmbestanden op de tv af te spelen

Vooral punt 3 ben ik mijn hoofd over aan het breken. Ik heb ook een iPhone en ideaal zou zijn als ik met de iPhone op een of andere manier een media player op de NAS kan bereiken en MP3's kan laten beginnen met spelen. Ik denk ook dat deze keuze voor OS er van af gaat hangen, waar dergelijke software voor beschikbaar is? Heeft iemand een idee hoe ik dit voor elkaar zou kunnen krijgen? In feite probeer ik dus een oplossing zoals NAS + Sonos of squeezegeval te vermijden...

Ik heb ook zo'n iphone dock met audio out die ik aan de stereo kan koppelen en dan zou iets vergelijkbaars kunnen zonder de directe verbinding van het systeem en de stereo (puntje 3). Dan zou ik de iPhone in de dock kunnen doen en dan met airplayer en een UPnP/DLNA media server op de NAS de MP3's van de NAS afspelen, maar ik vind het eigenlijk veel eleganter om de iPhone meer als een remote te gebruiken en een player op de NAS te starten aangezien er toch een geluidskaart op de mobo zit...

Graag jullie reacties!

[HarmoniousVibe]

Je zou MPD kunnen gebruiken. MPD (Music Player Daemon) is een 'server' die je op je NAS kunt installeren. Je kunt dan connecten met die service mbv verschillende clients (Windows/Linux/OSX/Android/iOS/web) en hem zo bedienen. Zelf vind ik hem erg fijn werken, al zijn niet alle clients even goed. De MPD-server draait voor zover ik weet alleen op *NIX.

Over het afspelen van films: is het niet mogelijk om je NAS direct met je TV te verbinden er een NAS/HTPC-combinatie van te maken? De PS3 schiet namelijk enorm tekort als het gaat over het media center-gedeelte.

[FireDrunk]

Phoenix1337 schreef op zondag 23 januari 2011 @ 20:17:
Das wel netjes. Ben benieuwd wat mijn array met 16 schijven dan gaat doen zijn ook green/ecogreen schijven.

Heb je al een MDADM array? Want anders moet je verrektes veel /temp hebben

[Phoenix1337]

Nope, ik heb nog een mdadm array. Ik ga eerst een array aanmaken van 9 schijven en dan de data overkopiëren en daarna de schijven toevoegen aan de array. Moet wel lukken toch

[FireDrunk]

Je gaat je data op je 9 nieuwe schijven zetten, en dan je array oprekken met je 7 oude schijven?

[Phoenix1337]

Jup

Schijven, controllers en kabels zijn besteld. Nu maar afwachten tot alles binnen is

[FireDrunk]

Dat word one-hell-of-a resync

[Phoenix1337]

Ja dat wordt t zeker 2TB data overzetten duurt al een eeuwigheid. Moet je nagaan als je 14TB moet overpompen

[FireDrunk]

Nou, het probleem is nog niet eens het 'overpompen' als wel dat resync nogal wat Random I/O is
Een resync van mijn array (1 disk vervangen in 8x1.5TB) duurt 80 uur.

Ik denk dat jou array wel een weekje staat te pruttelen...

[Phoenix1337]

Ahh oke, nouja, tis niet anders. Is je array wel beschermd tijdens uitbreiden dan ?

[FireDrunk]

Nee Als er dan een disk kaput gaat, ben je het haasje (in 9/10 gevallen)

[Phoenix1337]

Nou, ik kan mn schijven straks ophalen. Nu nog wachten op de controllers en kabels

[HarmoniousVibe]

FireDrunk schreef op maandag 24 januari 2011 @ 11:31:
Nee Als er dan een disk kaput gaat, ben je het haasje (in 9/10 gevallen)

Jawel, er is een verschil tussen recoveren/resyncen of hoe dat ook heet en reshapen. Resyncen moet als je een degraded array hebt en je er een andere schijf hebt ingeprikt. Reshapen daarentegen gebeurt bij het growen van je array. Je array blijft gedurende zo goed als het gehele proces clean. Ik ben zelf nu toevallig aan het reshapen:

Personalities : [linear] [multipath] [raid0] [raid1] [raid6] [raid5] [raid4] [raid10]
md5 : active raid5 sde[3] sdc[1] sdd[4] sdb[5]
      3907025920 blocks super 1.2 level 5, 512k chunk, algorithm 2 [4/4] [UUUU]
      [======>..............]  reshape = 30.8% (602355200/1953512960) finish=1175.2min speed=19161K/sec

unused devices: <none>

/dev/md5:
        Version : 1.2
  Creation Time : Tue Jan  4 14:32:19 2011
     Raid Level : raid5
     Array Size : 3907025920 (3726.03 GiB 4000.79 GB)
  Used Dev Size : 1953512960 (1863.02 GiB 2000.40 GB)
   Raid Devices : 4
  Total Devices : 4
    Persistence : Superblock is persistent

    Update Time : Mon Jan 24 12:34:06 2011
          State : clean, recovering
 Active Devices : 4
Working Devices : 4
 Failed Devices : 0
  Spare Devices : 0

         Layout : left-symmetric
     Chunk Size : 512K

 Reshape Status : 30% complete
  Delta Devices : 1, (3->4)

           Name : sonata:5  (local to host sonata)
           UUID : 90b4fbd8:572da7fa:31f87a3d:02783f24
         Events : 9708

    Number   Major   Minor   RaidDevice State
       4       8       48        0      active sync   /dev/sdd
       1       8       32        1      active sync   /dev/sdc
       3       8       64        2      active sync   /dev/sde
       5       8       16        3      active sync   /dev/sdb

Je array is niet degraded omdat je de ruimte op de nieuwe schijf niet kunt gebruiken totdat de array volledig is gereshaped.

Reshapen is overigens wel veel trager (20MB/s zoals je ziet) dan resyncen (+/- 70MB/s), vanwege de random I/O. Resyncen is schijnbaar veel sequentiëler.

[FireDrunk]

20MB/s voor 14TB maakt:11.76 dagen... Zat ik er toch niet ver vanaf met mijn week

[HarmoniousVibe]

FireDrunk schreef op maandag 24 januari 2011 @ 13:13:
20MB/s voor 14TB maakt:11.76 dagen... Zat ik er toch niet ver vanaf met mijn week

Daar had ik het niet over..

[Phoenix1337]

Hmmm, lekker dan Ben dan wel ineenkeer klaar natuurlijk met mn hele array dus dat scheelt alweer

[FireDrunk]

Daarom heb ik gewoon 4 nieuwe disks gekocht... Even data overkopieren (paar uurtjes) en dan nieuwe array aanmaken die instant klaar is

Misschien dat ik alle disks nog even echt wipe, misschien dat dat nog iets uitmaakt voor de snelheid, maar denk dat dat wel meevalt...

[Phoenix1337]

Ik heb de schijven naast me liggen nu vanavond maar eens flashen.

[FireDrunk]

LB06 schreef op maandag 24 januari 2011 @ 13:14:
Daar had ik het niet over..

Klopt, maar blijft vervelend lang

[HarmoniousVibe]

FireDrunk schreef op maandag 24 januari 2011 @ 15:04:
[...]

Klopt, maar blijft vervelend lang

Klopt . Echter gaat het met meer schijven misschien wat sneller. En je array is iig niet degraded

[FireDrunk]

Mjah, dat is iig goed om te weten, Ik snap niet zo goed waarom dat zoveel IO moet genereren... Dat ding kan toch gewoon eerst een flinke analyze maken, en dan alles sequentieel overpompen? Lijkt me dat dat 100x sneller gaat...

[Phoenix1337]

Mooi he 9 x Samsung HD024UI 2TB

[DJ-Visto]

Nice, leuk spul

[FireDrunk]

Ach, leuk Heb net zelf ook 4 * 2TB F4EG's gekocht
Heb wel idioot veel schijven nu 8*1.5TB + 4*2TB

[Phoenix1337]

Wordt je pc ook zo lekker zwaar van is nu al niet meer te tillen. Als je uitgaat van 700 gram per schijf dan kom ik uit op 16*700 gram = 11,2 kilo alleen aan schijven. Dan is de rest nog niet eens meegerekend.

[FireDrunk]

Ik heb een Enligh EN8080 Servercase... gelukkig zitten er wieltjes onder

[Phoenix1337]

Dat heb ik ook maar gedaan, maar rol m liever niet buiten over de straat dus dat stuk moet ik altijd tillen. En de trap op rollen gaat ook zo moeilijk.

Ik heb trouwens een nexus edge.

[ Voor 3% gewijzigd door Phoenix1337 op 24-01-2011 19:50 ]

[lampie1979]

Phoenix1337 schreef op maandag 24 januari 2011 @ 18:06:
[afbeelding]

Mooi he 9 x Samsung HD024UI 2TB

Vergeet je ze niet te flashen (/check firmware)! Anders kan het wel eens zijn dat je data corrupt is voordat ze de schijf bereikt.

[FireDrunk]

Welke firmware moeten ze hebben?

[sloth]

Patch tool for Identify fail during NCQ write command.(Model: F4EG)

[Q]

Phoenix1337 schreef op maandag 24 januari 2011 @ 10:27:
Ja dat wordt t zeker 2TB data overzetten duurt al een eeuwigheid. Moet je nagaan als je 14TB moet overpompen

Ha, en ik dacht dat ik mans was met 8 TB maar ik druip al weer met de staart tussen de benen af.

[heuveltje]

sloth schreef op maandag 24 januari 2011 @ 19:58:
Patch tool for Identify fail during NCQ write command.(Model: F4EG)

If identify commmand is issued from host during NCQ write command in the condition of PC ,
write condition is unstable. So It can make the loss of written data.
(Model : F4EG HD204UI, HD204UI/Z4, HD204UI/UZ4, HD155UI, HD155UI/Z4, HD155UI/UZ4)

To improve this problem, Please use the attached DOS model patch tool.

Jeez wat is dat voor babelfish engels
* heuveltje gaat even checken wat voor firmware er in zijn hd's zitten

[DJ-Visto]

heuveltje schreef op maandag 24 januari 2011 @ 20:02:
[...]


If identify commmand is issued from host during NCQ write command in the condition of PC ,
write condition is unstable. So It can make the loss of written data.
(Model : F4EG HD204UI, HD204UI/Z4, HD204UI/UZ4, HD155UI, HD155UI/Z4, HD155UI/UZ4)

To improve this problem, Please use the attached DOS model patch tool.

Jeez wat is dat voor babelfish engels
* heuveltje gaat even checken wat voor firmware er in zijn hd's zitten

Zou ze zeker flashen Gewoon doen..

[Phoenix1337]

Ik ga ze ook zeker flashen, evenals mijn controller mocht het nodig zijn. Heb ook nog 1 samsung in mn huidige systeem die ook geflashed moet worden.

Alle hdd's die je nu koopt zijn niet geflashed dus dat moet je sowieso zelf doen. Denk dat de nieuwe firmware pas vanaf revB meegeleverd wordt.

Heb nexus ook nog even gemailed. De toolless montageonderdelen voor de hdd, daar is er 1 van afgebroken. Hopelijk kan je ie ergens los kopen.

[ Voor 52% gewijzigd door Phoenix1337 op 24-01-2011 20:12 ]

[sloth]

Ook nog goed om meegeven: je firmware versie veranderd niet nadat je de patch hebt aangebracht.
Je kan dus voor zover ik weet niet a.d.h.v. de firmware versie afleiden of je disks vatbaar voor dit probleem zijn.

[FireDrunk]

Zijn ze achterlijk in die toko bij Samsung?
Ookal alleen maar een tool voor DOS, jemig, die lui zijn niet wijs... Hoe moet ik in ** naam een DOS boot maken

[ Voor 57% gewijzigd door FireDrunk op 24-01-2011 21:49 ]

[Phoenix1337]

Je moet volgens mij iets met FreeDos doen. Ik ga er morgenavond waarschijnlijk mee bezig. Dan post ik wel even hoe t moet.

[HarmoniousVibe]

Het makkelijkste is om 2 partities te maken op een bootable USB-stick: op eentje zet je FreeDOS en op de andere de bestanden die je nodig hebt (de fw/bios).

[Verwijderd]

FireDrunk schreef op maandag 24 januari 2011 @ 20:39:
Zijn ze achterlijk in die toko bij Samsung?
Ookal alleen maar een tool voor DOS, jemig, die lui zijn niet wijs... Hoe moet ik in ** naam een DOS boot maken

Zo dus: http://www.lowfps.com/creating-a-bootable-usb-thumb-drive

Zo heb ik er toendertijd ook 16 gedaan, mijn 2 nieuwste aanwinsten moeten nog als mijn rebuild klaar is

[Phoenix1337]

Thnx, ga er vanavond even naar kijken.

[nero355]

FireDrunk schreef op maandag 24 januari 2011 @ 20:39:
Zijn ze achterlijk in die toko bij Samsung?
Ookal alleen maar een tool voor DOS, jemig, die lui zijn niet wijs... Hoe moet ik in ** naam een DOS boot maken

Heb ik een USB floppy drive voor Kan je gewoon in Windows doen dan. Laatst zelfs mijn MS-DOS 6.2 NL floppies gevonden dus dat kan altijd nog

[FireDrunk]

nero355 schreef op dinsdag 25 januari 2011 @ 11:36:
[...]

Heb ik een USB floppy drive voor Kan je gewoon in Windows doen dan. Laatst zelfs mijn MS-DOS 6.2 NL floppies gevonden dus dat kan altijd nog

Hoezo in windows... Die tool werkt niet onder 2008R2

[nero355]

FireDrunk schreef op dinsdag 25 januari 2011 @ 12:06:
Hoezo in windows... Die tool werkt niet onder 2008R2

Welke tool ?? MS-DOS Floppy Bootable formateren kan je in Windows gewoon doen toch ?!

[FireDrunk]

Maar dannog moet ik naar DOS booten

[nero355]

FireDrunk schreef op dinsdag 25 januari 2011 @ 14:49:
Maar dannog moet ik naar DOS booten

FYI : Dit is GoT hé !! Een prompt vindt een beetje Tweaker niet eng als het goed is

[Phoenix1337]

DOS is gewoon oldschool

[FireDrunk]

nero355 schreef op dinsdag 25 januari 2011 @ 14:56:
[...]

FYI : Dit is GoT hé !! Een prompt vindt een beetje Tweaker niet eng als het goed is

Niet eng, wel vervelend... Dan werken mijn downloads ondertussen namelijk niet meer en dan kan ik mijn 24TB aan Pr0n niet vergroten

Edit:
Maar het is intussen wel gelukt Met een oud 1GB usb stickje, en het linkje van Collie (waarvoor dank )
Alle schijven zijn geupdate Nu maar eens aan het kopieren gaan

Ik ben ondertussen alle RAID varianten aan het vergelijken.
Windows softwareraid doet het verrassend goed met de Samsung schijven... 4 schijven in RAID0 geven >500MB/s in Atto

Mochten er nog mensen zijn die graag dingen getest willen hebben qua RAID, roep het even, dan maak ik een lijstje.

Dingen die ik al wil gaan testen:

MDADM in ESX met Virtual Disks
MDADM in ESX met RDM
MDADM in ESX met Passthrough (VT-d)
Als filesystem wil ik ext4 en XFS testen.

ZFS in ESX met Virtual Disks
ZFS in ESX met RDM
ZFS in ESX met Passthrough (VT-d)

Windows Software RAID0 in ESX met Virtual Disks
Windows Software RAID0 in ESX met RDM
Windows Software RAID0 in ESX met Passthrough

Windows Software RAID5 in ESX met Virtual Disks (met paravirtualisatie ofc)
Windows Software RAID5 in ESX met RDM
Windows Software RAID5 in ESX met Passthrough
Onder Windows is het FS vanzelfsprekend NTFS

Nog toevoegingen?

[ Voor 69% gewijzigd door FireDrunk op 25-01-2011 15:57 ]

[Verwijderd]

Misschien FreeNAS in Virtualbox met zowel normale virtual disks als 'raw disks' die je met de createrawvmdk command-line optie aanmaakt; ben wel benieuwd hoeveel langzamer de virtuele disks zijn.

Maar hoe wil je dit allemaal testen? Misschien leuk als je hier een apart topic voor aanmaakt, als je het serieus wilt aanpakken.

[FireDrunk]

ESX op een Intel Xeon X3430 met VT-d en een Intel Server moederbord, 2 LSI 3081 controllers en 8 x 1.5TB disks

Waarom Virtualbox btw?

[ Voor 10% gewijzigd door FireDrunk op 25-01-2011 16:26 ]

[Verwijderd]

Open source, cross-platform en snel, en kan geconfigureerd worden om flush requests door te laten. Geen idee hoe dat zit met ESXi.

[FireDrunk]

Volgens mij kan je dat ook instellen. Met persistent disks is het volgens mij standaard aan.

[HarmoniousVibe]

Kleine update: heb mijn mdadm raid5-array gereshaped van 3 naar 4 schijven (WD20EARS) en ik zit inmiddels op een dikke 300MB/s sequentieel lezen en zo'n 170MB/s schijven. Best aardig, maar ik denk niet dat de performance van mijn LSI veel beter is dan die van mijn onboard SATA-controller (ATI SB700/SB800 @AHCI). Maar goed, nog steeds mooie cijfers vind ik zelf. Zeker voor softraid-5.

[FireDrunk]

Je zit dan ook meer tegen het limiet van RAID aan, en niet zozeer van de controller
RAID heeft natuurlijk een beetje overhead, en er kunnen maar 3 schijven tegelijkertijd echt data schrijven (de laatste schrijft pariteit) Een beetje nieuwe green sata schijf doet 70-80MB/s schrijven. Ik denk dat je zo'n duurdere controller pas gaat merken als je er echt veel of echt snelle schijven in stopt...

[Demo]

LB06 schreef op woensdag 26 januari 2011 @ 00:08:
Kleine update: heb mijn mdadm raid5-array gereshaped van 3 naar 4 schijven (WD20EARS) en ik zit inmiddels op een dikke 300MB/s sequentieel lezen en zo'n 170MB/s schijven. Best aardig, maar ik denk niet dat de performance van mijn LSI veel beter is dan die van mijn onboard SATA-controller (ATI SB700/SB800 @AHCI). Maar goed, nog steeds mooie cijfers vind ik zelf. Zeker voor softraid-5.

300 MB/s lezen met 4 disks in RAID5 is 100 MB per schijf, dat vind ik voor WD Greens al helemaal geen slechte score. Ik haal dat bij lange na niet, ook met 4 WD20EARS op een SB700.. Hoe heb jij je array aangemaakt, welk filesystem ligt er bovenop en hoe heb je dat aangemaakt?

[FireDrunk]

Bij RAID5 kunnen wel alle schijven tegelijk lezen hoor... De pariteit hoeft toch niet ingelezen te worden? Alleen bij het schrijven is er een schijf minder... Dus 300 / 4 is 75MB/s per schijf... Dat doet een 7200RPM laptop schijfje tegenwoordig ook al

[HarmoniousVibe]

Demoniac schreef op woensdag 26 januari 2011 @ 11:35:
[...]
300 MB/s lezen met 4 disks in RAID5 is 100 MB per schijf, dat vind ik voor WD Greens al helemaal geen slechte score. Ik haal dat bij lange na niet, ook met 4 WD20EARS op een SB700.. Hoe heb jij je array aangemaakt, welk filesystem ligt er bovenop en hoe heb je dat aangemaakt?

/dev/md5:
        Version : 1.2
  Creation Time : Tue Jan  4 14:32:19 2011
     Raid Level : raid5
     Array Size : 5860538880 (5589.05 GiB 6001.19 GB)
  Used Dev Size : 1953512960 (1863.02 GiB 2000.40 GB)
   Raid Devices : 4
  Total Devices : 4
    Persistence : Superblock is persistent

    Update Time : Wed Jan 26 15:58:07 2011
          State : clean
 Active Devices : 4
Working Devices : 4
 Failed Devices : 0
  Spare Devices : 0

         Layout : left-symmetric
     Chunk Size : 512K

           Name : sonata:5  (local to host sonata)
           UUID : 90b4fbd8:572da7fa:31f87a3d:02783f24
         Events : 16159

    Number   Major   Minor   RaidDevice State
       4       8       48        0      active sync   /dev/sdd
       1       8       32        1      active sync   /dev/sdc
       3       8       64        2      active sync   /dev/sde
       5       8       16        3      active sync   /dev/sdb

Personalities : [linear] [multipath] [raid0] [raid1] [raid6] [raid5] [raid4] [raid10] 
md5 : active raid5 sde[3] sdc[1] sdd[4] sdb[5]
      5860538880 blocks super 1.2 level 5, 512k chunk, algorithm 2 [4/4] [UUUU]

De array is vrij standaard dus. Wat er afwijkt is dat ik metadata level 1.2 gebruik (denk niet dat dit iets uitmaakt) en een chunk size van 512K. Ook gebruik ik mdadm 3.1.4 ipv mdadm 2.x.

Het filesystem is XFS en die is wel lichtelijk getweakt.

defaults,user,sunit=1024,swidth=3072,noatime,nodiratime,nodev,nosuid,allocsize=512m,logbufs=8,largeio

[analog_]

Die snelheid klopt toch exact als alle disks 100MB/s doen? Je hebt effectief maar n-1*min-transferspeed gelezen aan nuttige data, die pariteit brengt je niks op. 300MB voor vier schijven lijkt mij daarmee perfect te schalen.