HP server Raid 5, zeer lage schrijfsnelheid

[Pixal]

We hebben hier een aantal HP DL380 G5 servers hangen. Ze hebben een P400 array controller kaart met 256mb geheugen.

We hebben een Raid 5 met 6 sas schijven en een hot spare.

De SQL server is niet vooruit te branden, hieronder zie je de disk bench. Hoe komt het dat de schrijfsnelheden zo waardeloos zijn

We gebruiken server 2003 32bits, 4Gb Ram, Intel Xeon E5420.

Ik heb de firmware update van zowel de array controller als van de sas schijven uitgevoerd. De drivers komen rechtstreeks van de smartstart cd van HP.

[Question Mark]

Heeft de Raid controller wel een BBWC?

En alles op 1 grote Raid 5 gooien is nu ook niet echt conform SQL best practices...

Waaruit blijkt overigens dat de bottleneck bij de disken ligt? Heb je dit ook echt gemeten met bv. perfmon, of vermoed je dit omdat in jouw ogen de disken traag zijn.

[ Voor 77% gewijzigd door Question Mark op 07-02-2008 10:58 ]

[Pixal]

Question Mark schreef op donderdag 07 februari 2008 @ 10:56:
Heeft de Raid controller wel een BBWC?

En alles op 1 grote Raid 5 gooien is nu ook niet echt conform SQL best practices... Waaruit blijkt overigens dat de bottleneck bij de disken ligt. Heb je dit ook echt gemeten met bv. perfmon, of vermoed je dit omdat in jouw ogen de disken traag zijn.

De battery en 256 geheugen zijn inmiddels zelfs vervangen door een HP monteur, dat komt omdat dit DOA was.

We vermoeden dat de disks zo langzaam zijn omdat we bij het aanmaken van een administratie in exact (sql verwerking) het proces ongeveer 4 keer langer duurde dan op onze oude server met een simpele mirror van 2 IDE disks. Daarbij stond de disk queue in performance monitor op 100%.

Dat een raid 5 oplossing niet de beste keus is is nieuw voor me, daar heb ik me echter niet genoeg in verdiept.

[ Voor 27% gewijzigd door Pixal op 07-02-2008 11:01 ]

[Keiichi]

Question Mark schreef op donderdag 07 februari 2008 @ 10:56:
Heeft de Raid controller wel een BBWC?

Maar dan nog zijn de waardes voor zonder BBU zeer laag. Ik heb ergens anders een LSI controller zonder BBU om write-back in te zetten, maar hierbij krijg ik nog steeds een write snelheid van 30 a 40Mbytes/sec . Met BBU zou het ongeveer het dubbele zijn.

[Question Mark]

Keiichi schreef op donderdag 07 februari 2008 @ 11:01:
[...]


Maar dan nog zijn de waardes voor zonder BBU zeer laag. Ik heb ergens anders een LSI controller zonder BBU om write-back in te zetten, maar hierbij krijg ik nog steeds een write snelheid van 30 a 40Mbytes/sec . Met BBU zou het ongeveer het dubbele zijn.

De TS haalt met blocks van 1024K schrijfsnelheden van 71 MB/sec. Schrijven op Raid5 is vanwege parity berekeningen traditioneel k*t. Vandaar dat ik het eerlijk gezegd wel vind meevallen....

Uit de SQL Best practices

Always place log files on RAID 1+0 (or RAID 1) disks. This provides:

• better protection from hardware failure, and

• better write performance.

Note: In general RAID 1+0 will provide better throughput for write-intensive applications. The amount of performance gained will vary based on the HW vendor’s RAID implementations. Most common alternative to RAID 1+0 is RAID 5. Generally, RAID 1+0 provides better write performance than any other RAID level providing data protection, including RAID 5.


Isolate log from data at the physical disk level

• When this is not possible (e.g., consolidated SQL environments) consider I/O characteristics and group similar I/O characteristics (i.e. all logs) on common spindles.

• Combining heterogeneous workloads (workloads with very different IO and latency characteristics) can have negative effects on overall performance (e.g., placing Exchange and SQL data on the same physical spindles).

Het zou mijn voorkeur hebben om OS + pagefile, databasefiles en de logfiles op een aparte Raid te zetten (mirrored). Dus je maakt van je 6 disken drie Raid's. Tevens heb je dan nog de mogelijkheid om de Raid voor het OS op een apart kanaal van je Raid controller te plaatsen. (de P400 heeft twee kanalen).

[ Voor 58% gewijzigd door Question Mark op 07-02-2008 11:54 ]

[Pixal]

Het is inderdaad de moeite waard om dit helemaal om te gooien, gelukkig is de server nog niet live.

We zaten zelf te denken aan een Raid voor het systeem met 2 disks en een Raid 1+0 van 4 disks voor de database. Maar om de logs apart te houden kunnen we beter jouw plan doen dan.

[Question Mark]

Pixal schreef op donderdag 07 februari 2008 @ 12:00:
We zaten zelf te denken aan een Raid voor het systeem met 2 disks en een Raid 1+0 van 4 disks voor de database. Maar om de logs apart te houden kunnen we beter jouw plan doen dan.

Het voordeel van logs fysiek scheiden heeft vooral voordelen mbt redundancy.

Stel dat je Raid set waar je DB op staat failed, dan kun je met behulp van je DB backup en met de logs (die op een nog werkende Raid staan) je backup bijwerken tot het moment van crashen.

Plaats je alles op 1 Raid, dan kun je enkel je DB restoren van backup and that's it. Je logfiles zijn immers verloren, dus je kunt niets bijwerken.

Wel zal Raid10 over het algemeen beter performen dan een mirror. Het probleem wat je dan echter creeert is dat je twee "processen" op dezelfde Raid set hebt met verschillende read/write karakteristieken.

Je Database file zal veel random read/write acties hebben. Je logfiles daarentegen zullen vooral sequential write zijn. Ik heb wel eens artikels gelezen dat dit de performance ook niet ten goede komt.

De beste opstelling zal dus rekening moeten houden met de eisen mbt restore/redundancy, en de soort bewerkingen die op de database gedaan worden (veel wijzigingen versus enkel raadplegen).

Overigens zijn dit de "best practices", wat puur theorie is. Het hoeft niet op deze manier ingericht te worden.

[Fauna]

Wellicht dat dit draadje op het HP support forum je verder helpt: http://forums12.itrc.hp.c...28353475&threadId=1158952

Een vriend van me had laatst een vergelijkbaar probleem met zo'n HP server, en dit lijkt het probleem te verhelpen.

[Pixal]

Geen succes,

Ik heb windows op een mirror van 2 disks gezet, deze haalt nog steeds de belabberde schrijfsnelheden, de leessnelheden zijn ook gehalveerd. De test ziet er ongeveer hetzelfde uit als de eerste die ik plaatste.

Hieronder zie je een test van eenzelfde systeem in Raid 5 met 3 disks. Deze is zelfs momenteel live met een exchange server dus waarden zouden nog iets hoger kunnen liggen al verwacht ik weinig verschil.


Deze haalt 60 keer hogere schrijfsnelheden aan het begin van de test. Lees en schrijfsnelheden komen ook dichter bij elkaar. Dat vind ik wel een heel groot verschil vergeleken met de probleemserver. Enige punt wat interessant kan zijn, ik ben even gaan spieken in de server die er al hing, daar zit een Array controller met 512 ipv 256 MB geheugen en vanaf de 512 mb gaat nog een kabeltje naar een Battery Backup. Ik zei dat we een backup battery hadden in de nieuwe server met de lage snelheden maar dit apparaatje zit er duidelijk niet in.

Kan dit zo'n groot verschil maken?

[ Voor 4% gewijzigd door Pixal op 08-02-2008 11:50 ]

[richard_kraal]

ja, geen battery op een p400 betekend disabled write cache

[Question Mark]

richard_kraal schreef op vrijdag 08 februari 2008 @ 12:41:
ja, geen battery op een p400 betekend disabled write cache

En vandaar dat het aanwezig zijn van een BBWC mijn allereerste vraag was... Kortom, rap bestellen dat ding

[Pixal]

naar dat die dingen optioneel zijn

[ Voor 6% gewijzigd door Pixal op 08-02-2008 13:26 ]

[Question Mark]

Pixal schreef op vrijdag 08 februari 2008 @ 13:26:
naar dat die dingen optioneel zijn

Ligt er aan welke server je besteld

Op de DL380P (P van Performance) is hij wel standaard...

Storage Controller:

Performance Models: HP Smart Array P400/512MB BBWC Controller (RAID 0/1/1+0/5/6)
Base Models: HP Smart Array P400/256MB Controller (RAID 0/1/1+0/5)
Entry Models: HP Smart Array E200/64MB Controller (RAID 0/1/1+0)

[/nitpick]

Laat naderhand effe weten wat je resultaten met BBWC zijn

[ Voor 28% gewijzigd door Question Mark op 08-02-2008 13:51 ]

[JHMvP]

Onze Exact-server draait met 3 RAID1 arrays; C:\ voor Windows, E:\ voor de databases en F:\ voor de SQL-logfiles...zie specs.

IBM eServer xSeries 226 8488-E4Y
- Towermodel met redundant voedingen
- 1x Intel Xeon 3000 MHz (tweede processor mogelijk)
- 3 GByte RAM PC2-3200
- SCSI Ultra320 ServeRaid 6i+ controller met 128Mbyte cache (battery backup)
- 6x harddisk 73,5Gbyte, SCSI Ultra320, 15.000rpm, 8Mbyte cache, seek 3,3ms, latency 2ms
- CD-rom, FDD, DDS Dat72 tapedrive
- Ethernet 10/100/1000

Disk C:
- 2x1 harddisk in RAID1, stripesize 64K, write-back cached
- NTFS geformatteerd, 64K clusters
- Gedeeld als \\ExactServer\Volume_C
- Windows 2003 Server SP1 plus alle OS-onderdelen (swapfile, tempfiles, etc. etc.)
- Alle programma's, utilities en andere binairies
- MS SQL binairies, Master, Model en Tempdb

Disk D:
- CD-ROM drive 52x

Disk E:
- 2x1 harddisk in RAID1, stripesize 64K, write-back cached
- NTFS geformatteerd, 64K clusters
- Gedeeld als \\ExactServer\Databases
- MS SQL databases

Disk F:
- 2x1 harddisk in RAID1, stripesize 64K, write-back cached
- NTFS geformatteerd, 64K clusters
- Gedeeld als \\ExactServer\Transactions
- MS SQL transaction logs

[Pixal]

Die backup battery kost 30 euro bij onze leverancier. Welke idioot laat dat ding dan achterwege!

Misschien voor mensen die er nog 10 hebben liggen. ik laat de resultaten zien als we hem binnen hebben, helaas was hij niet op voorraad.

[Question Mark]

Pixal schreef op vrijdag 08 februari 2008 @ 13:57:
Die backup battery kost 30 euro bij onze leverancier. Welke idioot laat dat ding dan achterweg

Ik heb een offerte op mijn scherm voor een DL360G5 met dezelfde Raid Controller (AS P400), waarbij de BBWC op 259 euro zit... Of ik wordt genaaid, of er gaat bij jouw iets fout.

[Pixal]

grr dubbel

[ Voor 122% gewijzigd door Pixal op 08-02-2008 14:21 ]

[Pixal]

Question Mark schreef op vrijdag 08 februari 2008 @ 14:04:
[...]


Ik heb een offerte op mijn scherm voor een DL360G5 met dezelfde Raid Controller (AS P400), waarbij de BBWC op 259 euro zit... Of ik wordt genaaid, of er gaat bij jouw iets fout.

uh? vraag me inderdaad ook af wat onze leverancier dan gaat leveren, ik heb hem alleen het bestelnummer doorgegeven wat ik van HP kreeg. Namelijk: 417836-b21



die kost ons 30 euro, wellicht dat bij jou de hele kaart incl battery 259 kost? Varta


effe voor de visueel ingestelden:

[ Voor 45% gewijzigd door Pixal op 08-02-2008 14:22 ]

[Question Mark]

Op de HP site kom ik dit tegen als BBWC optie (met listprice $699) :

http://h10010.www1.hp.com...ttery%20Kit&lang=en&cc=us

Als ik zoek op jouw product number lijkt het dat jij enkel de kabel aan het bestellen bent (met listprice $36):

HP Smart Array P400 24In Battery Cable Kit (417836-B21)

Product Description
This option kit contains a 24" battery cable and adhesive material for installing a battery into the following servers if a Smart Array P400 is integrated outside of the factory - HP ProLiant ML310 G3, HP ProLiant DL320 G4, HP ProLiant ML350 G5, HP ProLiant DL380 G5 (installations in a full size slot), and HP ProLiant DL580 G4.

http://h10010.www1.hp.com...Cable%20Kit&lang=en&cc=us

Het lijkt erop dat jij het verkeerde produkt besteld. Die $699 lijkt me redelijk realistisch in vergelijking met de 259 euro die op mijn offerte staat.

[ Voor 9% gewijzigd door Question Mark op 08-02-2008 14:49 ]

[Pixal]

Question Mark schreef op vrijdag 08 februari 2008 @ 14:40:
Op de HP site kom ik dit tegen als BBWC optie (met listprice $699) :

http://h10010.www1.hp.com...ttery%20Kit&lang=en&cc=us

Als ik zoek op jouw product number lijkt het dat jij enkel de kabel aan het bestellen bent (met listprice $36):

[...]


http://h10010.www1.hp.com...Cable%20Kit&lang=en&cc=us

Het lijkt erop dat jij het verkeerde produkt besteld. Die $699 lijkt me redelijk realistisch in vergelijking met de 259 euro die op mijn offerte staat.

Pff, tis dat ik het hier dus heb gepost, anders hadden we alleen een kabeltje binnengekregen.

Ik heb al vaker mijn twijfel over de HP helpdesk geuit (niet hier) maar dat is dus tamelijk gegrond. Zij geven me dit nummer, mijn leverancier denkt daar verder ook niet bij na...

ben hier al 2 dagen mee bezig

denk dat ik deze nodig heb:
http://h10010.www1.hp.com...ttery%20Kit&lang=en&cc=us

moet nog wel een kabeltje bij maar die heb ik al in bestelling staan

[ Voor 11% gewijzigd door Pixal op 08-02-2008 16:02 ]

[Question Mark]

Lekker verwarrend bij HP

Da's ook de reden dat ik alles simpel bij de leverancier neerleg. Ik vraag altijd om een bepaald type server en geef spec's zoals memory, cpu, redudante powersupply's en evt bbwc op.

Laat hem lekker de typenummers uitzoeken... Ik zie ze wel terug op de offerte...

Wellicht handig om de volgende keer eens naar een P-model server te kijken. Deze is wel duurder dan een base-model, maar heeft enkele interessante extra's standaard zoals:

• snellere cpu
• meer memory
• redudante powersupply
• BBWC

Zijn toch vaak zaken die je veelal toch als extra besteld. Prijstechnisch worden ze dan toch intressant.

[Pixal]

power en geheugen hebben we bijbesteld, bbwc nu ook, cpu hoefde niet sneller.. normaal gesproken halen we ook bij een leverancier maar de leverancier die we nu hebben werkt vooral met mac dus m'n collega heeft precies gezegd wat hij moest bestellen