Configuratie HW/SW voor MySQL

[B-Man]

Wat is een goede manier om het storage subsystem onder MySQL, en MySQL zelf te benchmarken?

Ik heb al heel wat dingen bekeken, maar vind geen uniforme methodiek waarbij ik online kan vergelijken met anderen.

Ik heb heel wat leuke hardware staan, met een relatief kleine dataset, en toch performance die achterblijft.

Zo zie ik bijvoorbeeld het volgende:

Server 1 = 4x 10k SAS in RAID-10
Server 2 = 2x 15k SAS in RAID-1

code:

sh -c "dd if=/dev/zero of=tmp bs=8k count=400000 && sync"

server1: 
400000+0 records in
400000+0 records out
3276800000 bytes (3.3 GB) copied, 26.9963 seconds, 121 MB/s

server2:
400000+0 records in
400000+0 records out
3276800000 bytes (3.3 GB) copied, 7.84855 seconds, 418 MB/s

In beide servers zit een Perc 5/i van dell, met 256 MB geheugen en een BBU. De servers staan ten tijd van de test verder niets te doen. Het zijn twee 2950's, met beide >= 4GB geheugen. Het betreft schijven die compleet leeg zijn, het OS staat op een andere RAIDset.

Nu weet ik dat 15k SAS sneller is als 10k SAS, maar dat verschil zou goed gemaakt moeten worden door de RAID-10 vs. RAID-1, toch?
Alle firmware is up-to-date en identiek op de beide servers. Write policy is write-back (anders wordt de cache niet efficient gebruikt, al is dat hier minder relevant vanwege het sequential zijn van de writes).

Wat kan ik doen om boven water te krijgen wat hier niet goed gaat?

[ Voor 169% gewijzigd door B-Man op 02-05-2008 18:12 ]

[axis]

vreemd inderdaad.. je zou eens een andere benchmark als bonnie++ ofzo kunnen draaien, kijken of die dezelfde resultaten geeft? Misschien dat random seeks andere results geven..

als je veel tijd over hebt zou je ook nog eens kunnen testen met 2-disk stripe set van 10k, 15k, etc, misschien dat er dan iets boven water komt.. Ik snap het ook niet..

Welke OS draait erop? Welk filesystem?

[CyBeR]

Het lijkt mij ook heel sterk dat je 400MB/sec naar twee diskjes weet te schoppen. Ik denk dat je gewoon naar de effecten van write caching zit te kijken.

[ Voor 8% gewijzigd door CyBeR op 04-05-2008 20:35 ]

[B-Man]

Bedankt voor jullie reacties. Ik had zelf ook al het vermoeden dat ik naar write-caching zat te kijken. Daarom heb ik gespeeld met verschillende RAID configuraties (RAID-10 vs RAID-5), verschillende filesystems (ext3 vs. ext3 largefile vs. XFS), en met verschillende RAID schrijfinstellingen (write-through vs. write-back).

Volgens de specs zouden de 10k schijfjes rond de 80MB/s sustained moeten kunnen doen, en de 15k schijven tegen de 125MB/s.
Die 400 MB/s is gewoon raar, hoe je het ook wend of keert. De getallen in mijn startpost zijn verkregen met identieke controllers, met identieke firmware & drivers, exact hetzelfde OS, etc. Het lijkt vanwege die omstandigheden alsof de controller de (write-back) cache beter benut als er snelle schijven aanhangen. Er is immers maar 256MB cache, en ik heb getest met 3GB files.

Ik zal morgen/overmorgen Bonnie++ eens aanslingeren, kijken wat daar uit komt.

[CyBeR]

B-Man schreef op zondag 04 mei 2008 @ 21:56:
Het lijkt vanwege die omstandigheden alsof de controller de (write-back) cache beter benut als er snelle schijven aanhangen. Er is immers maar 256MB cache, en ik heb getest met 3GB files.

Dat is ook zo. Dan kan de data in die cache tenslotte sneller weggeschreven worden.

[B-Man]

CyBeR schreef op zondag 04 mei 2008 @ 22:09:
[...]


Dat is ook zo. Dan kan de data in die cache tenslotte sneller weggeschreven worden.

Snap ik. Mijn punt is dan ook dat de schijven dan wel sneller zijn, maar die 400MB/s zit nog steeds ruimschoots boven 2x125MB/s die de schijven tesamen sustained aankunnen. Dus ja, de controller kan sneller zijn cache wegschrijven naar de disks, maar dan (sustained) nog steeds niet sneller dan 250MB/s in dit geval?
Het is dan ook nog eens RAID-1, dus ik zou eerder een waarde tussen de 125MB/s en 175MB/s verwachten?

[_JGC_]

Die 400MB/s is de gemiddelde snelheid. Op het moment dat je cache bruikbaar is, zal die snelheid enorm pieken. Bij 15K RPM disks kan je cache sneller naar disk geschreven worden en kan effectief je cache meer en vaker gebruikt worden, dus heb je meer pieken (die ver boven de 400MB/s liggen).

[B-Man]

_JGC_ schreef op maandag 05 mei 2008 @ 11:38:
Die 400MB/s is de gemiddelde snelheid. Op het moment dat je cache bruikbaar is, zal die snelheid enorm pieken. Bij 15K RPM disks kan je cache sneller naar disk geschreven worden en kan effectief je cache meer en vaker gebruikt worden, dus heb je meer pieken (die ver boven de 400MB/s liggen).

Klinkt plausibel ja. Ben benieuwd wat Bonnie++ gaat laten zien; Ik vond ook nog een tooltje genaamd "sysbench", gemaakt door een MySQL performance engineer, om te meten hoeveel transactions/sec een machine aankan.