Disks problemen met Dell R410

[Dennischo]

Hoi!

Sinds vorige week heb ik een Dell R410 draaien in de datacenter in Spijkenisse. Nu heb ik alleen last van task abort's van de schijven. Zodra ik de server in RAID1 zet beginnen de problemen, de server draait prima op 1 schijf, dan is er niks aan de hand. Ondertussen 4 verschillende schijven geprobeerd en dat bied geen oplossing. Dus het moet of aan de hardware (Backplane of SAS controller?) liggen of aan de software?

Foutmelding:
mptscsih: ioc0: attempting task abort! (sc=ffff880066136800)
[496085.622186] sd 0:1:0:0: [sda] CDB:
[496085.622188] Read(10): 28 00 0b 05 f6 77 00 00 01 00
[496085.622198] mptscsih: ioc0: task abort: FAILED (rv=2003) (sc=ffff88006613680

Dit dan elke keer als de disk write omhoog gaat, dus bijv bij het spiegelen (RAID1) of het maken van bijvoorbeeld Directadmin backups. Nogmaals, als ie draait op 1 schijf dan werkt alles als een trein...

Specs:
- XenServer 6.5
- 2x E5520 2.26GHz 8MB cache QuadCore
- 24GB PC3-10600R (6 x 4GB DDR3 ECC)
- 2x 1TB WD Blue
- DRAC 6 Enterprise
- SAS 6/IR RAID controller

Iemand bekend met dit probleem?

[magneet]

zit je nu sata schijven aan een sas raid controller te hangen? Ik denkd at het daar mis gaat, in theorie zou het misschien moeten kunnen werken maar probeer het eens met enterprise disks.

[RedShift]

Heb je de SMART data van sda al bekeken? Misschien is de schijf defect.

[Freezerator]

De WD Blue supporten geen TLER, ik denk dat daar je problemen liggen.

Wat info: http://wdc.custhelp.com/a...en-and-wd-black)-and-raid

[ Voor 51% gewijzigd door Freezerator op 18-06-2015 19:19 ]

[Dennism]

Vreemde schijfkeuze inderdaad, consumenten / zakelijke desktop schijven in een server, voordat je de backplate controller gaat verdenken, test eens met Dell gecertificeerde schijven voor deze controller. Kan zeer goed zijn dat al je problemen dan direct verdwenen zijn. Ik heb het vaker zien voorkomen dat bepaalde controllers niet lekker werken met schijven die niet voorzien zijn van compatible firmwares voor de gebruikte controller.

[Dennischo]

Thanks voor alle reacties!

Zal zo eens het e.a. aan firmware updaten. Kijken of dat iets helpt. In m'n vorige server zaten ook 2x 1TB WD's. Draaide prima. Daarom verdenk ik de schijven niet.

Volgens WD kan het sowieso draaien met max 2 schijven in raid1.
http://wdc.custhelp.com/a...1L3NpZC9Fbm9kdmRwbQ%3D%3D

[ Voor 7% gewijzigd door Dennischo op 18-06-2015 21:41 ]

[ShadowAS1]

Dennischo schreef op donderdag 18 juni 2015 @ 21:41:
Thanks voor alle reacties!

Zal zo eens het e.a. aan firmware updaten. Kijken of dat iets helpt. In m'n vorige server zaten ook 2x 1TB WD's. Draaide prima. Daarom verdenk ik de schijven niet.

Volgens WD kan het sowieso draaien met max 2 schijven in raid1.
http://wdc.custhelp.com/a...1L3NpZC9Fbm9kdmRwbQ%3D%3D

Ja, er staat RAID0/1 Configuratie.. maar men gaat er niet van uit dat je die op een SAS controller prikt. Maar meer op een desktop mobo'tje.

Ongeacht dat het vorige keer werkte, zou het bovengenoemde feit dat je schijven geen TLER ondersteunen, best wel eens de oorzaak kunnen zijn.

Zoals al gezegd: Haal ergens een paar Dell Certified schijven vandaan, en probeer het daar eens mee.
Werkt dat, dan is je probleem gelijk opgelost

Edit:
Op de link die jij geeft, staat ook nog bij het kopje 'caution' het volgende:

Critical: WD Blue, Green, Red or Black hard drives are not recommended for and are not warranted for use in RAID environments utilizing Enterprise HBAs and/or expanders and in multi-bay chassis, as they are not designed for, nor tested in, these specific types of RAID applications. For all Business Critical RAID applications, please consider WD’s Enterprise Hard Drives that are specifically designed with RAID-specific, time-limited error recovery (TLER), are tested extensively in 24x7 RAID applications, and include features like enhanced RAFF technology and thermal extended burn-in testing.

[ Voor 27% gewijzigd door ShadowAS1 op 19-06-2015 08:26 ]

[Sneezydevil]

Dennischo schreef op donderdag 18 juni 2015 @ 21:41:
Thanks voor alle reacties!

Zal zo eens het e.a. aan firmware updaten. Kijken of dat iets helpt. In m'n vorige server zaten ook 2x 1TB WD's. Draaide prima. Daarom verdenk ik de schijven niet.

Volgens WD kan het sowieso draaien met max 2 schijven in raid1.
http://wdc.custhelp.com/a...1L3NpZC9Fbm9kdmRwbQ%3D%3D

Staat wel het volgende bij:

consumer RAID applications

En dat is jou SAS controller natuurlijk zeker niet, en de ene WD schijf is de andere niet, deze blue's missen gewoon een aantal commando's waarvan de controller wel verwacht dat de schijven dit ondersteunen.

Ik zeg niet dat het de schijven zijn, maar ik ben het met de anderen eens dat de kans wel groot is, en de schijven zouden zeker mijn hoofdverdachten zijn.

[Bigs]

De SAS6iR ondersteunt wel SATA schijven, maar ik verwacht niet dat jouw desktop drives certified zijn voor gebruik met zo'n controller. Er is m.i. een grote kans dat het met Enterprise drives (bv. WD RE4) of gewoon originele Dell schijven wel werkt.

De controller is gebaseerd op de LSI SAS1068E chipset. Je zou de compatibility list voor een gelijksoortige LSI controller op basis van die chip kunnen zoeken om te kijken of je schijven daarop staan. Dell ondersteunt uiteraard alleen hun eigen schijven.

[ Voor 34% gewijzigd door Bigs op 19-06-2015 08:43 ]

[Dennischo]

Gister firmware updates gedraaid, was nodig ook... Firmware wat er nu op draaide kwam uit 2008.
2e disk zit er nu weer in en is bezig met het spiegelen nu. Tot nu toe nog geen problemen gehad. Net even tussendoor een DA backup laten draaien, ging prima!
Even afwachten nu. Eerder deed ie ook tijdens de sync, zonder dat er verder iets boeiends gebeurde op de server, ook vast lopen. Als er weer problemen zijn dan maar kijken naar andere schijven of gewoon een andere controller.

Thanks voor alle reacties hier, ben er nu zelf ook zeker van dat als het weer fout gaat dat het aan de controller/schijven ligt. Precies dus wat jullie zeggen, dat de schijven zeer waarschijnlijk gewoon niet compatible zijn met deze controller

[Question Mark]

Dennischo schreef op vrijdag 19 juni 2015 @ 12:28:
Als er weer problemen zijn dan maar kijken naar andere schijven of gewoon een andere controller.

Zou je die eventuele problemen niet gewoon voor willen zijn? Ik neem aan dat je deze Xenserver professioneel in wilt zetten, met een niet ondersteunde config gaan draaien is dan iets wat ik niet zou doen.

[_JGC_]

Sowieso is de SAS6/IR geen snelheidsmonster, is een instap RAID controller zonder BBU of cache. Over het algemeen staan de disks ook in WT mode ipv WB, schrijfperformance is om te huilen dan.

[Bigs]

Klopt, de disk cache van SATA schijven wordt bij de SAS6iR standaard uitgeschakeld waardoor de schrijfperformance om te huilen is (wat je in een virtualisatieopstelling op termijn wel zult gaan merken). Je kunt die in de BIOS wel inschakelen, alleen loop je bij stroomuitval dan wel risico op dataverlies.

[SilentDecode]

Freezerator schreef op donderdag 18 juni 2015 @ 19:16:
De WD Blue supporten geen TLER, ik denk dat daar je problemen liggen.

Wat info: http://wdc.custhelp.com/a...en-and-wd-black)-and-raid

Lijkt me niet.. Ik heb 2x 500GB WD Blue's in mijn server zitten met een PERC 6 RAID kaart..
Ondanks dat in het probleem geen RAID controller zit, maar een SAS HBA...

[SilentDecode]

magneet schreef op donderdag 18 juni 2015 @ 19:08:
zit je nu sata schijven aan een sas raid controller te hangen? Ik denkd at het daar mis gaat, in theorie zou het misschien moeten kunnen werken maar probeer het eens met enterprise disks.

Werkt prima hier.. 6x 500GB desktop schijven aan SAS of RAID controllers werkt gewoon hoor. Zowel bij HP als bij Dell of andere fabrikanten. Als ze dat dicht zouden knijpen gaat hun marktaandeel omlaag, omdat mensen voor thuisstorage soms ook best dikke controllers gebruiken.

[Rolfie]

SilentDecode schreef op vrijdag 19 juni 2015 @ 13:18:
[...]


Werkt prima hier.. 6x 500GB desktop schijven aan SAS of RAID controllers werkt gewoon hoor. Zowel bij HP als bij Dell of andere fabrikanten. Als ze dat dicht zouden knijpen gaat hun marktaandeel omlaag, omdat mensen voor thuisstorage soms ook best dikke controllers gebruiken.

Dat het nu werkt, wil niet zeggen dat je geen problemen kan krijgen in de toekomst. Toch lullig, als je "not supported" schijven in eens leeg zijn, door een bugje of compatibiliteit issue. Of een verkeerde schrijf transactie die verkeerd wordt uitgevoerd.

Als je de firmware updates soms door lees, dan vraag je je af, wie dit ooit ondervonden heeft. Meestal ben je blij dat jij er geen last van hebt gehad.

Daarom schaf je juist meestal een HP / DELL / IBM / Lenovo aan met supported onderdelen. Je wilt gewoon niet in eens voor verrassingen komen te staan. Zeker niet in een zakelijke productie omgeving.

[_JGC_]

De disks die Dell levert bij machines met SAS6/IR zijn ook gewoon consumer grade disks, de LSI 1068 is niet zo heel erg moeilijk wat betreft supported disks.

Als een disk geen TLER doet levert dit pas een probleem op zodra er slecht leesbare sectoren om de hoek komen kijken. Zonder TLER gaat de disk in het oneindige proberen te recoveren en knalt je disk uit het RAID array. Dat werkt dus gewoon totdat zo'n desktop disk tegen de beperkingen van z'n BER aan loopt (die is een factor 10 hoger dan van een enterprise disk).

Wat betreft firmware bugs, als die erin zitten bij Dell merk je die ook wel. Ik heb in het verleden meerdere servers met problemen gehad waarbij de bug in de controller firmware of in de disk firmware zat. Ik heb ooit een U320 SCSI server terug zitten forceren naar U160 omdat de meegeleverde Seagate disks zichzelf constant ophangen met Adaptec U320 controllers en "contact your vendor for a firmware update". Dell had in dat geval geen update, heeft 2 jaar geduurd voordat die er kwam.

[Bigs]

_JGC_ schreef op vrijdag 19 juni 2015 @ 14:52:
De disks die Dell levert bij machines met SAS6/IR zijn ook gewoon consumer grade disks, de LSI 1068 is niet zo heel erg moeilijk wat betreft supported disks.

[..]

Toch niet.. zelfs in de low-end R210's die wij hadden zaten Seagate Constellation en WD Caviar RE schijven (met DELL stickertje uiteraard). Die verschillen wezenlijk van hun consumenten evenknie (zwaarder gewicht, ribbon cables vervangen door robuustere verbindingen).

[_JGC_]

Bij een poweredge T840 zaten destijds gewoon seagate barracuda desktop disks, bij een sc1420 een adaptec u320 controller met cheetah's die constant uitvallen in u320 mode en bij een sc420 had ik destijds gewoon wd caviars en na een RMA wederom een seagate desktop disk.

Zo'n hoge pet heb ik niet op van de harddisk keuzes bij Dell, ik koop liever gewoon aftermarket enterprise disks zoals de WD RE of HGST Ultrastar, voor het prijsverschil kan je ook nog eigen voorraad aanhouden.

[Dennism]

_JGC_ schreef op vrijdag 19 juni 2015 @ 14:52:
De disks die Dell levert bij machines met SAS6/IR zijn ook gewoon consumer grade disks, de LSI 1068 is niet zo heel erg moeilijk wat betreft supported disks.

Als een disk geen TLER doet levert dit pas een probleem op zodra er slecht leesbare sectoren om de hoek komen kijken. Zonder TLER gaat de disk in het oneindige proberen te recoveren en knalt je disk uit het RAID array. Dat werkt dus gewoon totdat zo'n desktop disk tegen de beperkingen van z'n BER aan loopt (die is een factor 10 hoger dan van een enterprise disk).

Wat betreft firmware bugs, als die erin zitten bij Dell merk je die ook wel. Ik heb in het verleden meerdere servers met problemen gehad waarbij de bug in de controller firmware of in de disk firmware zat. Ik heb ooit een U320 SCSI server terug zitten forceren naar U160 omdat de meegeleverde Seagate disks zichzelf constant ophangen met Adaptec U320 controllers en "contact your vendor for a firmware update". Dell had in dat geval geen update, heeft 2 jaar geduurd voordat die er kwam.

Volgens mij zijn dat vaak geen consumer grade disks, maar entry level enterprise sata disks, i.i.g. in de machines die ik onder handen gehad met sata schijven (rebadged WD Re, Seate constellation e.d. met een Dell of HP label, afhankelijk van het server merk), maar wel altijd met custom Dell / HP firmware waardoor ze gegarandeerd werken met de controllers in die servers.

Dit wil uiteraard niet zeggen dat je geen andere schijven kan proberen (in bijv. een home server omgeving zou ik zelf dat zeker i.v.m kosten doen, tenzij niet mogelijk). Echter in een zakelijke omgeving zou ik gewoon de supported disks pakken, zodat je niet bij een mogelijke support call in de toekomst de vraag krijgt om eerst eens supported hardware te gaan plaatsen en daarmee te testen.

[larshack]

Ik zou hier persoonlijk schijven met TLER ondersteuning aanhangen, dus WD RE4 Enterprise SATA of nog beter SAS schijven.

[tweakict]

Server in datacenter, consumenten disken....vragen om problemen.

Zoals gezegd leveren de hardware leveranciers enkel ENT disken. Logisch toch? Het zijn ook geen "thuis" servers. Elk bedrijf wilt ENT disken vanwege de levensduur. Elke storing kost je namelijk geld.

Vernieuw de disken door ENT SAS modellen en je problemen zijn opgelost.