[Debian Sid] MDADM herkent RAID pas na fdisk

[AlterMann]

Sinds een reboot een aantal weken geleden door MDADM vreemd. Misschien is er een update geweest, misschien ook niet, ik weet het niet (reboot niet zo vaak). Het heeft wel altijd gewerkt (dooddoener, I know).

Het probleem: na elke reboot is een handmatige actie nodig om m'n RAID0 weer actief te krijgen. Het enige wat ik moet doen is de RAID-set stoppen, de disks openen in fdisk, write doen (geen andere aanpassingen) en opeens werkt het weer. Geen idee waar ik moet zoeken. Iemand een idee?

code:

root@coffee:~# mount -a
mount: wrong fs type, bad option, bad superblock on /dev/md127p1,
       missing codepage or helper program, or other error
       In some cases useful info is found in syslog - try
       dmesg | tail  or so

root@coffee:~# cat /proc/mdstat 
Personalities : [raid0] 
md127 : active raid0 sdd[0] sdb[1]
      3907028992 blocks 64k chunks                                                                                                                                                                                                                 
                                                                                                                                                                                                                                                   
unused devices: <none>   
root@coffee:~# mount /dev/md127 /mnt/movies/
mount: wrong fs type, bad option, bad superblock on /dev/md127,
       missing codepage or helper program, or other error
       In some cases useful info is found in syslog - try
       dmesg | tail  or so

root@coffee:~# mdadm --stop /dev/md127
mdadm: stopped /dev/md127
root@coffee:~# fdisk /dev/sdb

Command (m for help): w
The partition table has been altered!

Calling ioctl() to re-read partition table.
Syncing disks.
root@coffee:~# fdisk /dev/sdd

Command (m for help): w
The partition table has been altered!

Calling ioctl() to re-read partition table.
Syncing disks.
root@coffee:~# cat /proc/mdstat 
Personalities : [raid0] 
md127 : active raid0 sdd1[0] sdb1[1]
      3907023872 blocks 64k chunks
      
unused devices: <none>
root@coffee:~# mount /dev/md127 /mnt/movies/
root@coffee:~# df -h | grep md127
/dev/md127      3.6T  3.3T  112G  97% /mnt/movies
root@coffee:~# aptitude show mdadm
Package: mdadm                           
State: installed
Automatically installed: no
Version: 3.3-2

root@coffee:~# cat /etc/debian_version 
jessie/sid
root@coffee:~#

[BoAC]

Worden de drivers van je disk controllers wel geladen in je initrd voordat de mdraid driver wordt geladen?

[jeroen__online]

code:

mount -a

probeert /dev/md127p1 te mounten, en niet /dev/md127 ; staat het wel goed in je /etc/fstab? Daarnaast lijkt het probleem niet in mdadm te zitten, maar in het filesystem van je raid-device (/dev/md127); het gaat pas mis bij mounten, md127 is volgens mdadm gewoon netjes up & running. Staat er iets in dmesg en wat is de uitvoer van (eerst 'umount /dev/md127') en vervolgens:

code:

fsck /dev/md127

Vreemd is echter wel dat na die fdisk-actie het aantal blocks van je raid-device is veranderd..

[AlterMann]

Ik doe normaal ook mount -a, maar voor de output hierboven deed ik een "handmatige" mount.
Fstab lijkt OK te zijn:

code:

root@coffee:~# blkid /dev/md127
/dev/md127: UUID="2b30a2bc-05e8-41da-bf12-f4f21f067bc5" TYPE="ext4"
root@coffee:~# cat /etc/fstab | grep movies
UUID=2b30a2bc-05e8-41da-bf12-f4f21f067bc5       /mnt/movies     ext4 defaults   0       0
root@coffee:~#

Ik heb ook geen idee waar de md127p1 vandaan komt..

@daarboven: Hoe kan ik de driver-volgorde zien?

Blijft een raar geval dat het pas werkt nadat ik fdisk run op beide disks en geen aanpassingen doe

code:

root@coffee:~# fsck /dev/md127
fsck from util-linux 2.20.1
e2fsck 1.42.9 (28-Dec-2013)
/dev/md127: clean, 5600/244195328 files, 898608986/976755968 blocks
root@coffee:~#

Na umount uiteraard.

[jeroen__online]

Maakt het verschil als je dit in fstab zet (ipv op UUID)?

code:

/dev/md127       /mnt/movies     ext4 defaults   0       0

Wanneer je raid-device goed is gemount en je doet

code:

update-initramfs -u

gevolgd door een update van je bootloader ('update-grub') moet de kernel module altijd goed geladen worden bij opstarten. Ik denk echter niet dat dat het probleem is, aangezien md127 niet gebruikt wordt om van te booten.

[AlterMann]

Maakt geen verschil. Ook mdadm.conf vullen helpt niet (behalve dan dat het nu een md1 is ipv md127)..

root@coffee:~# mdadm --detail --scan
ARRAY /dev/md/1_0 metadata=0.90 UUID=90bd4784:a0959094:4b1deda4:6f48f326

Voor een reboot (werkende situatie)
ARRAY /dev/md/1_0 metadata=0.90 UUID=a23501ae:21421244:e4764007:3fd5350f

[CAPSLOCK2000]

voor:

md127 : active raid0 sdd[0] sdb[1]

na:

md127 : active raid0 sdd1[0] sdb1[1]

Heb je partities aangemaakt of niet? Voor die fdisk denkt je system van niet. Vervolgens schrijf je er een parititietabel overheen en werkt het wel.

[AlterMann]

code:

root@coffee:~# fdisk /dev/sdd

Command (m for help): p

Disk /dev/sdd: 2000.4 GB, 2000398934016 bytes
255 heads, 63 sectors/track, 243201 cylinders, total 3907029168 sectors
Units = sectors of 1 * 512 = 512 bytes
Sector size (logical/physical): 512 bytes / 512 bytes
I/O size (minimum/optimal): 512 bytes / 512 bytes
Disk identifier: 0x951b541d

   Device Boot      Start         End      Blocks   Id  System
/dev/sdd1              63  3907024064  1953512001   fd  Linux raid autodetect

Command (m for help):

Yes, beide disks hebben 1 partitie. Het enige wat ik doe is fdisk starten en direct met "w" afsluiten (en dus schrijven).

Ik heb net gereboot, fdisk geeft een goed resultaat (zoals verwacht) maar nog geen RAID:

code:

root@coffee:~# fdisk -l /dev/sd[bd]

Disk /dev/sdb: 2000.4 GB, 2000398934016 bytes
255 heads, 63 sectors/track, 243201 cylinders, total 3907029168 sectors
Units = sectors of 1 * 512 = 512 bytes
Sector size (logical/physical): 512 bytes / 512 bytes
I/O size (minimum/optimal): 512 bytes / 512 bytes
Disk identifier: 0xb5f7a57f

   Device Boot      Start         End      Blocks   Id  System
/dev/sdb1              63  3907024064  1953512001   fd  Linux raid autodetect

Disk /dev/sdd: 2000.4 GB, 2000398934016 bytes
255 heads, 63 sectors/track, 243201 cylinders, total 3907029168 sectors
Units = sectors of 1 * 512 = 512 bytes
Sector size (logical/physical): 512 bytes / 512 bytes
I/O size (minimum/optimal): 512 bytes / 512 bytes
Disk identifier: 0x951b541d

   Device Boot      Start         End      Blocks   Id  System
/dev/sdd1              63  3907024064  1953512001   fd  Linux raid autodetect
root@coffee:~#

[ Voor 44% gewijzigd door AlterMann op 07-01-2014 23:14 ]

[Rainmaker]

Werkt in plaats van het writen van fdisk het ook als je het commando "partprobe" draait?

Wat is de output van /proc/partitions voor en nadat het werkt?

[Hero of Time]

Alsook, je mdadm laat de schijf zien, terwijl er partities gebruikt wordt. Indien mogelijk, disassemble je array en assemble 'm opnieuw, maar ipv te verwijzen naar /dev/sdb en /dev/sdd, verwijs je naar de partitie, dus /dev/sdb1 en /dev/sdd1. Heb je trouwens na een verse boot wel de partities zichtbaar in /dev/? Het commando van Rainmaker laat het systeem devices scannen op partities, iets wat tijdens boot al moet gebeuren.

[AlterMann]

code:

root@coffee:~# cat /proc/partitions
major minor  #blocks  name

  11        0    1048575 sr0
   8       16 1953514584 sdb
   8       96 1465138584 sdg
   8       97 1465136001 sdg1
   8        0 1465138584 sda
   8        1 1465137560 sda1
   8       32   78150744 sdc
   8       33   74936320 sdc1
   8       34          1 sdc2
   8       37    3212288 sdc5
   8       64  976762584 sde
   8       65  976760001 sde1
   8       80  976762584 sdf
   8       81  976760001 sdf1
   8       48 1953514584 sdd
root@coffee:~# partprobe
bash: partprobe: command not found
root@coffee:~# mdadm --stop /dev/md127
mdadm: stopped /dev/md127
root@coffee:~# mdadm --assemble --verbose /dev/md127 /dev/sdb1 /dev/sdd1
mdadm: looking for devices for /dev/md127
mdadm: cannot open device /dev/sdb1: No such file or directory
mdadm: /dev/sdb1 has no superblock - assembly aborted
root@coffee:~# fdisk -l /dev/sdb

Disk /dev/sdb: 2000.4 GB, 2000398934016 bytes
255 heads, 63 sectors/track, 243201 cylinders, total 3907029168 sectors
Units = sectors of 1 * 512 = 512 bytes
Sector size (logical/physical): 512 bytes / 512 bytes
I/O size (minimum/optimal): 512 bytes / 512 bytes
Disk identifier: 0xb5f7a57f

   Device Boot      Start         End      Blocks   Id  System
/dev/sdb1              63  3907024064  1953512001   fd  Linux raid autodetect
root@coffee:~# ls /dev/sd
sda   sdb   sdc1  sdc5  sde   sdf   sdg   sdh   sdj
sda1  sdc   sdc2  sdd   sde1  sdf1  sdg1  sdi   sdk

Ah, ik ben dus (bij boot) m'n partities kwijt terwijl fdisk ze wel ziet

Edit: Partprobe geinstalleerd, gerunned, werkt.. Even rebooten, kijken wat ie doet

Edit2: Goed, na een reboot is het nog steeds niet goed. Maarrrr... als ik mdadm --stop /dev/md127 doe en daarna partprobe doet ie het wel

[ Voor 6% gewijzigd door AlterMann op 07-01-2014 23:51 ]

[Hero of Time]

Nou, dmesg/kernl.log/messages bekijken en uitzoeken wat er nou in vredesnaam gebeurt! Wat je natuurlijk ook kan doen, als-ie nog leeg is, is de partities verwijderen, hele disk in mdadm smijten (ipv partities) en een partitie op je array maken zodat je /dev/md#p1 krijgt, wat er eerst wordt gezocht. Hoe heb je ooit de opstelling gemaakt? Bepaalde handleiding gevolgd?

[AlterMann]

Hoe ik het ding gemaakt heb weet ik niet meer, draait al een paar jaar.. volgens mij heb ik toen op beide disks 1 partitie gemaakt, type Linux raid autodetect en toen zoiets als "mdadm --create --verbose /dev/md0 --level=stripe --raid-devices=2 /dev/sdb1 /dev/sdd1".
Partities verwijderen ga ik niet aan beginnen, staat 3.5TB aan films en series op en die kan ik niet zomaar ergens anders plaatsen

Ik ga van het weekend maar eens logfiles bekijken, hopen dat daar iets uit te halen valt.. blijft raar dat het een paar jaar gewerkt heeft en opeens niet meer.

[Hero of Time]

Tja, andere werking van nieuwe versie mdadm . Ik was overigens wat lui om te kijken of die 98% nou vrij of in gebruik was .

Je opzet is in principe goed. Het is zeker vreemd waarom het opeens niet meer wil. Het meest vreemde is dat de kernel de partities niet automatisch leest. Alsof de schijven er te lang over doen om correct te initialiseren.