Unix/Linux Fileserver permissies structuur

[peak]

Hallo,

Ik vind dat het tijd wordt om 2 TB aan gegevens op 1 centraal punt te hebben.
Ik wil de bestanden vanaf windows beschikbaar houden.(Samba)
Nu wil ik mijn data overzetten naar een UFS/ ext3 bestandsysteem en ik zie door de bomen het bos niet meer. Ik heb overal gezocht naar een duidelijk tutorial of voorbeeld, maar wellicht krijg ik hier een helder antwoord.

Er gaan meerdere computers/mensen gebruik maken van de bestanden.
Er komt een HTPC die zijn films van de server afhaalt en een gast met een laptop en ik zelf.

Hoe o hoe en waar o waar begin ik met het verzinnen/maken van de permissies???

Ik wil altijd toegang hebben tot alle gegevens. De rechten moeten inprinciepe doorgegeven worden als ik een map naar de share toe kopieer of aanmaak.( ook als een ander user account dit doet )
Een gast kan alleen bij bepaalde mappen komen.(dit kan ik instellen als other)
M'n vriendin of een ander vertrouwt persoon mag ook alles, maar niet in mijn persoonlijke map. ( Moet ik dan mn vriendin en de ander vertrouwt persoon toevoegen aan een bepaalde group?)

Nogmaals in het kort:

Ik wil rechten over alle bestanden hebben die men erop zet zonder dat ik elke keer chown peak .... of chmod moet uitvoeren.
De rechten die men op een bepaalde share zet krijgen automatisch de rechten die ik wil dat ze hebben.

Ik heb het 1 en ander gelezen over setuid en setguid en flagbit. Maar ik kan nergens een duidelijk tutorial of verhaal van iemand vinden die hetzelfde wilt als ik.

/mnt/Movies (Ik alle rechten - Group vrienden alle rechten - Others alleen lezen)
/mnt/Private (Ik alle rechten - Group geen - Others geen)
/mnt/Documents ( Ik alle rechten - Vriendin alle rechten* - others geen) Maar dan moet ik mn vriendin aan 2 groepen toevoegen, want anders kan de group vrienden ook in Documents komen.

Ik wil dit allemaal in *BSD doen(FreeNas). Dus ga gebruik maken van UFS en geen EXT3.

Ik kon dit ook op hun forum plaatsen, maar ik voel me hier vertrouwder.

Ontzettend bedankt.

Mike

[Zwerver]

Echt alle informatie die je zoekt staat hier in. Houdt in de gaten dat je zowel op SMB niveau als op unix-fs niveau moet zorgen dat de toegang goed geregeld is. Voor de rest is het een kwestie van de howto doorlezen en zoeken en gij zult vinden.

[peak]

Zwerver schreef op maandag 26 januari 2009 @ 15:11:
Echt alle informatie die je zoekt staat hier in. Houdt in de gaten dat je zowel op SMB niveau als op unix-fs niveau moet zorgen dat de toegang goed geregeld is. Voor de rest is het een kwestie van de howto doorlezen en zoeken en gij zult vinden.

Kun je even uitleggen wat je bedoelt met op SMB niveau en op UFS niveau.
Ik stel de rechten in op UFS niveau en SMB regelt wie de share mag benaderen toch?
Zoeken heb ik al gedaan
De manual van samba heb ik voordat ik ging posten al doorgenomen.

Ik zoek echter iemand die wat duidelijker kan zijn dan de manual en met name een voorbeeld van hoe hij/zij het bij hem thuis heeft.

Ik neem aan dat er wel een tweaker is die een fileserver heeft en dat daar meer mensen van gebruik maken.

Mike

[ Voor 9% gewijzigd door peak op 26-01-2009 17:54 ]

[Tim]

Ik snap je probleem niet helemaal denk ik.

Heb je al gekeken naar force user / force group (samba)? Blijkbaar wel, want je hebt het wel over setuid en setguid (wat bijna hetzelfde is).
Verder is het geen probleem als iemand in 2 groepen hoort, dus wat dat betreft staan je rechten nu toch gewoon goed?

Misschien is het handiger om een groep 'movies' te maken, waar je al je vrienden aan toevoegt, en een groep 'documenten' voor jezelf en je vriendin. Of samba te gebruiken voor je toegang, en 'valid users = @vrienden' / valid users = mijzelf vriendin' toe te voegen aan de share. Of beide.
Samba kan ook automatisch de rechten op bestanden aanpassen (create mode), zodat bestanden gewoon de juiste persoon als eigenaar kunnen hebben.

[Deikke]

Ik zit hier ook een beetje tegenaan, omdat er op linux file niveau geen echte manier bestaat om bestanden te kunnen delen. Het is erg lastig om een bepaalde groep schrijfrechten te geven en andere alleen leesrechten, en weer andere helemaal geen. Het makkelijkste is om alle files gemaakt door samba eigenaar te laten zijn van other of smbuser, en dan de permissies op samba niveau regelen. Helaas zit dit gebruikmaken van andere services (nfs, ftp, sftp) een beetje in de weg, aangezien die op file niveau dingen verlangen.

Er zijn ook oplossingen als openfiler, die dit probleem hebben opgelost, geloof ik. Mischien dat je daar kan kijken hoe dat geconfigureerd is?

[peak]

Tes schreef op maandag 26 januari 2009 @ 18:01:
Ik snap je probleem niet helemaal denk ik.

Heb je al gekeken naar force user / force group (samba)? Blijkbaar wel, want je hebt het wel over setuid en setguid (wat bijna hetzelfde is).
Verder is het geen probleem als iemand in 2 groepen hoort, dus wat dat betreft staan je rechten nu toch gewoon goed?

Misschien is het handiger om een groep 'movies' te maken, waar je al je vrienden aan toevoegt, en een groep 'documenten' voor jezelf en je vriendin. Of samba te gebruiken voor je toegang, en 'valid users = @vrienden' / valid users = mijzelf vriendin' toe te voegen aan de share. Of beide.
Samba kan ook automatisch de rechten op bestanden aanpassen (create mode), zodat bestanden gewoon de juiste persoon als eigenaar kunnen hebben.

Ik snap dat je mij niet snapt haha.

Wat ik wil is: (Ik gebruik even het windows voorbeeld)
1 Share met Movies
En in die share zitten verschillende mappen en dat die beveiligt zijn op NTFS niveau.
Dan hoef ik niet alles in SMB te defineren wie wat waar mag, maar dat dit door het O/S gebeurt.
Want stel dat ik mn samba config kwijt raak, of ik besluit m'n hardeschijven naar een ander O/S te verplaatsen, dat de rechten structuur behouden blijft.

Als het allemaal te lastig wordt en ik er slapeloze nachten van krijg, dan blijf ik uiteindelijk op een windows server. (Het klinkt stom, maar ik ben daar weer veel beter in en daar kan ik precies doen wat ik voor ogen heb)(Het liefst ga ik voor Unix/Linux, want dan leer ik iets. Maar niet ten koste van koppijn en slopeloosheid)

Thanks.

[peak]

Deikke schreef op maandag 26 januari 2009 @ 18:08:
Ik zit hier ook een beetje tegenaan, omdat er op linux file niveau geen echte manier bestaat om bestanden te kunnen delen. Het is erg lastig om een bepaalde groep schrijfrechten te geven en andere alleen leesrechten, en weer andere helemaal geen. Het makkelijkste is om alle files gemaakt door samba eigenaar te laten zijn van other of smbuser, en dan de permissies op samba niveau regelen. Helaas zit dit gebruikmaken van andere services (nfs, ftp, sftp) een beetje in de weg, aangezien die op file niveau dingen verlangen.

Er zijn ook oplossingen als openfiler, die dit probleem hebben opgelost, geloof ik. Mischien dat je daar kan kijken hoe dat geconfigureerd is?

Downloading....

Ik wil het liefst inderdaad op filesystem niveau permissies instellen.

[peak]

Ok ok. Ik kan windows NTFS rechten niet met UFS/EXT3 vergelijken.

Wellicht kan iemand mij helpen met het opzetten van een fileserver (Freenas).
Dat er 1 eigenaar is van alle shares/data en dat als iemand een file kopieert dat die file er ook bij hoort.
Heb begrepen dat dit door setuid en setguid gebeurt, maar hoe.

En dat er meerdere local users worden aangemaakt die weer bepaalde rechten hebben. En dit kan ik het beste doen d.m.v. met groepen te werken.

Echter heb ik nu zoveel gelezen en snap er geen hout meer van. Ik moet een juiste manier hebben en dat vraag ik dus aan jullie.

Waar begin ik en wat kan ik het beste doen.

[zomertje]

Ik zou eens wat dingen gaan uitproberen als ik jou was. Daar leer je het meeste van. Het is niet helemaal de bedoeling dat we je aan het handje gaan nemen.

[peak]

zomertje schreef op dinsdag 27 januari 2009 @ 08:18:
Ik zou eens wat dingen gaan uitproberen als ik jou was. Daar leer je het meeste van. Het is niet helemaal de bedoeling dat we je aan het handje gaan nemen.

Haha, nee dat begrijp ik en ik was gisteren daarom uren bezig met uitproberen. Je hebt helemaal gelijk dat uitproberen je het meeste van op steekt.

Nu heb ik dus wel het 1 en ander in gedachte hoe ik het het beste kan doen.

1 ding werkt echter niet of ik begrijp het niet.
Ik wil dat als persoon x een file kopieert of aanmaakt in een map, dat de ownership automatisch verandert naar de map owner.
Nu heb ik gelezen dat dit kan als je SETUID dus 4750 of iets anders met een 4 ervoor doet.
Echter werkt het niet automatisch. Het werkt alleen als ik weer chmod 4750 test/ doe op een map.
Ik had ook gelezen over force user.
En create mask, dat werkt wel, maar dat verandert de file owner niet.

Kun je me hier mee een richting in trappen betreft zoek termen op google? Ik kan het niet vinden namelijk

Maarjah, nu ben ik tegen het volgende aangekomen.

Welk O/S kies ik, aangezien ik niet veel goeds lees over FreeNAS met upgraden en ik toch liever een fileserver heb met een web frontend. ( Plus vind ik de torrentclient ideaal)

[Verwijderd]

peak schreef op dinsdag 27 januari 2009 @ 09:53:
[...]
Welk O/S kies ik, aangezien ik niet veel goeds lees over FreeNAS met upgraden en ik toch liever een fileserver heb met een web frontend. ( Plus vind ik de torrentclient ideaal)

De ultieme fileserver met web frontend is in mijn ogen openfiler. Openfiler is een zeer volwassen product en wordt ook erg veel in enterprise omgevingen gebruikt. Ik ken diverse organisaties die 24/7 op openfiler draaien. Zelf ben ik niet zo gek op dit soort oplossingen maar voor openfiler wil ik toch een uitzondering maken

http://www.openfiler.com/

en

Wikipedia: Openfiler

[peak]

Verwijderd schreef op dinsdag 27 januari 2009 @ 18:06:
[...]


De ultieme fileserver met web frontend is in mijn ogen openfiler. Openfiler is een zeer volwassen product en wordt ook erg veel in enterprise omgevingen gebruikt. Ik ken diverse organisaties die 24/7 op openfiler draaien. Zelf ben ik niet zo gek op dit soort oplossingen maar voor openfiler wil ik toch een uitzondering maken

http://www.openfiler.com/

en

Wikipedia: Openfiler

Jah, thanks. Ik had dit al gedownload en moet zeggen dat het er leuk uit ziet.

Heb je toevallig nog een idee op de vraag die ik hierboven heb?

[Verwijderd]

Ja dat staat hier duidelijk omschreven:

http://www.samba.org/samb...Samba-Guide/appendix.html

Onder het kopje: Effect of Setting File and Directory SUID/SGID Permissions Explained

[peak]

Verwijderd schreef op dinsdag 27 januari 2009 @ 18:06:
[...]


De ultieme fileserver met web frontend is in mijn ogen openfiler. Openfiler is een zeer volwassen product en wordt ook erg veel in enterprise omgevingen gebruikt. Ik ken diverse organisaties die 24/7 op openfiler draaien. Zelf ben ik niet zo gek op dit soort oplossingen maar voor openfiler wil ik toch een uitzondering maken

http://www.openfiler.com/

en

Wikipedia: Openfiler

He, nogmaals bedankt voor je info.

Ben nu enige uurtjes bezig met open filer en het bevalt me tot nu toe wel een beetje. Het is even wennen.

Bij freenas kon ik een HDD mounten en die sharen.
Bij Openfiler moet ik eerst een volume group maken en die een naam geven en dan een volume naam geven en dan pas bij share een naam invoeren wat de sharenaam wordt.

Ik heb het 1 en ander uitgezocht betreft volume groups en daar lees ik dat als ik bijvoorbeeld 2 HDD in 1 volume groep plaats, dat als HDD 1 vol loopt dat ie doorgaat op HDD 2.
Dit wil ik echter niet, dus dan zou ik voor al mijn losse HDD's een eigen volume group moeten maken.
Vol = vol, pech dan.

Ik ben van plan om 4 Hardeschijven te gebruiken. 3 van 500 GB en 1 van 1 TB.
Ik ga geen raid gebruiken en ik wil niet dat het O/S de schijven als 1 geheel zien.

Dus infeite is volume groups voor mij niet nodig. Of zie ik het verkeerd?

Wat dit betreft loop ik een beetje vast en in feite wil ik gewoon lekker simpel sharen. HDD mounten en die sharen of eventueel een map op die HDD sharen.

Niet meer, niet minder.

[Verwijderd]

Ik raad sterk af om op 1 server met meerdere volume groepen te werken. Technisch is dit allemaal geen probleem maar in de praktijk is dit zeer verwarrend en kans op vooral menselijke fouten neemt hierdoor sterk toe.

Ik zou gewoon wel voor linux software raid kiezen met eventueel daarboven op lvm, maar goed dat is mijn mening

[peak]

Verwijderd schreef op woensdag 28 januari 2009 @ 15:36:
Ik raad sterk af om op 1 server met meerdere volume groepen te werken. Technisch is dit allemaal geen probleem maar in de praktijk is dit zeer verwarrend en kans op vooral menselijke fouten neemt hierdoor sterk toe.

Ik zou gewoon wel voor linux software raid kiezen met eventueel daarboven op lvm, maar goed dat is mijn mening

Ok, Is er dan een mogelijkheid om helemaal niet met volume groepen te werken?
Liever geen raid.

Klopt het wat ik net zei betreft volume groepen; Als 1 HDD vol zit dat hij verder gaat op de volgende HDD?

Dus mijn films/music zijn over meerdere schijven verspreid. in een onlogische volgorde. Want Independence day cd 1 kan op HDD 1 staan en cd 2 kan op HDD 2 staan.

*In openfiler*

[smokalot]

FreeBSD en dus ook FreeNAS hebben ook ondersteuning voor ZFS, dat maakt backups een stuk makkelijker, evenals volume management, als je schijven vol zitten prik je er gewoon een schijf bij en het werkt.

Onder linux heb je wel een aardige performance hit omdat het op fuse draait, maar het is wel aardig stabiel.

Ik weet niet zeker of freebsd het ook ondersteunt, maar zfs op opensolaris maakt het erg makkelijk om dingen via nfs of smb te sharen: zfs set sharesmb=on sharenfs=on pool/filesystem

De NTFS-like permissies passen trouwens inderdaad niet in het standaard unix-filesysteem model, maar er is zijn veel uitbreidingen op dat model, die heten extended attributes, en specifiek wat jij zoekt zijn access control lists, of ACLs. Ik heb zelf altijd genoeg gehad aan het unix-model, maar het kan specifieker.

[peak]

smokalot schreef op donderdag 29 januari 2009 @ 15:17:
FreeBSD en dus ook FreeNAS hebben ook ondersteuning voor ZFS, dat maakt backups een stuk makkelijker, evenals volume management, als je schijven vol zitten prik je er gewoon een schijf bij en het werkt.

Onder linux heb je wel een aardige performance hit omdat het op fuse draait, maar het is wel aardig stabiel.

Ik weet niet zeker of freebsd het ook ondersteunt, maar zfs op opensolaris maakt het erg makkelijk om dingen via nfs of smb te sharen: zfs set sharesmb=on sharenfs=on pool/filesystem

De NTFS-like permissies passen trouwens inderdaad niet in het standaard unix-filesysteem model, maar er is zijn veel uitbreidingen op dat model, die heten extended attributes, en specifiek wat jij zoekt zijn access control lists, of ACLs. Ik heb zelf altijd genoeg gehad aan het unix-model, maar het kan specifieker.

Hoi,

ZFS is geen optie.
ACL's in unix zijn meer dan genoeg ben ik zelf achter gekomen.
Echter wil ik geen volume groepen... Ik wil gewoon dat als 1 Hardeschijf bijv ''Movies'' vol loopt dat hij dan vol is en niet door gaat met films op een andere schijf te zetten.

En en openfiler kan dit wel, zolang ik maar meerdere volume groups maak. Echter werd me dit afgeraden.

Of ik snap het hele concept van VLM niet, dus correct me big time if I am wrong.

Thanks.

[zomertje]

Ik heb op Linux/BSD nog niet met LVM gewerkt, dus praktijkvoorbeelden heb ik net. Maar het is juist handig om Logical Volumes aan te maken hiervoor. Als een LV vol is, dan kan er niks meer bij en gaat data niet vanzelf naar andere LV's.

Hoe het nu werkt op bijvoorbeeld AIX Unix:
Je maakt een VG en daarbinnen losse LV's, eentje per onderwerp (movies, enz)
Je hoeft niet alle ruimte op je fysieke schijven direct uit te delen. je kunt ook nog een stuk overhouden en die later toebedelen zodra je weet waar je groei verwacht.

Hier een beetje info:
http://en.wikipedia.org/wiki/Logical_Volume_Manager_(Linux)

Ik lees daar ook dat je een LV over meerdere harddisks kunt verdelen.

Voorbeeld:
- alle schijven in 1 VG.
- LV's voor alle 'onderwerpen' en niet alle schijfruimte gelijk toewijzen
- na verloop van tijd extra ruimte toewijzen indien nodig.

[ Voor 16% gewijzigd door zomertje op 29-01-2009 15:53 ]

[peak]

zomertje schreef op donderdag 29 januari 2009 @ 15:50:
Ik heb op Linux/BSD nog niet met LVM gewerkt, dus praktijkvoorbeelden heb ik net. Maar het is juist handig om Logical Volumes aan te maken hiervoor. Als een LV vol is, dan kan er niks meer bij en gaat data niet vanzelf naar andere LV's.

Hoe het nu werkt op bijvoorbeeld AIX Unix:
Je maakt een VG en daarbinnen losse LV's, eentje per onderwerp (movies, enz)
Je hoeft niet alle ruimte op je fysieke schijven direct uit te delen. je kunt ook nog een stuk overhouden en die later toebedelen zodra je weet waar je groei verwacht.

Hier een beetje info:
http://en.wikipedia.org/wiki/Logical_Volume_Manager_(Linux)

Ik lees daar ook dat je een LV over meerdere harddisks kunt verdelen.

Voorbeeld:
- alle schijven in 1 VG.
- LV's voor alle 'onderwerpen' en niet alle schijfruimte gelijk toewijzen
- na verloop van tijd extra ruimte toewijzen indien nodig.

Thanks voor je voorbeeld, echter had ik dit ook gevonden.
Echter denk ik niet dat de boodschap bij de lezers overkomt

Ik wil niet dat Mijn films over 2 schijven verdeeld zijn, tenzij ik daar zelf voor kies.
En dat lukt dus niet bij VG/LVM of ik begrijp dat concept verkeerd.

Raid is ook geen optie, wellicht later. Maar voor nu niet.

Wil losse hardeschijven. 1 met muziek, anders met films, ander met series.

Greetz

[Zwerver]

peak schreef op donderdag 29 januari 2009 @ 17:06:
[...]


Thanks voor je voorbeeld, echter had ik dit ook gevonden.
Echter denk ik niet dat de boodschap bij de lezers overkomt

Ik wil niet dat Mijn films over 2 schijven verdeeld zijn, tenzij ik daar zelf voor kies.
En dat lukt dus niet bij VG/LVM of ik begrijp dat concept verkeerd.

Raid is ook geen optie, wellicht later. Maar voor nu niet.

Wil losse hardeschijven. 1 met muziek, anders met films, ander met series.

Greetz

* Zwerver telt tot tien
Jawel dat kan dus wel. Je moet geen VG over twee discs leggen dat mag wel. Je moet geen LV aanmaken die zo groot is dat die over 2 discs heenvalt, je mag. Snap je? Het concept van VG+LV is heel simpel, als het vol is dan MAG je het vergroten je MOET helemaal niks, het gaat niet automatisch, het is helemaal handmatig.

* Zwerver stopt met tellen.

[smokalot]

peak schreef op donderdag 29 januari 2009 @ 15:39:
[...]
ZFS is geen optie.

waarom niet dan? zfs heeft een van de simpelste, en tegelijk krachtigste volume management systemen, ik snap niet zo goed wat je wilt (vooral niet waarom je dat wilt eigenlijk), maar waarschijnlijk is dat met ZFS het makkelijkst op te zetten, en als je toch FreeBSD of een afgeleide gebruikt zit ZFS er standaard in.

Echter wil ik geen volume groepen... Ik wil gewoon dat als 1 Hardeschijf bijv ''Movies'' vol loopt dat hij dan vol is en niet door gaat met films op een andere schijf te zetten.

En en openfiler kan dit wel, zolang ik maar meerdere volume groups maak. Echter werd me dit afgeraden.

Of ik snap het hele concept van VLM niet, dus correct me big time if I am wrong.

waarom wil je dit dan? ben je van plan om ooit 1 van de schijven eruit te trekken en in een andere machine te hangen ofzo? Als je niet wilt dat alle ruimte opgebruikt wordt door bijv je movies kun je toch gewoon quota's zetten?

volume management gebruik je om flexibel te kunnen zijn met ruimte in de toekomst, je legt een laag aan tussen het filesysteem en de fysieke schijf, als jij dat juist niet wilt moet je geen volume management gebruiken (of volume groups aanmaken van maar 1 device, dan heb je in feite hetzelfde).

[peak]

Zwerver schreef op donderdag 29 januari 2009 @ 17:19:
[...]


* Zwerver telt tot tien
Jawel dat kan dus wel. Je moet geen VG over twee discs leggen dat mag wel. Je moet geen LV aanmaken die zo groot is dat die over 2 discs heenvalt, je mag. Snap je? Het concept van VG+LV is heel simpel, als het vol is dan MAG je het vergroten je MOET helemaal niks, het gaat niet automatisch, het is helemaal handmatig.

* Zwerver stopt met tellen.

Sorry als ik vaag over kwam.

Nee oke, maar dan zou ik zelf moeten uitrekenen en nadenken hoe groot ik een volume mag maken zodat hij niet verder gaat op een andere hardeschijf.

Maar goed, in openfiler wil ik helemaal niet gebruik maken van volume groups. Dan is mijn ''probleem'' opgelost.

[peak]

smokalot schreef op donderdag 29 januari 2009 @ 17:40:
[...]

waarom niet dan? zfs heeft een van de simpelste, en tegelijk krachtigste volume management systemen, ik snap niet zo goed wat je wilt (vooral niet waarom je dat wilt eigenlijk), maar waarschijnlijk is dat met ZFS het makkelijkst op te zetten, en als je toch FreeBSD of een afgeleide gebruikt zit ZFS er standaard in.

[...]

waarom wil je dit dan? ben je van plan om ooit 1 van de schijven eruit te trekken en in een andere machine te hangen ofzo? Als je niet wilt dat alle ruimte opgebruikt wordt door bijv je movies kun je toch gewoon quota's zetten?

volume management gebruik je om flexibel te kunnen zijn met ruimte in de toekomst, je legt een laag aan tussen het filesysteem en de fysieke schijf, als jij dat juist niet wilt moet je geen volume management gebruiken (of volume groups aanmaken van maar 1 device, dan heb je in feite hetzelfde).

ZFS is nog in experimentele fase bij BSD en linux schijnen ze pas mee bezig te zijn??

Jah ik ga voor het eerst al mijn data naar een anders bestandsysteem dan NTFS verplaatsen en ik wil dit in stappen doen. Ik wil niet gelijk een RAID en/of VLM opstelling maken als ik er geen ervaring mee heb.
Wellicht is het dom wat ik doe, maar ik doe het meer om voorzichtig die stap te nemen naar een ander FS.

Dus kortom, ja, mocht er een keer wat gebeuren, dan wil ik een hardeschijf eruit kunnen halen en die in een ander pc zetten om wat voor reden dan ook.

Volume groups van 1 device maken werd me afgeraden..

Wat ik ook kan doen is, geen openfiler gebruiken. Dan kan ik elke hard disk los benaderen, maar dan heb ik geen mooi webfrontend voor het beheer.


Greetz

[Zwerver]

peak schreef op donderdag 29 januari 2009 @ 18:16:
[...]
Volume groups van 1 device maken werd me afgeraden..

Door wie? Ik draai al jaren op verschillende machines VG's over 1 device, met daaronder software raid waardoor je weliswaar twee disks gebruikt (of meer, want raid) maar dat je de VG's op 1 'raid-disk' hebt staan; kijk zo:

disk 1  -- disk 2

     RAID md0  

        vg-lvm  

  
lv-root lv-muziek lv-data

Daar is helemaal niks mis mee? Je kan het ook zonder die raid doen, het idee blijft hetzelfde

[ Voor 16% gewijzigd door Zwerver op 29-01-2009 18:34 . Reden: argh ascii art ]

[peak]

Zwerver schreef op donderdag 29 januari 2009 @ 18:31:
[...]

Door wie? Ik draai al jaren op verschillende machines VG's over 1 device, met daaronder software raid waardoor je weliswaar twee disks gebruikt (of meer, want raid) maar dat je de VG's op 1 'raid-disk' hebt staan; kijk zo:

disk 1  -- disk 2

     RAID md0  

        vg-lvm  

  
lv-root lv-muziek lv-data

Daar is helemaal niks mis mee? Je kan het ook zonder die raid doen, het idee blijft hetzelfde

Jah, Stacheldraht raadde me het af vanwege menselijke fouten.

Maar dat is dus wat ik wil. Ik heb 5 HDD's dus maak ik 5 VG's aan.
Maar dat betekent dus wel dat ik even de partities eraf moet halen zodat ik gehele schijven heb.
Want bij VG wordt er niets meer dan een map gemaakt met een soort quota erop die je dan snel kunt uitbreiden.

Top. Thanks.

Ik blijf het wel moeilijk vinden om die stap te maken...
Ik ga EXT3 voor m'n muziek en documenten gebruiken en XFS voor mn films en series.(Lijkt me verstandig..?)

Ik ga me nog wel verdiepen in RAID(5) en LVM. Met name hoe ik m'n data kan herstellen in een andere computer, mocht mn MB het begeven. Want LVM wordt door het O/S gedaan.. maar net als software raid 5...

lastig lastig...

Om windows 2003 of 2008 als fileserver te gebruiken has crossed my mind... als ik eerlijk ben

[Verwijderd]

Zwerver schreef op donderdag 29 januari 2009 @ 18:31:
[...]

Door wie? Ik draai al jaren op verschillende machines VG's over 1 device, met daaronder software raid waardoor je weliswaar twee disks gebruikt (of meer, want raid) maar dat je de VG's op 1 'raid-disk' hebt staan; kijk zo:

disk 1  -- disk 2

     RAID md0  

        vg-lvm  

  
lv-root lv-muziek lv-data

Daar is helemaal niks mis mee? Je kan het ook zonder die raid doen, het idee blijft hetzelfde

Pardon ik zie hier:

2 harde schijven in Linux software RAID waarbij verschillende logical volumes in 1 volume group staan. Hier is helemaal niets mis mee. Je haalt de begrippen vg en lv door elkaar.

Waar wel wat mis mee is en wat ik duidelijk gezegd heb is om per schijf een volume group aan te maken met daarin 1 of meer logical volumes. Dit kan technisch wel maar ik de praktijk gaat dit op een gegeven moment fout.

Stel je hebt 4 schijven in een niet raid opstelling met elk een eigen vg met daarna 2 lv's dan krijg je dus bijvoorbeeld zoiets

disk1 disk2 disk3 disk4

vg1 vg2 vg3 vg4

lv1a lv1b lv2a lv2b lv3a lv3b lv4a lv4b

Ik kan je nu al vertellen dat dit niet goed gaat!

[Zwerver]

Verwijderd schreef op donderdag 29 januari 2009 @ 22:05:
[...]


Pardon ik zie hier:

2 harde schijven in Linux software RAID waarbij verschillende logical volumes in 1 volume group staan. Hier is helemaal niets mis mee. Je haalt de begrippen vg en lv door elkaar.

Ik haal helemaal niks door elkaar, zoals je in mijn plaatje ook ziet. 1 grote VG die over een raid 1 (dat had ik er misschien bij moeten zeggen) heengaat met daarin verschillende LV's.

Waar wel wat mis mee is en wat ik duidelijk gezegd heb is om per schijf een volume group aan te maken met daarin 1 of meer logical volumes. Dit kan technisch wel maar ik de praktijk gaat dit op een gegeven moment fout.

Stel je hebt 4 schijven in een niet raid opstelling met elk een eigen vg met daarna 2 lv's dan krijg je dus bijvoorbeeld zoiets

disk1 disk2 disk3 disk4

vg1 vg2 vg3 vg4

lv1a lv1b lv2a lv2b lv3a lv3b lv4a lv4b

Ik kan je nu al vertellen dat dit niet goed gaat!

En ik kan je vertellen dat dit hartstikke goed kan gaan:

VG-lvm1 (op disk 1)

Met daarin lv1-os en lv1-2-logs

VG-lvm2 (op disk 2)

Met daarin lv2-data en lv2-data

Ik geef toe dat als je een niet zo capabele sys-admin bent dat je daarmee in de problemen kan komen, maar in de praktijk draai ik dit al jaren op deze manier. Dit doe ik om naast de resizable lv's ook een vaste maximale grote per vg te kunnen vaststellen waardoor het aanpassen van de grote van de lv's vast staat. Niks mis mee naar mijn mening en iets wat ik meerdere malen ben tegengekomen.

Wat je in de praktijk ook vaak tegenkomt is:

Disk1        Disk2  Disk3
--------VG1-----VG2--FS*
Lv1.1--Lv.1.2-|Lv2.1
*FS = freespace

Niks mis mee allemaal, ondanks dat het misschien wat onduidelijk kan zijn als je het niet documenteert. In het bedrijfsleven documenteer je dit soort situaties altijd en is het niet meer dan normaal dat je even de documentatie erbij pakt als je 1 van je 100 servers gaat aanpassen en je twijfelt.

[peak]

Verwijderd schreef op donderdag 29 januari 2009 @ 22:05:
[...]


Pardon ik zie hier:

2 harde schijven in Linux software RAID waarbij verschillende logical volumes in 1 volume group staan. Hier is helemaal niets mis mee. Je haalt de begrippen vg en lv door elkaar.

Waar wel wat mis mee is en wat ik duidelijk gezegd heb is om per schijf een volume group aan te maken met daarin 1 of meer logical volumes. Dit kan technisch wel maar ik de praktijk gaat dit op een gegeven moment fout.

Stel je hebt 4 schijven in een niet raid opstelling met elk een eigen vg met daarna 2 lv's dan krijg je dus bijvoorbeeld zoiets

disk1 disk2 disk3 disk4

vg1 vg2 vg3 vg4

lv1a lv1b lv2a lv2b lv3a lv3b lv4a lv4b

Ik kan je nu al vertellen dat dit niet goed gaat!

Excuses voor het verkeerd opvatten.

Ik begin je te begrijpen.

Stel ik heb 4 hardeschijven"
Hardeschijf 1: Music en Series ( Volume groep 1)
Hardeschijf 2: Movies ( Volume groep 2)
Hardeschijf 3: Documenten en back-ups (Volume groep 3)
Hardeschijf 4: Programma's en downloads (Volume groep 4)

Op die manier heb ik het nu gepartitioneerd. Ik snap dat ik de partities moet verwijderen als ik aan VLM begin om een goed overzicht te houden.

Maar dit kan toch gewoon in LV???
Oke, het kan wel, maar in de praktijk zou ik het overzicht kwijt raken en fouten gaan maken.

Als ik de boel gewoon een goede benaming geef?

Jah sorry, als ik zeur, dom over kom of het gewoon weg niet begrijp.

Ik kan nergens anders goed advies krijgen.

Greetz,

[Zwerver]

peak schreef op vrijdag 30 januari 2009 @ 00:31:
[...]


Excuses voor het verkeerd opvatten.

Ik begin je te begrijpen.

Stel ik heb 4 hardeschijven"
Hardeschijf 1: Music en Series ( Volume groep 1)
Hardeschijf 2: Movies ( Volume groep 2)
Hardeschijf 3: Documenten en back-ups (Volume groep 3)
Hardeschijf 4: Programma's en downloads (Volume groep 4)

Op die manier heb ik het nu gepartitioneerd. Ik snap dat ik de partities moet verwijderen als ik aan VLM begin om een goed overzicht te houden.

Maar dit kan toch gewoon in LV???
Oke, het kan wel, maar in de praktijk zou ik het overzicht kwijt raken en fouten gaan maken.

Als ik de boel gewoon een goede benaming geef?

Jah sorry, als ik zeur, dom over kom of het gewoon weg niet begrijp.

Ik kan nergens anders goed advies krijgen.

Greetz,

Als je vier verschillende VG's maakt met goede benamingen op vier disks (ipv 1 grote VG) dan weet je zeker dat je je data nooit over twee of meer disks verspreid:

Disk 1
VG 1
LV1.1, LV1.2

Disk 2
VG 2
LV2.1, LV2.2

Disk 3
VG 3
LV3.1, LV3.2

Disk 4
VG 4
LV4.1, LV4.2

Als je die nummertjes nu logische benamingen geeft (en je laadt op elke VG wat diskruimte vrij) dan is er niks aan de hand. Als je ervoor kiest om op elke VG 1 LV te maken en deze net zo groot te maken als de VG dan is het nut van LVM compleet nul en kan je beter per disk partitioneren.

[peak]

Zwerver schreef op vrijdag 30 januari 2009 @ 00:43:
[...]

Als je vier verschillende VG's maakt met goede benamingen op vier disks (ipv 1 grote VG) dan weet je zeker dat je je data nooit over twee of meer disks verspreid:

Disk 1
VG 1
LV1.1, LV1.2

Disk 2
VG 2
LV2.1, LV2.2

Disk 3
VG 3
LV3.1, LV3.2

Disk 4
VG 4
LV4.1, LV4.2

Als je die nummertjes nu logische benamingen geeft (en je laadt op elke VG wat diskruimte vrij) dan is er niks aan de hand. Als je ervoor kiest om op elke VG 1 LV te maken en deze net zo groot te maken als de VG dan is het nut van LVM compleet nul en kan je beter per disk partitioneren.

Haha, dat laatste klopt. Dan is het nut van de LVM compleet nul....... Ik heb het gewoon niet nodig. Exact wat jij zegt, wil ik.

alleen in openfiler moet ik een LVM aanmaken..... Dus dan moet ik wel per HDD een VG maken.
En dan is het inderdaad nutteloos, maar het kan niet anders... Of het moet via de CLI gaan, dat het dan wel kan.

En daarom twijfel ik of openfiler voor mij wel zo ideaal is. In FreeNAS hoef ik geen VG te maken. Ik kan gewoon een HDD mounten en die sharen.

Dus kortom, wat neem ik als fileserver..... Gewoon een standard distro unix/linux en daar het 1 en ander op installeren. (via web het systeem/share beheren is wel een vereiste) Of een reeds bestaand iets. Openfiler of Freenas of Naslite of weet ik veel wat op de markt is. Solaris mag ook..(unix overigens)

[smokalot]

peak schreef op donderdag 29 januari 2009 @ 18:16:
[...]
ZFS is nog in experimentele fase bij BSD en linux schijnen ze pas mee bezig te zijn??

waar haal je vandaan dat het experimenteel is bij FreeBSD? Volgens mij zit het al een paar jaar erin, en volgens http://wiki.freebsd.org/ZFS missen ze alleen nog een aantal features zoals ACLs en iSCSI initiator. Linux zijn ze ook al een tijd mee bezig, maar door de licentie-incompatibiliteit moet dat onhandig via fuse, en is het dus een stuk trager. Volgens mij is data loss geen risico.

ZFS is nogal anders dan al het andere, en er kunnen goede redenen zijn om het niet te willen gebruiken hoor, maar wat ik tot nog toe van jou gehoord heb zou het voor jou erg prettig zijn.
[quote[
Jah ik ga voor het eerst al mijn data naar een anders bestandsysteem dan NTFS verplaatsen en ik wil dit in stappen doen. Ik wil niet gelijk een RAID en/of VLM opstelling maken als ik er geen ervaring mee heb.

Wellicht is het dom wat ik doe, maar ik doe het meer om voorzichtig die stap te nemen naar een ander FS.
[/quote]
aan de andere kant: iedere actie die je uitvoert op schijven, partities of bestandssystemen geeft risico's, dus kun je maar beter zorgen dat je het in een keer goed doet. En misschien nog wel belangrijker, zorg dat je ervaring mee hebt voordat je het gebruikt, dus installeer het gewoon eens een keer, en ga er mee testen.

Volume groups van 1 device maken werd me afgeraden..

Wat ik ook kan doen is, geen openfiler gebruiken. Dan kan ik elke hard disk los benaderen, maar dan heb ik geen mooi webfrontend voor het beheer.

freenas heeft ook een webfrontend voor het beheer, en volgens mij nog wel meer distro's.

peak schreef op donderdag 29 januari 2009 @ 19:00:
[...]


Jah, Stacheldraht raadde me het af vanwege menselijke fouten.

Maar dat is dus wat ik wil. Ik heb 5 HDD's dus maak ik 5 VG's aan.
Maar dat betekent dus wel dat ik even de partities eraf moet halen zodat ik gehele schijven heb.
Want bij VG wordt er niets meer dan een map gemaakt met een soort quota erop die je dan snel kunt uitbreiden.
[/quote]
LVM werkt ook als je partities gebruikt, het compliceert de boel natuurlijk wat, dus als jij het niet meer snapt doordat je partities hebt kan het verstandig zijn dat te versimpelen, maar technisch maakt het niets uit.

Ik ga EXT3 voor m'n muziek en documenten gebruiken en XFS voor mn films en series.(Lijkt me verstandig..?)

hangt van je prioriteiten af, xfs kent minder tools dan ext3 voor als er iets mis gaat bijvoorbeeld, en volgens mij is het ook niet mogelijk om een xfs bestandssysteem te verkleinen. xfs is inderdaad wel sneller bij grote bestanden (maar je moet je afvragen of je dat gaat merken als je het door een 100Mbit netwerkje bekijkt).

Ik ga me nog wel verdiepen in RAID(5) en LVM. Met name hoe ik m'n data kan herstellen in een andere computer, mocht mn MB het begeven. Want LVM wordt door het O/S gedaan.. maar net als software raid 5...

ja, dus dan moet je zorgen dat het OS wat je op die andere computer hebt staan ook LVM/raid snapt, en dan werkt het allemaal. Je zit juist een stuk veiliger dan bij hardware raid, als dan je controller kapot gaat kun je niet meer bij je data.

lastig lastig...

Om windows 2003 of 2008 als fileserver te gebruiken has crossed my mind... als ik eerlijk ben

ik snap niet welk probleem je daarmee oplost? je vind het lastig om te bepalen of je volume management wilt gebruiken, en raid, maar precies die beslissingen moet je toch bij windows ook nemen? Wat is dan het voordeel van windows tov bijvoorbeeld gewoon ubuntu? in ubuntu kun je ook gewoon je ntfs schijven benaderen, dus dan hoef je niet eens te herpartitioneren.

[spone]

smokalot schreef op vrijdag 30 januari 2009 @ 01:41:
ik snap niet welk probleem je daarmee oplost? je vind het lastig om te bepalen of je volume management wilt gebruiken, en raid, maar precies die beslissingen moet je toch bij windows ook nemen? Wat is dan het voordeel van windows tov bijvoorbeeld gewoon ubuntu? in ubuntu kun je ook gewoon je ntfs schijven benaderen, dus dan hoef je niet eens te herpartitioneren.

Ik kan me het wel voorstellen hoor. Op een windows-based fileserver hoef je geen dubbele administratie bij te houden (op filesystem acl instellen en sharen maar). Volumemanagement gaat kinderlijk eenvoudig middels computer management (rechsklik->convert to dynamic) en voila, je kan zo via een gui het lvm-verhaal indelen, softwareraid in- en uitschakelen, raid arrays restoren bij een schijfcrash, alles zonder enige pijn). Wanneer je dit dan vervolgens allemaal commandline-based moet gaan instellen kost erg veel tijd als je niet precies weet hoe het allemaal in elkaar zit. Tel daar het delen van bestanden richting windows bij op, windows server<->windows client vereist het minste getweak wanneer het allemaal native is, windows server<->mac/linux client levert ook niet veel problemen op.

_{Nu stop ik, zonder al te veel als een fanboy op heilige grond te schelden}

[Verwijderd]

Als je niet precies weet hoe het in elkaar zit, dan ga je data kwijtraken. Gaandeweg leren door een beetje in de GUI te klooien is niet erg aan te raden als het om filesystems gaat.

[ Voor 41% gewijzigd door Verwijderd op 30-01-2009 02:18 ]

[peak]

Ben het met jullie alle 3 eens.
Ik ben nu ook veel in Vmware aan het testen, daar niet van...
Maar om de stap te zetten met mijn echte data voel ik me onzeker bij.

Windows weet ik gewoon donders veel van en bijna elk probleem kan ik wel herkennen en fixen. Ook het managen van files/rechten etc is gemakkelijker daar voor mij dan.. ( Omdat ik nog niet genoeg met unix/linux gewerkt heb )

Software raid 5 is dan een optie waar ik nog goed over na kan denken. Echter ben ik weer zo miereneuker die als er wat mis gaat, of iets gaat kapot of ik kan niet meer in m'n o/s komen, dat ik dan m'n hardeschijf eruit kan halen en in een ander computer kan zetten. ( Waarom bij een fileserver vraag je je dan af???) (Dat vraag ik me ook af... )

FreeNAS heb ik al bekeken, bevalt me prima. Daar zit ik niet met VG te klooien. Echter hoor ik dat bij upgrades er nogal wat fout kan gaan met je data en dat UFS niet journaled is??? ( Ookal kun je soft updates gebruiken, wellicht is dit broodje aap verhaal)
OpenFiler heb ik ook uitvoerig getest, maar daar zit ik dan met VG, wat wel jammer is, maar het erg is. Ik vind dat ik daar makkelijker met rechten kan werken en verschillende groepen op 1 map/bestand.

Een ander distro of FreeNAS/Openfiler programma heb ik niet gevonden. Ik kan wel een clean distro vanaf het opbouwen met SMB en de dingen die ik nodig heb en dat eventueel via webmin beheren.. Maar dan denk ik, dat ik beter af ben met Openfiler/FreeNAS.

Ik heb gewoon een flinke trap in de rug nodig om mijn data toe te vertrouwen aan een ander FS. EXT3 wil ik gebruiken, omdat daar veel tools voor zijn, voor het geval dat het mis gaat.
Oke, wellicht kan ik het beter gelijk goed doen en voor XFS gaan...

Kijk, met voorbeelden van andere tweakers wat zij thuis gebruiken kom ik zowiezo al een end verder.

[spone]

Verwijderd schreef op vrijdag 30 januari 2009 @ 02:17:
Als je niet precies weet hoe het in elkaar zit, dan ga je data kwijtraken. Gaandeweg leren door een beetje in de GUI te klooien is niet erg aan te raden als het om filesystems gaat.

Ik zie niet in hoe dat met commandline-based beheer anders is, als jouw post tenminste een reactie was op de mijne

[Verwijderd]

spone schreef op vrijdag 30 januari 2009 @ 11:37:
[...]

Ik zie niet in hoe dat met commandline-based beheer anders is, als jouw post tenminste een reactie was op de mijne

Dat is niet anders, maar commando's leren is nog wel het minste waar je je zorgen over moet maken.

[peak]

Wat gebruiken jullie als fileserver? of hebben jullie geen?

[Verwijderd]

peak schreef op vrijdag 30 januari 2009 @ 11:01:
Kijk, met voorbeelden van andere tweakers wat zij thuis gebruiken kom ik zowiezo al een end verder.

Ik heb een fileserver met Ubuntu Server 8.04 LTS. Er zitten 3 schijven van 1TB in. Ik heb bij alle schijven een bootable partitie van 64MB gemaakt, die in Linux software-RAID 1 staan (/dev/md0). Daarop staat /boot. Ik kan dus van elke schijf booten.

Daarnaast heb ik 256MB per schijf beschikbaar gemaakt als Linux-swap. In totaal dus 0.75GB.

De rest van de 1TB (per schijf) heb ik beschikbaar als software-RAID 5 partitie (/dev/md1). /dev/md1 heb ik als PV in LVM, met daarin een / (root) van 1GB en een /var van bijna 2TB.

De fileserver zit bijna vol, dus ik ga binnenkort een nieuwe 1TB schijf kopen. Dan krijg ik dus 1GB swap, /boot die vier keer gemirrord staat, en 3TB beschikbaar om te verdelen in de LVM. 1GB voor / is toch wat weinig voor mijn gebruik (compileren, wgetten), dus die zal ik uitbreiden naar 2GB, en /var wordt dan gewoon bijna 3TB.

Als het meer schijven worden (dat is waarschijnlijk volgend jaar), dan zal ik de schijfgrootte waarschijnlijk verdubbelen naar 2TB per schijf. Daar koop ik dan meteen 3 van. De bruikbare ruimte gaat dan van 3TB naar 4TB. De files worden verplaatst van de oude array naar de nieuwe, en de oude wordt buiten werking gesteld (afgeschreven hardware). Daar komt LVM goed van pas (pvmove).

De files staan in /var/files, en zijn beschrijfbaar/leesbaar voor iedereen. Ik log via sftp in (gemount met gvfs), en de rest van het huis via Samba (geconfigureerd met SWAT).

Op de achtergrond draait ook nog het java-programma PS3 Media Server mee, die /var/files/Video streamt naar de PS3. En ik download met de Deluge bittorrent client, waarvan de daemon op de server draait, naar /var/files/Downloads.

De server is volledig headless, en wordt 2 keer per jaar gerestart (vakanties).

[Verwijderd]

peak schreef op vrijdag 30 januari 2009 @ 13:56:
Wat gebruiken jullie als fileserver? of hebben jullie geen?

Yep ik heb ook een home fileserver:

1 x 160GB voor het OS (Debian Lenny) en de homedirs.
3 x 250GB in Linux software RAID 5 voor mijn flac muziek collectie. (mountpoint /var/raid/)

Deze server wordt gebruikt als:

- usenet download bak met behulp van hellanzb

- torrents download bak met behulp van rtorrent

- streaming audio server met behulp van mt-daapd (a.k.a firefly)

Bestanden en toegang via ssh/scp/sftp met behulp van keys.

[zomertje]

Een ding begrijp ik nog niet, waarom zou je je movies niet over meer dan 1 schijf willen verdelen? Je kan een VG maken met 4 schijven erin, zoveel LV's als je wil en de grootte van deze LV's zelf bepalen. Als het je gaat om een limiet van X Gig dan maak je het LV toch niet groter dan dat?

[Zwerver]

zomertje schreef op vrijdag 30 januari 2009 @ 17:03:
Een ding begrijp ik nog niet, waarom zou je je movies niet over meer dan 1 schijf willen verdelen? Je kan een VG maken met 4 schijven erin, zoveel LV's als je wil en de grootte van deze LV's zelf bepalen. Als het je gaat om een limiet van X Gig dan maak je het LV toch niet groter dan dat?

Hij wil een disk over kunnen zetten naar een andere bak en de anderen laten zitten of zo iets

[Verwijderd]

zomertje schreef op vrijdag 30 januari 2009 @ 17:03:
Een ding begrijp ik nog niet, waarom zou je je movies niet over meer dan 1 schijf willen verdelen? Je kan een VG maken met 4 schijven erin, zoveel LV's als je wil en de grootte van deze LV's zelf bepalen. Als het je gaat om een limiet van X Gig dan maak je het LV toch niet groter dan dat?

Ik zou sowieso LVM niet gebruiken om heel veel disks aan elkaar te knopen. Elke disk die faalt neemt namelijk alle VG's mee die er op zitten. Je kan beter Linux software-RAID hiervoor gebruiken. LVM kan je daarbovenop gebruiken om wat flexibeler te zijn.

Simpel rekensommetje risico voor 4 schijven, correct me if I'm wrong:
Niet aan elkaar knopen: 1 kans op disk falen * 0.25 impact = 0.25 risico
RAID 0 of LVM: 4 kans op disk falen * 1 impact = 4 risico
RAID 5: 0.20*0.20 (2 van de 5 disks) kans op disk falen * 1 impact = 0.04 risico

RAID 5 heeft een disk extra voor parity. Niet aan elkaar knopen heeft uiteraard als voordeel dat je de disks los kan benaderen, en als nadeel dat je de disks los moet benaderen.

[ Voor 26% gewijzigd door Verwijderd op 30-01-2009 21:02 ]

[zomertje]

Verwijderd schreef op vrijdag 30 januari 2009 @ 20:46:
[...]

Ik zou sowieso LVM niet gebruiken om heel veel disks aan elkaar te knopen. Elke disk die faalt neemt namelijk alle VG's mee die er op zitten. Je kan beter Linux software-RAID hiervoor gebruiken. LVM kan je daarbovenop gebruiken om wat flexibeler te zijn.

Simpel rekensommetje risico voor 4 schijven, correct me if I'm wrong:
Niet aan elkaar knopen: 1 kans op disk falen * 0.25 impact = 0.25 risico
RAID 0 of LVM: 4 kans op disk falen * 1 impact = 4 risico
RAID 5: 0.20*0.20 (2 van de 5 disks) kans op disk falen * 1 impact = 0.04 risico

RAID 5 heeft een disk extra voor parity. Niet aan elkaar knopen heeft uiteraard als voordeel dat je de disks los kan benaderen, en als nadeel dat je de disks los moet benaderen.

Ik heb inderdaad geen rekening gehouden met raid endergelijke, het ging mij even om duidelijk te hebben wat de bedoeling was. Dit kan uiteraard ook gezellig met een raid config erbij

[Verwijderd]

Verwijderd schreef op vrijdag 30 januari 2009 @ 20:46:
[...]

Ik zou sowieso LVM niet gebruiken om heel veel disks aan elkaar te knopen. Elke disk die faalt neemt namelijk alle VG's mee die er op zitten. Je kan beter Linux software-RAID hiervoor gebruiken. LVM kan je daarbovenop gebruiken om wat flexibeler te zijn.

Dit is inderdaad niet verstandig. Als een PV faalt dan kun je een VG nog wel herstellen middels /etc/lvm/backup maar data op de verloren PV ben je dan wel kwijt. LVM + RAID is gouden combo.

[Verwijderd]

Ik heb even wat zitten doordenken, en ik zie een zogezegd 'gat in de markt'.

Stel je wilt je disks van 1TB aan elkaar knopen zodat je 1 centrale lokatie hebt. De manier om dat veilig te doen is met RAID. Zoals je in mijn berekening zag, kan je de kans op falen heel erg klein maken, door meer parity-schijven te gebruiken. Hoe meer parity-schijven, hoe meer schijven mogen falen. Dit kan je in principe oneindig doorvoeren: je kan 1500 parity-schijven gebruiken met 500 data-schijven. Nu is de kans op falen absurd klein: 0.25²⁰⁰⁰.

Maar de impact is ontzettend groot. Als het gebeurt, dan ben je alles kwijt. 500TB weg.

Een groot verschil tussen impact en kans is dus niet erg handig. Er moet een manier zijn om de impact van een failure te verkleinen. Je moet als het ware je array kunnen verdelen in afzonderlijke blokken, die afzonderlijk gestriped worden. De kans op falen wordt dan enkele ordes van grootte groter: als je het in twee blokken verdeelt wordt het 0.25¹⁰⁰⁰. Maar de impact wordt gehalveerd: als het fout gaat, ben je maar de helft kwijt. Welke helft, dat weet je niet; dat wordt immers weg-geabstraheerd.

[Verwijderd]

Hou er wel rekening mee dat RAID en Backup 2 verschillende dingen zijn. Al gebruik je RAID je moet altijd backuppen om je data veilig te stellen.

[Verwijderd]

Uiteraard. De fileserver is bij mij de backup van de data die op m'n laptop staat (behalve de downloads, maar dat is geen backup-waardige data). RAID moet je alleen gebruiken als veilig lijmmiddel voor schijven.

Mijn vorige post is overigens puur een gedachten-experiment, want het blijkt dat RAID-levels met meer dan 2 parity-schijven helemaal niet bestaan. Je zal dus niet gauw een gigantisch verschil tussen kans en impact hebben.

[smokalot]

Verwijderd schreef op vrijdag 30 januari 2009 @ 23:30:
Uiteraard. De fileserver is bij mij de backup van de data die op m'n laptop staat (behalve de downloads, maar dat is geen backup-waardige data). RAID moet je alleen gebruiken als veilig lijmmiddel voor schijven.

Mijn vorige post is overigens puur een gedachten-experiment, want het blijkt dat RAID-levels met meer dan 2 parity-schijven helemaal niet bestaan. Je zal dus niet gauw een gigantisch verschil tussen kans en impact hebben.

Je hebt ook hotspares, die meteen inkicken als er een schijf kapot gaat. Die kun je in principe ook oneindig hebben.

[peak]

Zwerver schreef op vrijdag 30 januari 2009 @ 18:43:
[...]

Hij wil een disk over kunnen zetten naar een andere bak en de anderen laten zitten of zo iets

Jah klopt, omdat ik me nog niet veilig genoeg voel Dus wil ik zelf de controle houden mocht er iets fout gaan. Wat weet ik niet...

Nu met RAID en LVM kan ik niet zomaar mn HDD ergens anders in stoppen. ( Bij een fileserver wil je ook niet constant je HDD's eruit halen om ze ergens anders in te stoppen, dat weet ik en ik moet mezelf daar even overheen zetten)

Ik denk dat ik toch maar beter voor een software Raid 5 kan gaan. LVM moet ik nog wat meer overlezen hoe het back-uppen en restoren in een ander systeem in z'n werk gaat.

Stel mn MB gaat kapot, dan wil ik al m'n schijven in een NIET identieke MB overzetten om daar weer makkelijk verder te gaan, want wat nou als dat MB niet meer verkocht wordt...

Daar zit ik mee en daarom durf ik die stap nog niet te maken, want met losse HDD's heb je dat probleem niet..

[peak]

Verwijderd schreef op vrijdag 30 januari 2009 @ 22:54:
[...]


Dit is inderdaad niet verstandig. Als een PV faalt dan kun je een VG nog wel herstellen middels /etc/lvm/backup maar data op de verloren PV ben je dan wel kwijt. LVM + RAID is gouden combo.

Dat was ook 1 van de redenen waarom ik LVM niet zag zitten...

[peak]

Globaal vraagje. Ik zie nu al bij 2 - 3 voorbeelden dat jullie de bestanden/mountpoint in /var/ hebben staan?
Standaard komt dit toch in /mnt/ ???
Wat is de achterliggende gedachte?

[Verwijderd]

peak schreef op zondag 01 februari 2009 @ 15:04:
Globaal vraagje. Ik zie nu al bij 2 - 3 voorbeelden dat jullie de bestanden/mountpoint in /var/ hebben staan?
Standaard komt dit toch in /mnt/ ???
Wat is de achterliggende gedachte?

Tsja, er bestaat de zogenoemde Filesystem Hierarchy Standard die schrijft voor in welke directories wat moet komen te staan. Maar nu de komt maar De Filesystem Hierarchy Standard kan je enigzins een beetje intrepreteren zoals je zelf wil. Voorbeeldje van oudsher staan websites in /var/www maar eigenlijk horen ze tegenwoordig thuis in /srv/www. Vroeger werd een usb stick gemount onder /mnt/usbstick en tegenwoordig onder /media/usbstick.

Mijn flac files ten behoeve van mijn streaming audio server zijn gemount onder /var/raid/ maar eigenlijk zouden moeten thuis horen onder /srv/data of zoiets. Maar zoals ik al zei je kunt er over discussieren. Op mijn werk gebruiken we voor websites tegenwoordig /srv/www ipv /var/www.

Wil je meer weten over de Filesystem Hierarchy Standard lees dan de officiele specs maar: http://www.pathname.com/fhs/

[peak]

Verwijderd schreef op vrijdag 30 januari 2009 @ 16:53:
[...]


Yep ik heb ook een home fileserver:

1 x 160GB voor het OS (Debian Lenny) en de homedirs.
3 x 250GB in Linux software RAID 5 voor mijn flac muziek collectie. (mountpoint /var/raid/)

Deze server wordt gebruikt als:

- usenet download bak met behulp van hellanzb

- torrents download bak met behulp van rtorrent

- streaming audio server met behulp van mt-daapd (a.k.a firefly)

Bestanden en toegang via ssh/scp/sftp met behulp van keys.

Werk je in de GUI met Debian lenny? Of doe je alles via CLI?

[deadinspace]

peak schreef op zondag 01 februari 2009 @ 14:53:
Nu met RAID en LVM kan ik niet zomaar mn HDD ergens anders in stoppen. [...] Stel mn MB gaat kapot, dan wil ik al m'n schijven in een NIET identieke MB overzetten om daar weer makkelijk verder te gaan, want wat nou als dat MB niet meer verkocht wordt...

Dat kan ook met LVM en Linux Software RAID; de support voor die dingen zit namelijk 100% in software. Je kan je schijven dus in een andere Linux machine hangen, en als daar de lvm/mdadm tools aanwezig zijn, dan kun je weer bij je data.

Dat is zelfs een leuk speerpunt voor software RAID over hardware- en firmware RAID

peak schreef op zondag 01 februari 2009 @ 15:04:
Globaal vraagje. Ik zie nu al bij 2 - 3 voorbeelden dat jullie de bestanden/mountpoint in /var/ hebben staan?
Standaard komt dit toch in /mnt/ ???
Wat is de achterliggende gedachte?

Zoals Stacheldraht al uitlegt is dat open voor discussie. Ik zou de volgende locaties min-of-meer verdedigbaar vinden:

• /mnt
• /media
• /var
• /home
• /srv

Als je je data op die machine zelf niet gebruikt, maar deze alleen maar aanbiedt als een fileserver, dan lijkt ergens onder /srv mij het geschiktst.

Als de data op die machine zelf ook gebruikt wordt zou ik waarschijnlijk voor /media of misschien /mnt kiezen.

/var zou eigenlijk pas een van mijn laatste keuzes zijn, aangezien deze locatie hoofdzakelijk voor "systeemdingen" (email/printer spools, logs, package management state, etc) is.

Maargoed, daar is vast niet iedereen het mee eens

[peak]

deadinspace schreef op zondag 01 februari 2009 @ 15:49:
[...]

Dat kan ook met LVM en Linux Software RAID; de support voor die dingen zit namelijk 100% in software. Je kan je schijven dus in een andere Linux machine hangen, en als daar de lvm/mdadm tools aanwezig zijn, dan kun je weer bij je data.

Dat is zelfs een leuk speerpunt voor software RAID over hardware- en firmware RAID

[...]

Zoals Stacheldraht al uitlegt is dat open voor discussie. Ik zou de volgende locaties min-of-meer verdedigbaar vinden:

• /mnt
• /media
• /var
• /home
• /srv

Als je je data op die machine zelf niet gebruikt, maar deze alleen maar aanbiedt als een fileserver, dan lijkt ergens onder /srv mij het geschiktst.

Als de data op die machine zelf ook gebruikt wordt zou ik waarschijnlijk voor /media of misschien /mnt kiezen.

/var zou eigenlijk pas een van mijn laatste keuzes zijn, aangezien deze locatie hoofdzakelijk voor "systeemdingen" (email/printer spools, logs, package management state, etc) is.

Maargoed, daar is vast niet iedereen het mee eens

/srv was inderdaad ook mijn gedachte.

Ik had begrepen dat als je je software raid en LVM wilt verplaatsen je een ''move'' commando op die server moest doen. Had het ergens snel gelezen, ben ff de naam kwijt. (lvmove ofzo?)

Nou, gelukkig hoef ik me dan daar geen zorgen over te maken. Ik ben er nu wel vrij overuit dat ik toch voor RAID 5 ga kiezen. Of het LVM wordt weet ik niet.
Het is leuk om te resizen wanneer mn Muziek ''partitie'' vol wordt, maar voor de rest niet echt boeiend.(In mijn geval dan)

Ben ondertussen ook aan het zoeken naar een Unix/Linux distro.
Debian lenny heeft dan een GUI, dus kan ik daar shares maken/beheren(via SWAT) en LVM/Raid(via ??).
Openfiler heeft een mooie webinterface.

Enige wat ik wil is kunnen sharen en uitbreiden met rtorrent. (Liefst door op knoppen te klikken, maar sommige dingen moeten nou eenmaal via de CLI)

Ben ondertussen ook aan het zoeken naar een trash folder op de share. Ik zoek iets wat op Novell Netware ook zit. Als admin rechtermuisknop op de share en dan kijken wie wat heeft verwijderd en dat restoren of uiteindelijk een purge uitvoeren.
Dit is een leuk iets als extra, maar een normale centrale recycle bin voldoet ook.

[Verwijderd]

peak schreef op zondag 01 februari 2009 @ 14:53:
Stel mn MB gaat kapot, dan wil ik al m'n schijven in een NIET identieke MB overzetten om daar weer makkelijk verder te gaan, want wat nou als dat MB niet meer verkocht wordt...

Daar zit ik mee en daarom durf ik die stap nog niet te maken, want met losse HDD's heb je dat probleem niet..

Inderdaad, maar dat is vooral een psychische barrière, want Linux software RAID is niet gekoppeld aan je moederbord. RAID op je moederbord is ook software-RAID, maar dan met een driver die specifiek voor je moederbord is, zodat je in het BIOS RAID-instellingen kan doen. Moederbord-software-RAID wordt ook wel FakeRAID genoemd (aangezien het lijkt op hardware-RAID, maar dat niet is).

Linux software-RAID doe je met mdadm, en FakeRAID doe je met dmraid. Echte hardware-RAID doe je helemaal buiten je OS om uiteraard.

Voordeel van software-RAID is dat je compleet onafhankelijk bent van de hardware, zolang je alle disks maar bij elkaar hebt. Nadeel is dat Windows niet met Linux software-RAID om kan gaan. Maar daar heb je bij je server geen last van.

Voordeel van FakeRAID is dus dat er ook Windows-drivers zijn. Nadeel is dat het afhankelijk is van je moederbord-type, en nogal instabiel is onder Linux.

Voordeel van hardware-RAID is dat zo'n externe controller een onwijze performance-boost geeft. Nadeel is dat je afhankelijk bent van je controller-type, en dat ze nogal duur zijn.

[Verwijderd]

peak schreef op zondag 01 februari 2009 @ 15:04:
Globaal vraagje. Ik zie nu al bij 2 - 3 voorbeelden dat jullie de bestanden/mountpoint in /var/ hebben staan?
Standaard komt dit toch in /mnt/ ???
Wat is de achterliggende gedachte?

/var is volgens mij bedoeld voor files die niet strikt persoonlijk zijn (die staan in /home), maar die ook niet statisch zijn (die staan in /usr). Daar komt denk ik de naam vandaan: /var(iable). Je zal er de systeembrede highscore-lijsten van games vinden, package-management files, logs, allerlei caches... van alles.

/media wordt gebruikt voor removable media, dus dat is niet zo handig. Als je je files onder /media/files mount, en je prikt daarna een USB-stick met het label "files" in je server, dan vraag ik me af hoe dat gaat werken. Nu zal op een server-installatie doorgaans geen automounting plaatsvinden, dus dat valt mee...

Maarja, je kan ook je files simpelweg vanuit /files serveren. Ik heb ook een symlink /Video gemaakt die wijst naar /var/files/Video. Gewoon voor het gemak.

[ Voor 28% gewijzigd door Verwijderd op 01-02-2009 18:15 ]

[Verwijderd]

peak schreef op zondag 01 februari 2009 @ 15:38:
[...]


Werk je in de GUI met Debian lenny? Of doe je alles via CLI?

Ik doe alles via de CLI.

[peak]

Verwijderd schreef op zondag 01 februari 2009 @ 17:39:
[...]


Ik doe alles via de CLI.

Oke. Veel werk dus voor een beginner als ik.
Ik zal hoe dan ook meer met unix/linux moeten leren omgaan, dus een distro kiezen die ik zelf toevoeg met samba en rtorrent etc is misschien wel slimmer, maar wellicht niet voor een fileserver.

Openfiler heeft dan weer het gemak dat veel via de WebGUI kan, maar zeker niet alles.

Lastig om te kiezen of ik nu Openfiler neem, of een server distro.

[Verwijderd]

Gewoon Debian pakken Die webbased distro's zijn eigenlijk alleen maar interessant als je de CLI een beetje saai begint te worden

[ Voor 70% gewijzigd door Verwijderd op 02-02-2009 07:46 ]

[peak]

Verwijderd schreef op maandag 02 februari 2009 @ 07:45:
Gewoon Debian pakken Die webbased distro's zijn eigenlijk alleen maar interessant als je de CLI een beetje saai begint te worden

LoL gekken werk. Meen je dat nou?
Ik ben bang dat ik in de CLI veel meer schade kan aanrichten door dingen verkeerd te doen dan door een webinterface...

[Verwijderd]

Dat is een kwestie van goed nadenken en lezen peak

[peak]

Verwijderd schreef op maandag 02 februari 2009 @ 20:02:
Dat is een kwestie van goed nadenken en lezen peak

True true en testen op mn Windows Vmware machine

Ik ga nu debian installeren kijken hoe dat werkt.
Ben ook flink aan het googlen of ik nou voor unix of linux moet gaan...

[Verwijderd]

peak schreef op maandag 02 februari 2009 @ 21:40:
[...]


True true en testen op mn Windows Vmware machine

Ik ga nu debian installeren kijken hoe dat werkt.
Ben ook flink aan het googlen of ik nou voor unix of linux moet gaan...

Mja, ik denk dat het weinig uitmaakt of je nu een of andere BSD kiest of Linux. Linux wordt wel wat meer gebruikt, maar BSD heeft ook gewoon goede documentatie. In een VM kan je inderdaad gewoon wat prutsen tot je iets hebt waar je tevreden mee bent. Daarna kan je het voor het echie gaan doen.

[deadinspace]

peak schreef op zondag 01 februari 2009 @ 16:04:
Ik had begrepen dat als je je software raid en LVM wilt verplaatsen je een ''move'' commando op die server moest doen. Had het ergens snel gelezen, ben ff de naam kwijt. (lvmove ofzo?)

Hmm, ik heb niet superveel ervaring met LVM, maar ben je niet in de war met pvmove? Dat is om data te verplaatsen tussen fysieke schijven binnen je volume, zodat je bijvoorbeeld een schijf helemaal leeg kunt maken om hem te verwijderen.

Ik kan me om eerlijk te zijn niet voorstellen dat er iets aparts nodig is om je schijven in een andere machine te hangen, maar misschien dat iemand anders met meer LVM-ervaring daar meer nuttigs over kan zeggen.

peak schreef op maandag 02 februari 2009 @ 21:40:
Ik ga nu debian installeren kijken hoe dat werkt.
Ben ook flink aan het googlen of ik nou voor unix of linux moet gaan...

Hihi, Debian GNU/Unix

[peak]

Verwijderd schreef op maandag 02 februari 2009 @ 21:50:
[...]

Mja, ik denk dat het weinig uitmaakt of je nu een of andere BSD kiest of Linux. Linux wordt wel wat meer gebruikt, maar BSD heeft ook gewoon goede documentatie. In een VM kan je inderdaad gewoon wat prutsen tot je iets hebt waar je tevreden mee bent. Daarna kan je het voor het echie gaan doen.

Je hebt wat dat betreft helemaal gelijk. Linux is wat meer up to date met hardware.
Ik denk dat ik voor een debian of ander linux distro ga als ik de smb.conf niet kan aanpassen en behouden na een restart van de service..

Ik wil dus een recycle bin maken, maar dat moet via de CLI. Als samba service restart, dan verdwijnt mn aangepaste smb.conf.... dus nogal ruk. Ik zal waarschijnlijk dus wel naar een linux distro moeten.

*edit*

Dat is alleen als je het restart via de webgui van OpenFiler.

momenteel bezig met Debian. wil hierop VLM op toepassen, maar zoals je in de GUI nergens dat kunt vinden zal het ongetwijfeld via de CLI moeten wat ik niet erg vind. Leer ik tenminste wat, maar dan moet je gewoon weten dat VLM er al ingebouwd is. Ookal heb je niet zo'n geweldig mooi icoontje ergens.

[ Voor 18% gewijzigd door peak op 03-02-2009 00:44 ]

[zomertje]

deadinspace schreef op maandag 02 februari 2009 @ 22:16:
[...]

Hmm, ik heb niet superveel ervaring met LVM, maar ben je niet in de war met pvmove? Dat is om data te verplaatsen tussen fysieke schijven binnen je volume, zodat je bijvoorbeeld een schijf helemaal leeg kunt maken om hem te verwijderen.

Ik kan me om eerlijk te zijn niet voorstellen dat er iets aparts nodig is om je schijven in een andere machine te hangen, maar misschien dat iemand anders met meer LVM-ervaring daar meer nuttigs over kan zeggen.

[...]

Hihi, Debian GNU/Unix

Op AIX (Unix) kun je niet zo makkelijk verplaatsen omdat ie onder water ook allerlei dingen vastlegt. Details weet ik niet meer precies. Uiteindelijk opgelost door een tijdelijk LV aan te maken > data verplaatsen > oude LV verwijderen > nieuwe definitieve LV aanmaken > data verplaatsen. Zo kun je de oude en de definitieve toch dezelfde naam geven. Misschien niet de snelste manier maar wel de simpelste.

[deadinspace]

zomertje schreef op woensdag 04 februari 2009 @ 16:05:
Op AIX (Unix) kun je niet zo makkelijk verplaatsen omdat ie onder water ook allerlei dingen vastlegt. Details weet ik niet meer precies. Uiteindelijk opgelost door een tijdelijk LV aan te maken > data verplaatsen > oude LV verwijderen > nieuwe definitieve LV aanmaken > data verplaatsen. Zo kun je de oude en de definitieve toch dezelfde naam geven. Misschien niet de snelste manier maar wel de simpelste.

Maar als ik het goed begrijp heb je het over het verplaatsen van LVs binnen dezelfde machine?

Volgensmij maakte de topicstarter zich druk over de mogelijkheid om bij hardware-falen de disks in een andere machine te kunnen hangen om zo weer bij de data te kunnen. En daarvan kon ik me dus niet voorstellen dat dat voorbereiding nodig zou hebben.

[peak]

deadinspace schreef op woensdag 04 februari 2009 @ 18:46:
[...]

Maar als ik het goed begrijp heb je het over het verplaatsen van LVs binnen dezelfde machine?

Volgensmij maakte de topicstarter zich druk over de mogelijkheid om bij hardware-falen de disks in een andere machine te kunnen hangen om zo weer bij de data te kunnen. En daarvan kon ik me dus niet voorstellen dat dat voorbereiding nodig zou hebben.

That's correct.

Ben veel aan het lezen en testen betreft het overzetten van een LVM groep op een ander o/s

Nu met debian lenny bezig. Ziet er erg goed uit tot nu toe, maar uit eindelijk gaat het allemaal via de CLI straks.

[ Voor 9% gewijzigd door peak op 04-02-2009 21:49 ]

[Dr. Horrible]

Het overzetten naar een ander os, mits lvm er op kan draaien, is niet heel ingewikkeld. Je moet de volume group of logical volume markeren als actief. Daarna kan je ze gewoon benaderen.

[peak]

Vintendo schreef op woensdag 04 februari 2009 @ 22:13:
Het overzetten naar een ander os, mits lvm er op kan draaien, is niet heel ingewikkeld. Je moet de volume group of logical volume markeren als actief. Daarna kan je ze gewoon benaderen.

Nee oke, maar er komt meer bij kijken toch?

HDD's in andere kast zetten. O/S opstarten ---> mounten? --> dan weet ik veel --> dan weet ik veel.

Al dit soort dingen moet ik even uitzoeken.

[Dr. Horrible]

Inderdaad HDD is in andere kast zetten, os opstarten, device-mapper module laden, en dan het commando

vgchange -a y

uitvoeren

[peak]

Verwijderd schreef op vrijdag 30 januari 2009 @ 16:53:
[...]


Yep ik heb ook een home fileserver:

1 x 160GB voor het OS (Debian Lenny) en de homedirs.
3 x 250GB in Linux software RAID 5 voor mijn flac muziek collectie. (mountpoint /var/raid/)

Deze server wordt gebruikt als:

- usenet download bak met behulp van hellanzb

- torrents download bak met behulp van rtorrent

- streaming audio server met behulp van mt-daapd (a.k.a firefly)

Bestanden en toegang via ssh/scp/sftp met behulp van keys.

Hey,

Zou je me een keer kunnen adviseren waar ik aan moet denken als ik een server configureer?

Bij windows server weet ik dat ik 30 minuten bezig ben om bepaalde services, accounts en rechten uit te zetten.

Maar bij linux ben ik een leek.
Dit is een forum, geen plek voor contactadvertenties, als iedereen alles buiten het forum om gaat regelen, kunnen we net zo goed alleen mailadressen posten

[ Voor 8% gewijzigd door een moderator op 09-02-2009 22:51 ]

[peak]

Druk bezig met Debian Lenny,

Echter snap ik iets niet en veel googlen levert niet het gewenste resultaat.
Wat ik nu probeer in vmare is:
Debian lenny staat op 1 Disk.
3 Andere Disks die in een raid moeten.

Ik heb een partition table op msdos gezet.
(Heb apt-get install lvm moeten uitvoeren) Maar waarschijnlijk is dit voor de grafische tool?

En nu?
Hoe maak ik een software raid 5 aan en daarna LVM.
Ik moet een partitie maken. Ext2/3 zodat ik de raid flag op de disk kan zetten. (Anders lukt het niet)
Maar dan begrijp ik LVM niet? Die kan daarbovenop andere "partities" aanmaken met verschillende Filesystems.

Wellicht hoort dat zo.

[peak]

Verwijderd schreef op vrijdag 30 januari 2009 @ 14:37:
[...]

Ik heb een fileserver met Ubuntu Server 8.04 LTS. Er zitten 3 schijven van 1TB in. Ik heb bij alle schijven een bootable partitie van 64MB gemaakt, die in Linux software-RAID 1 staan (/dev/md0). Daarop staat /boot. Ik kan dus van elke schijf booten.

Daarnaast heb ik 256MB per schijf beschikbaar gemaakt als Linux-swap. In totaal dus 0.75GB.

De rest van de 1TB (per schijf) heb ik beschikbaar als software-RAID 5 partitie (/dev/md1). /dev/md1 heb ik als PV in LVM, met daarin een / (root) van 1GB en een /var van bijna 2TB.

De fileserver zit bijna vol, dus ik ga binnenkort een nieuwe 1TB schijf kopen. Dan krijg ik dus 1GB swap, /boot die vier keer gemirrord staat, en 3TB beschikbaar om te verdelen in de LVM. 1GB voor / is toch wat weinig voor mijn gebruik (compileren, wgetten), dus die zal ik uitbreiden naar 2GB, en /var wordt dan gewoon bijna 3TB.

Als het meer schijven worden (dat is waarschijnlijk volgend jaar), dan zal ik de schijfgrootte waarschijnlijk verdubbelen naar 2TB per schijf. Daar koop ik dan meteen 3 van. De bruikbare ruimte gaat dan van 3TB naar 4TB. De files worden verplaatst van de oude array naar de nieuwe, en de oude wordt buiten werking gesteld (afgeschreven hardware). Daar komt LVM goed van pas (pvmove).

De files staan in /var/files, en zijn beschrijfbaar/leesbaar voor iedereen. Ik log via sftp in (gemount met gvfs), en de rest van het huis via Samba (geconfigureerd met SWAT).

Op de achtergrond draait ook nog het java-programma PS3 Media Server mee, die /var/files/Video streamt naar de PS3. En ik download met de Deluge bittorrent client, waarvan de daemon op de server draait, naar /var/files/Downloads.

De server is volledig headless, en wordt 2 keer per jaar gerestart (vakanties).

Hey,

Zou je eventueel zin hebben om mij te helpen bij een paar fases?

Wil debian lenny gebruiken. (Ubuntu schijnt er op te lijken, dus qua uitleg zal het niet veel verschillen?)
Maar ik zit o.a. vast met software raid en LVM.
Wil o.a. XFS voor m'n movies gebruiken en ext3 voor kleinere bestanden

Heb de overweging gemaakt tussen openfiler en debian, dan kies ik liever voor een distro waar ik straks nog eventueel dingen van kan uitbreiden.
o.a. torrentflux op het moment.

Thanks

[benoni]

Ik snap het eigenlijk niet zo waarom zowat iedereen tegenwoordig zoveel mogelijk abstractie layers wil opstapelen: RAID eronder, LVM ertussen, en dan nog allemaal losse partities daarin...

3 disken in software RAID 5 dat klinkt wel logisch, maar als de root partitie en de swap lekker van een aparte schijf draait (eventueel met een losse /var en /tmp erbij als je een systeem wilt dat niet onderuit is te krijgen), dan wijs je toch verder die hele RAID container aan voor de /home, en ben je daarmee klaar?

[peak]

benoni schreef op dinsdag 10 februari 2009 @ 23:04:
Ik snap het eigenlijk niet zo waarom zowat iedereen tegenwoordig zoveel mogelijk abstractie layers wil opstapelen: RAID eronder, LVM ertussen, en dan nog allemaal losse partities daarin...

3 disken in software RAID 5 dat klinkt wel logisch, maar als de root partitie en de swap lekker van een aparte schijf draait (eventueel met een losse /var en /tmp erbij als je een systeem wilt dat niet onderuit is te krijgen), dan wijs je toch verder die hele RAID container aan voor de /home, en ben je daarmee klaar?

Ik hoor van alle kanten dat software raid in combinatie met LVM de beste oplossing is...

Opzich snap ik je punt wel. Als ik toch een aparte 20 GB IDE schijf voor het O/S gebruik en de raid voor m'n data gebruik.

Echter zit ik dan met het feit dat voor bepaalde grootte bestanden een bepaald filesystem beter is.

Documenten/muziek = EXT3/4
Films/series = XFS

Dus jah, dan is LVM wat handiger mee... toch?

Of kan ik uberhaupt zonder al teveel performance verlies over een 1Gbit netwerk XFS als filesystem voor zowel m,n documenten als muziek gebruiken?

[Verwijderd]

Ik denk niet dat je het verschil in filesystems gaat merken bij jouw gebruik. Dat soort benchmarks wordt gedaan met extreme cases, zoals een drukbezochte database van 100TB groot. Ik zou gewoon default Ext3 (of 4) kiezen.

LVM is inderdaad niet echt nodig. Ik heb m'n raid-device natuurlijk ook nog opgedeeld in verschillende partities, en dat kan niet zonder LVM. Maar met een aparte OS-schijf heb je dat niet nodig.

[ Voor 5% gewijzigd door Verwijderd op 11-02-2009 00:02 ]

[benoni]

Gewoon ext3 of ext4 lijkt mij ook prima inderdaad. Waar ik zelf altijd wel even naar kijk bij losse /home partities is de hoeveelheid ruimte die wordt apart gehouden voor de root user. Standaard staat die op 5%. Dat is prettig voor de systeempartities omdat je dan op een volgeschreven server nog altijd kunt inloggen en zo, maar binnen een /home partitie waarop relatief veel grote bestanden komen is het weggegooide ruimte, dus zet ik het op 1%. Dit kun je in de installer kiezen, of als je vanaf de command line formatteert kun je het met de -m optie toevoegen ('mke2fs -j -m 1 /dev/md0' of 'mkfs.ext4 -m 1 /dev/md0').

[peak]

benoni schreef op woensdag 11 februari 2009 @ 00:50:
Gewoon ext3 of ext4 lijkt mij ook prima inderdaad. Waar ik zelf altijd wel even naar kijk bij losse /home partities is de hoeveelheid ruimte die wordt apart gehouden voor de root user. Standaard staat die op 5%. Dat is prettig voor de systeempartities omdat je dan op een volgeschreven server nog altijd kunt inloggen en zo, maar binnen een /home partitie waarop relatief veel grote bestanden komen is het weggegooide ruimte, dus zet ik het op 1%. Dit kun je in de installer kiezen, of als je vanaf de command line formatteert kun je het met de -m optie toevoegen ('mke2fs -j -m 1 /dev/md0' of 'mkfs.ext4 -m 1 /dev/md0').

Ehm. Ik denk dat je 2 dingen door elkaar haalt?

Het O/S komt op een aparte IDE schijf van 20gb te staan.
5 andere schijven staan in een raid.

Dus dan maakt die commando mkfs.ext4 -m 1 /dev/md0 toch niks uit? of begrijp ik dit commando verkeerd?

De ''Home'' directories komen dus op de raid staan.

[Verwijderd]

Ik neem aan dat je voor een server geen aparte /home partitie gaat gebruiken, maar dat terzijde.

Dat commando maakt een Ext4 bestandssysteem op /dev/md0 met 1% van de ruimte gereserveerd voor de root-gebruiker. Dat is handig op je systeem-partitie om gegarandeerd wat ruimte over te hebben voor system maintenance.

Als je een partitie hebt die geheel gebruikt wordt voor data-opslag, dan zou ik zelfs gewoon 0% reserveren.

Als je Debian installeert zal je overigens dat commando niet hoeven te gebruiken. De installer loopt je stapsgewijs door de partitionering heen, en je kan al die dingen aanpassen.

Plaatje van internet:

[benoni]

'Bij de losse /home partitie' had ik in dit geval misschien beter kunnen zeggen, enkelvoud dus
Ik heb onze home server wel op die manier ingedeeld, ik laat de gebruikers op hun eigen home directory inloggen, maar sommige mappen in die home folders (Music bijvoorbeeld) vervang ik door een symlink naar de gelijknamige map in een samengebruikte account (waarop de gebruikers schrijftoegang kunnen krijgen door ze in de groep van die samengebruikte account te zetten, de samengebruikte map heeft de SGID bit aan en leesrechten voor iedereen open).

Maar, even terugkomend op de te bouwen server van Peak: de partitie(s) op de losse systeemschijf blijven gewoon standaard ext3 of ext4, maar de /home partitie die op de RAID komt (/dev/md0) die formatteer je ext3 of ext4 met (bijvoorbeeld) 1% gereserveerde ruimte.

Dus je maakt een RAID5, dit voorbeeld voor 3 schijven waarop je met fdisk een enkele partitie hebt gemaakt (als je opstartschijf /dev/sda was, dus /dev/sdb1; /dev/sdc1; /dev/sdd1, probeer 'fdisk -l'). Daarbij ga ik er van uit dat je al een geïnstalleerd systeem op de eerste schijf had staan, en een terminal sessie opent als root:

# Initialiseer RAID
mdadm --create --verbose /dev/md0 --level=5 --raid-devices=3 /dev/sdb1 /dev/sdc1 /dev/sdd1
# Bewaar configuratie
echo "DEVICE /dev/sdb1 /dev/sdc1 /dev/sdd1" > /etc/mdadm/mdadm.conf
mdadm --detail --scan >> /etc/mdadm/mdadm.conf

En dan formatteer je die RAID container:

mkfs.ext4 -b 4096 -m 1 /dev/md0

edit:
Grote blocksize toegevoegd

Dan vervang je de oude /home directory door die uit de RAID:

cd /
# Hernoem oude /home
mv /home /home-old
# Mount nieuwe /home
mkdir /home
mount /dev/md0 /home
# Kopieer oude gebruikersmappen over
cp -a /home-old/* /home

Daarna moet je nog de /home mount toevoegen in je /etc/fstab.

nano /etc/fstab
# Tussenvoegen:
/dev/md0    /home    ext4    defaults,relatime    0    2

[ Voor 4% gewijzigd door benoni op 14-02-2009 23:05 ]

[peak]

Benoni;

Nu bezig met wat jij doet.

Het was me eerder al gelukt om een raid te maken via de CLI.
Nu wil ik van ext3 naar ext4 ( staat geen data op, dus formatteren kan gewoon etc )
maar bij het commando mkfs.ext4 /dev/md0 krijg ik dus een melding dat het apparaat in gebruik is en dat het daardoor niet door kan gaan.

Ok ik dus kijken of ie gemount is en dat was niet het geval.
# voor de regel van fstab gezet bij /dev/md0, werkt ook niet...
*Edit*
Oke met /mnt/raid lukt het wel, maar dan krijg ik de melding dat het niet een block special device is en daarna invalid partiion specified or partition table wasn't reread after running fdisk.......

Heb exact dezelfde commando's gebruikt die jij me net gaf en nu wil ik er dus een ext4 van maken en dat werkt dus niet???

mdadm --manage /dev/md0 geeft aan : metadata format 00.90 unknown, ignored.

Whats next? google is nou ook niet echt behulpzaam.

Ohja, echo "Device partitions" > /etc/mdadm/mdadm.conf

Waarom moet je de echo output van de commando krijgen op de volgende regel?
Ook daar was google niet snel duidelijk in.

Is dat nodig om je raid te initialiseren bij het opstarten ofzo??
Of heb ik dat bestandje nodig als ik m'n raid in een ander systeem wil zetten?

thanks

[ Voor 19% gewijzigd door peak op 12-02-2009 19:34 . Reden: nieuwe ontdekking ]

[benoni]

peak schreef op donderdag 12 februari 2009 @ 19:28:
Nu wil ik van ext3 naar ext4 ( staat geen data op, dus formatteren kan gewoon etc )
maar bij het commando mkfs.ext4 /dev/md0 krijg ik dus een melding dat het apparaat in gebruik is en dat het daardoor niet door kan gaan. Ok ik dus kijken of ie gemount is en dat was niet het geval.
# voor de regel van fstab gezet bij /dev/md0, werkt ook niet...

Op dat punt zou je nog helemaal geen /dev/md0 in je fstab moeten hebben staan, want dat betekent dat je waarschijnlijk al een /dev/md0 RAID container in gebruik had (cq. nog een oude configuratie in je systeem had staan die al of niet werkt). Op zich is het wel goed om een # ervoor te zetten als het een ongebruikte configuratie is, maar ruim dan ook even het configuratiebestand /etc/mdadm/mdadm.conf leeg, en start dan opnieuw op (of umount alles en mdadm --stop alles). Als je dan 'df' doet zou je geen RAID container moeten zien. En uiteraard ook de partities niet die je in RAID wilde zetten, die moet je ook weglaten uit de /etc/fstab.

Oke met /mnt/raid lukt het wel, maar dan krijg ik de melding dat het niet een block special device is en daarna invalid partiion specified or partition table wasn't reread after running fdisk.......

Het pad /mnt/raid is in het voorbeeld niet gebruikt, dus mkfs probeert een leeg bestandje te formatteren

Ohja, echo "Device partitions" > /etc/mdadm/mdadm.conf
Waarom moet je de echo output van de commando krijgen op de volgende regel?
Ook daar was google niet snel duidelijk in.
Is dat nodig om je raid te initialiseren bij het opstarten ofzo??
Of heb ik dat bestandje nodig als ik m'n raid in een ander systeem wil zetten?

In dit voorbeeld (wat ik ook maar ergens van het web heb geplukt) schrijven ze inderdaad netjes de configuratie in een bestandje weg. Dat wordt door mdadm bij het opstarten wel gelezen, maar als het bestand er niet is probeert mdadm het zelf uit te zoeken.

Met 'commando > bestand' overschrijf je de inhoud van bestand met de output van het commando.
Met 'commando >> bestand' voeg je de output van het commando aan het bestand toe.
Met die slimmigheidjes wordt dus in het voorbeeld het nieuwe configuratiebestand samengesteld.

Addit: Oh wacht, in de 'DEVICE' regel in het bestand horen de partities te staan, voorbeeld is bijgewerkt.

[peak]

benoni schreef op vrijdag 13 februari 2009 @ 09:49:
[...]


Op dat punt zou je nog helemaal geen /dev/md0 in je fstab moeten hebben staan, want dat betekent dat je waarschijnlijk al een /dev/md0 RAID container in gebruik had (cq. nog een oude configuratie in je systeem had staan die al of niet werkt). Op zich is het wel goed om een # ervoor te zetten als het een ongebruikte configuratie is, maar ruim dan ook even het configuratiebestand /etc/mdadm/mdadm.conf leeg, en start dan opnieuw op (of umount alles en mdadm --stop alles). Als je dan 'df' doet zou je geen RAID container moeten zien. En uiteraard ook de partities niet die je in RAID wilde zetten, die moet je ook weglaten uit de /etc/fstab.


[...]


Het pad /mnt/raid is in het voorbeeld niet gebruikt, dus mkfs probeert een leeg bestandje te formatteren


[...]


In dit voorbeeld (wat ik ook maar ergens van het web heb geplukt) schrijven ze inderdaad netjes de configuratie in een bestandje weg. Dat wordt door mdadm bij het opstarten wel gelezen, maar als het bestand er niet is probeert mdadm het zelf uit te zoeken.

Met 'commando > bestand' overschrijf je de inhoud van bestand met de output van het commando.
Met 'commando >> bestand' voeg je de output van het commando aan het bestand toe.
Met die slimmigheidjes wordt dus in het voorbeeld het nieuwe configuratiebestand samengesteld.

Addit: Oh wacht, in de 'DEVICE' regel in het bestand horen de partities te staan, voorbeeld is bijgewerkt.

Oke,

Heb dus 3x 1 TB schijf, dan kom ik uit op 2 TB ( raid 5 )

Nu schoot er wat door mijn hoofd heen. Ext3 kan maar tot 2TB partitioneren.
Nu wil ik in de toekomst een extra schijf toevoegen dus dat gaat al niet lukken.

Dan is LVM wel de oplossing, of ik moet kiezen voor XFS.

Echter wordt me meerdere malen aangeraden om ext3 te nemen, want voor een home fileserver merk je het toch niet. En daar ben ik het mee eens.

Debian lenny heeft niet standaard XFS in zijn lijstje staan. Waarschijnlijk moet ik daarvoor een apt-get install commando gebruiken??

Wat zou jij/jullie doen?

LVM boven de raid5 of gelijk XFS.
Houdt in gedachte dat als er iets gebeurt, dat ik mijn data d.m.v. een tool weer terug kan krijgen en het schijnt dat er meer tools voor ext3 zijn...

b.v.d.

Mike

[begintmeta]

peak schreef op zaterdag 14 februari 2009 @ 12:16:
[...]


Oke,

Heb dus 3x 1 TB schijf, dan kom ik uit op 2 TB ( raid 5 )

Nu schoot er wat door mijn hoofd heen. Ext3 kan maar tot 2TB partitioneren.
Nu wil ik in de toekomst een extra schijf toevoegen dus dat gaat al niet lukken.

Wat bedoel je precies? De maximale bastandssysteemgrootte bij ext3 is afhankelijk van de blockgrootte. (en groter dan 2TB)

...
Debian lenny heeft niet standaard XFS in zijn lijstje staan. Waarschijnlijk moet ik daarvoor een apt-get install commando gebruiken??

Kun je xfs-tools niet selecteren als optie voordat je de installer laadt? Heb het ff niet voor de geest.

...
Houdt in gedachte dat als er iets gebeurt, dat ik mijn data d.m.v. een tool weer terug kan krijgen en het schijnt dat er meer tools voor ext3 zijn...
...

Daar zou ik bij moderne bestandssystemen niet veel vertrouwen in hebben, zeker niet als je raid5 totaal kapot is. Een goed backupbeleid is het beste.

[peak]

begintmeta schreef op zaterdag 14 februari 2009 @ 12:32:
[...]

Wat bedoel je precies? De maximale bastandssysteemgrootte bij ext3 is afhankelijk van de blockgrootte. (en groter dan 2TB)

[...]

Kun je xfs-tools niet selecteren als optie voordat je de installer laadt? Heb het ff niet voor de geest.

[...]

Daar zou ik bij moderne bestandssystemen niet veel vertrouwen in hebben, zeker niet als je raid5 totaal kapot is. Een goed backupbeleid is het beste.

Hoi, ja betreft de max partitie size bij ext3 heb je gelijk in.
Wikipedia: ext3

Maar ik zit dus met Films van > 4GB (denk aan HD content )
En ik zit met muziek van < 10 MB..

Dus daarom zit ik een beetje vast.

Want ik raak niet benutte ruimte kwijt door kleinere bestanden, omdat ik zo graag een filesystem van +2 TB wil...

Vandaar vraag ik jullie advies hierover.

Betreft het filesystem en veilig + tools etc, daar heb je gelijk in. Ik maak van mijn foto's maandelijks een back-up op een extern medium.

[benoni]

peak schreef op zaterdag 14 februari 2009 @ 17:41:
En ik zit met muziek van < 10 MB..

Stel dat je de RAID wilt laten groeien tot max. 8 TiB, dan zou je de blockgrootte volgens de aangehaalde Wiki moeten aangeven op 4KiB. Dat betekent dat je gemiddeld 2 KiB 'inschiet' krijgt voor elk bestand. Voor muziekbestanden van gemiddeld 6 MiB (6144 KiB dus) komt dat neer op 0.0325%. Is dat je probleem?

[peak]

benoni schreef op zaterdag 14 februari 2009 @ 18:08:
[...]


Stel dat je de RAID wilt laten groeien tot max. 8 TiB, dan zou je de blockgrootte volgens de aangehaalde Wiki moeten aangeven op 4KiB. Dat betekent dat je gemiddeld 2 KiB 'inschiet' krijgt voor elk bestand. Voor muziekbestanden van gemiddeld 6 MiB (6144 KiB dus) komt dat neer op 0.0325%. Is dat je probleem?

Oke, dus zo reken je dat uit. Nee dan is het niet mijn probleem nee.
Echter zit ik ook met kleinere bestanden, maar goed dat moet ik maar voor lief nemen denk ik.

Maar goed, jullie raden dus ext3 aan en dan gewoon de blocksize op 4KiB zetten.
Dus geen LVM met daarop verschillende partities voor verschillende bestandsgroottes.
en XFS is eigenlijk te verwaarlozen...

Als ik makkelijk naar ext4 kan upgraden dan zie ik daar echter wel de toekomst in als ik de benchmarks mag geloven.

[begintmeta]

Voor linux is ext(X) is door de tijden heen een veilige keuze gebleven. Btrfs is IMHO een meer cuttingedge fs wat je in de gaten kunt houden (en waar je vanaf ext3 ook naartoe zou moeten kunnen)