Schaalbaarheid (servers) en repositories

[Hiemstra]

Goedemorgen,

Ik wou graag wat advies inwinnen voor het volgende:

Voor mijn klant moet ik een klein (voor nu) server park opzetten, eerst zullen het er niet meer zijn dan 10 servers. Maar het idee is wel dat het snel schaalbaar moet zijn. Dus ik moet een manier hebben om snel servers bij te prikken, maar dan ook de OS + software installeren op de machines. Maar het is niet echt efficiënt om alle servers met de hand te installeren.

Alle servers draaien op CentOS 5.6, ik dacht zelf om een eigen private yum repository op te zetten. Iedere server moet beschikken over:

- Apache, PHP, MySQL en een aantal dependencies/libraries voor php etc.

Wat het voordeel is van een private yum repo is dat ik snel en eenvoudig alle servers kan updaten vanuit deze repo.

We hebben ook gedacht aan een cluster/cloud maar hier hebben we niet voor gekozen omdat we de risico's willen verdelen (aantal klanten per server) en zodat we specifieke klanten kunnen balanceren (latency wise) op de servers voor bijvoorbeeld een klant uit India en Japan.

Maar nu is mijn vraag, heeft iemand een beter idee om schaalbaarheid te creëren? Ik ben best wel nieuw in dit verhaal

[DiedX]

Ik zou zelf insteken op Citrix XenServer + een iSCSI SAN oid. Daarnaast een normale host voor PXE-Boot installaties.

Wat heb je zelf gezocht en gevonden?

[Hiemstra]

Virtualizatie willen we op het moment ook niet, de risico's zijn hier mee te groot en iedere machine die we nu bij prikken zijn niet mis qua specs en zijn redundant qua data/stroom etc en we hebben goeie afspraken met leveranciers op het moment dat een machine vaalt. Maar hier hebben we ook een failover systeem voor in plaats die de machine overpakt op het moment dat hij down gaat om wat voor reden dan ook. Iedere server is standalone en moet zo blijven. Ook is virtualizatie niet aantrekkelijk omdat we straks ook uitrollen in meerdere landen.

[DiedX]

Hiemstra schreef op dinsdag 26 april 2011 @ 11:58:
Virtualizatie willen we op het moment ook niet, de risico's zijn hier mee te groot en iedere machine die we nu bij prikken zijn niet mis qua specs en zijn redundant qua data/stroom etc en we hebben goeie afspraken met leveranciers op het moment dat een machine vaalt. Maar hier hebben we ook een failover systeem voor in plaats die de machine overpakt op het moment dat hij down gaat om wat voor reden dan ook. Iedere server is standalone en moet zo blijven. Ook is virtualizatie niet aantrekkelijk omdat we straks ook uitrollen in meerdere landen.

Ok, dat haalde ik even niet eruit.

Maar dan zie ik je probleem nog niet echt: je kan meerdere fysieke machines uit laten rollen met CentOS/Fedora, whatever.

Anders gezegd: of je een virtuele machine, of fysieke machine uitrolt, dat kan je met elk OS doen.

Maar eigenlijk wil je alleen maar weten waarmee je dit uit kan rollen? Al gezocht op KickStart?

En hoe wil je je storage redundant gaan maken?

[MAX3400]

Hiemstra schreef op dinsdag 26 april 2011 @ 11:58:
Virtualizatie willen we op het moment ook niet *knip*

Ik mis nog steeds de daadwerkelijke argumenten waarom virtualiseren dus niet kan?

En, wat al eerder gevraagd is; wat heb je zelf al uitgezocht/gevonden voor het "neerzetten" van het idee wat blijkbaar al 99% gevormd is? Geen idee trouwens wat de kennis/inhoud is van "niet handmatig installeren" maar met een paar bash-scripts kan je toch 99% van de installatie (al dan niet vanuit een centraal repository) voor elkaar krijgen?

/edit: je kiest niet voor clustering maar wil wel bepaalde klanten laten "wijzen" naar een bepaalde server of groep servers? Ga je ze dan vertellen naar welk IP ze moeten connecten per server of ga je dit op een firewall inregelen en die laten loadbalancen?

[ Voor 38% gewijzigd door MAX3400 op 26-04-2011 12:03 ]

[Hiemstra]

Ik heb een aantal schema's zoals we het nu willen opzetten. We hebben eerder al virtualizatie gedaan en dit beviel niet. Deze beslissing is niet door mij gedaan en ik weet ook niet de exacte reden waarom we daar niet mee verder zijn gegaan..

Dit is in ieder geval hoe het nu opgezet moet worden:



Kick-Start had ik nog niet van gehoord, ik ga eens lezen..

MAX3400 schreef op dinsdag 26 april 2011 @ 12:00:
/edit: je kiest niet voor clustering maar wil wel bepaalde klanten laten "wijzen" naar een bepaalde server of groep servers? Ga je ze dan vertellen naar welk IP ze moeten connecten per server of ga je dit op een firewall inregelen en die laten loadbalancen?

De klanten met hogere prio levels krijgen wellicht een eigen server met eigen IP, of geshared met een andere machine.

Load is niet de issue, maar bereikbaarheid wel. De (web)software die op de machine draait is maar klein maar moet altijd bereikbaar zijn voor klanten

[ Voor 41% gewijzigd door Hiemstra op 26-04-2011 12:10 ]

[MAX3400]

Ik begrijp de vraag ondertussen wel maar zie in de beschrijving en de schema's toch nog geen redundante storage, niet de mogelijkheid om klanten te verwijzen naar een bepaalde server/servers, maar voorlopig ook maar 1 extern IP wat meteen een SPOF is als de ISP even *hik* zegt.

Onderaan in het schema staat ook het woordje "Failover"; geen idee of dit een standby hele dikke server is of een heel apart datacenter ofzo?

Iets zegt me, maar hou me ten goede, dat het projectje in je schoenen is geschoven om eens te kijken hoe goed je kan improviseren en inlezen in literatuur maar de aangeleverde info (van jou of van de resterende collega's) is wat summier/simpel om daadwerkelijk een lang & constructief antwoord te formuleren.

Ik kijk in dit topic vooral naar de technische inrichting van de hardware/infra; niet eens zo zeer naar welk OS erop komt te draaien.

Ow, misschien dit ook wel leuk (om te lezen?) http://tldp.org/HOWTO/Cluster-HOWTO.html

[ Voor 7% gewijzigd door MAX3400 op 26-04-2011 12:20 ]

[CyBeR]

Debian + pxe + preseed + config management zoals puppet. Als je aan CentOS vast zit, dat heeft vast ook wel een unattended install mogelijkheid.

[Hiemstra]

MAX3400 schreef op dinsdag 26 april 2011 @ 12:18:
Ik begrijp de vraag ondertussen wel maar zie in de beschrijving en de schema's toch nog geen redundante storage, niet de mogelijkheid om klanten te verwijzen naar een bepaalde server/servers, maar voorlopig ook maar 1 extern IP wat meteen een SPOF is als de ISP even *hik* zegt.

Onderaan in het schema staat ook het woordje "Failover"; geen idee of dit een standby hele dikke server is of een heel apart datacenter ofzo?

Iets zegt me, maar hou me ten goede, dat het projectje in je schoenen is geschoven om eens te kijken hoe goed je kan improviseren en inlezen in literatuur maar de aangeleverde info (van jou of van de resterende collega's) is wat summier/simpel om daadwerkelijk een lang & constructief antwoord te formuleren

Ow, misschien dit ook wel leuk (om te lezen?) http://tldp.org/HOWTO/Cluster-HOWTO.html

De domeinnamen worden via de DNS naar een server gestuurd, de DNS is vanzelfsprekend redundant

De failover is inderdaad een dikke server en heeft altijd alle data (mysql) beschikbaar (word gerepliceerd vanaf alle app servers) Op het moment dat server 1 plat gaat (dus vc1-vc100) dan wordt het IP adres van die machine toegevoegd op de failover server via een script op de monitoring server

Het project is me inderdaad min of meer in de schoenen geschoven, er zijn al meerdere mensen bezig geweest met een opzet, ieder weer verschillend en nu was het mijn kans, en mijn idee is heel simpel, risico's verspreiden (http), geen loadbalancer want dat is ook weer een SPOF en het moet schaalbaar zijn op datacenter niveau en tegelijkertijd ook iedere server in een soort sandbox te zetten.

Als iemand een beter idee of tip heeft hoe het beter kan dan ben ik helemaal oren

[CAPSLOCK2000]

Snel servers installeren doe je met Kickstart.
De boel configureren doe ik bij voorkeur met puppet.
Dat zou voor vrijwel iedereen voldoende moeten schalen om een paar honderd servers te installeren.

Je failoveroplossing klinkt mij niet echt als betrouwbaar in de oren. Wat gebeurt er als er iets mis gaat met die failoverserver?

Wat bedoel je precies met de servers in een sanbox zetten? Wat heb je in gedachte?

[MrBarBarian]

CyBeR schreef op dinsdag 26 april 2011 @ 12:18:
Debian + pxe + preseed + config management zoals puppet. Als je aan CentOS vast zit, dat heeft vast ook wel een unattended install mogelijkheid.

CentOS met Cobbler en Koan. Configmanagement ook Puppet

[DiedX]

Afgezien van de storage-functionaliteit die nog niet redundant is zie ik nog steeds het probleem niet om te virtualiseren.

My two cents:

* Maak gebruik van 2 haproxy-servers. Hiermee kan je load-balancen tussen meerdere servers. Hiermee van je de afhankelijkheid van servers af;
* Servers laten opstarten met bovengenoemde methoden. Binnen minuten heb je servers erbij, en als je virtualiseerd, ook servers eraf;
* Maak van je fileserver een Equallogic (ik zit in de Dell-hoek, HP of andere oplossingen zijn ook prima). Te duur? Maak eens een PoC met een FreeNAS-Machine;

Ik lees deze opdracht als een webfrontend die op meerdere machines kan draaien. Maakt deze webfrontend nog gebruik van een database?

* DiedX heeft nog eens gebabbeld met een man die psychologische tests deed afnemen via het interwebs...