[HA] High Availability oplossing voor een e-commerce site.

[Qorne]

Beste (pro) Tweakers,


Sinds 5 jaar doen wij de hosting van onze webapplicaties volledig zelf, omdat de bedrijfsapplicaties steeds belangrijker worden ben ik opzoek naar een oplossing die een hoge beschikbaarheid garandeert dan dat ik tot nu toe heb. HA High Availability zoek ik dus.

Het gaat voornamelijk om onze e-commerce oplossing, deze website draait nu op een Dell PowerEdge 2950 III met Debian, Apache 2 en MySQL alles op één enkele server. Dit gaat tot nu toe nog steeds goed, maar ik ben op zoek naar meer zekerheid.

Ik zie het doel zo voor me:

Af van een single point of failure systeem, het liefst een oplossing als het ene uitvalt dat het andere systeem het overneemt.

Nu heb ik naar diverse oplossingen zitten kijken, alles is gebaseerd op eigen gevonden informatie het kan heel goed zijn dat ik er naast zit:

Optie 1:
2x Load balancer gebaseerd op bijv. een Dell R200 (minimale specs) en daar dan LVS op draaien.
2x een webserver bijv. R510 van Dell, waarbij de gegevens van de ene web server via rsync worden gesynchroniseerd , MySQL draait ook lokaal op de server.

Optie 2:
Een load balancer van KEMP Technologies (of een soort gelijke) en 2x een web server.

Voordeel lijkt mij, het is allemaal al voor geconfigureert betreft de load balancer en heb een SSL accelerator.
Nadeel er is nog steeds een single point of failure... (maar dat hou je altijd want ik heb ook 1 router en switch)

Optie 3:
2x een webserver, syncen via rsync en mysql, geen load balancer en handmatig omschakelen, dit zal de goedkoopste oplossing zijn, maar niet de HA.


Eisen:

• SSL (HTTPS) ondersteuning (Ik heb gelezen dat load balancers in combinatie met SSL vertraging op leveren?)
• Geschikt voor elke web toepassing, wil het gevoel hebben dat ik nog steeds met 1 web server te maken heb.
• ondersteuning voor cookies en sessions

Algemene criteria:

• OpenSource heeft de voorkeur
• Relatief makkelijk te onderhouden
• Simpel maar zekerheid heeft de voorkeur
• Niet al te duur (geen load balancers van 2500euro per stuk, is overkill op dit moment)

Software die wordt gebruikt of willen gaan gebruiken:

• Debian of Ubuntu (heeft niet een directe voorkeur, nu werken we voornamelijk met Debian, sta eventueel open voor andere oplossingen)
• Zend Apache server willen we gaan gebruiken ivm performance
• MySQL database software

Het gaat er dus om dat een e-commerce website een hogere HA krijgt.

Wat is nou een goede en realistische oplossing? Voor de performance hoef ik het eigenlijk nog niet te doen, want de PE2950 trekt het nog makkelijk, het gaat mij er voornamelijk om dat de HA hoger wordt.

Naast de beste oplossing en dingen die ik wellicht nog vergeet, hoe zorg je er voor dat 2 webservers met dezelfde website gelijk lopen qua database en content? is Rsync de enige oplossing? (wellicht is dit meer een vraag voorin Non windows operating systems)

[jbdeiman]

Qorne,
Allemaal leuk en aardig, maar door 2 webservers te plaatsen houd je nog steeds de single point of failure in jou internet verbinding. Valt die weg of zijn er problemen (ik weet niet of je server echt in een datacenter staat, en/of een redundant verbinding heeft, mocht de oorspronkelijke verbinding wegvallen) met de stroomvoorziening op de locatie waar (zoals ik het lees) je beide servers staan, dan ben je mooi in de aap gelogeerd.
Weg de voordelen van het gebruiken van 2 servers.

Mijn advies:
- Synchroniseren is een optie, maar doe dit:
a) automatisch (bij een nieuw bericht op de ene server, meteen dat bericht ook naar de andere server sturen (indien bereikbaar), zo hou je wel de snelheid en heb je live een gesynchroniseerde server.
b) Op een tijdstip dat de servers verder niet / nauwelijks gebruikt worden. Voordeel is dat alles in zijn geheel iets sneller is voor de (gemiddelde) bezoeker, maar nadeel is dat mocht 1 server wegvallen je een stap terug moet doen in de tijd (post geschiedenis)

Daarnaast is het dan beter om te zorgen dat je een andere locatie zoekt voor de 2e server, mocht de 1e locatie (bij wijze van) afbranden, dan kan je door je DNS anders in te stellen, (bij een aantal leveranciers kan je dit zelf regelen) gewoon nog gebruik maken van je back-up server en in de tussentijd een andere server (+ locatie) regelen.

Mijn advies kortom:
Zorg voor meerdere locaties
Als betrouwbaarheid belangrijk is zorg voor een live-backup, dan verliezen klanten geen gegevens.

[Qorne]

Het klopt dat stroom en een internet verbinding een single point of failure zijn (er worden wel UPSen gebruikt)
Het gaat mij daarom ook voornamelijk om een hardware failure, als nu mijn server crasht ben ik niet binnen een paar uur weer online, bij een hardware crash. Mijn internet verbinding is afgelopen 5 jaar 2 uur offline geweest en stroomstoringen heb ik ook geen last van gehad. Het is natuurlijk een risico, maar wij vinden dat een minder groot probleem dan een hardware failure met alle gevolgen van dien.

Wat voor oplossing zou jij kiezen voor het live synchroniseren ?

[mace]

Je kan de boel ook gaan virtualiseren natuurlijk, en dan in een cloud dat als er 1 uitvalt de anderen het dan naadloos overnemen.

[Neo]

Bij zulke belangrijke websites zou ik de hardware en het beheer uitbesteden. Je kan dan namelijk gebruik maken van een gedeeld SAN en daarop VM's draaien die de diensten automatisch van elkaar overnemen met VMWare HA of Xen Enterprise. Je zou dit zelfs bij sommige aanbieders of meerdere datacenters verspreid kunnen laten doen. Een goede HA oplossing is voor zo'n 'kleine omgeving' gewoon een te grote investering.

[Qorne]

Het eigenbeheer heeft voor ons veel voordelen, wij vinden het wel prettige om dit zelf te blijven doen.


Virtualiseren is een oplossing waar ik ook aan gedacht heb, op de website van VMware kom ik er nog niet helemaal achter hoe je bijvoorbeeld 2 machines kunt mirroren, mocht één uitvallen dat de andere door draait.

[mace]

Je moet het niet zo zien, je moet het zien dat je 1 VM over 2 of meer machines draait en als er dan 1 uitvalt dat de overige machines de boel overnemen.

[Skinkie]

mace schreef op zondag 28 maart 2010 @ 22:41:
Je moet het niet zo zien, je moet het zien dat je 1 VM over 2 of meer machines draait en als er dan 1 uitvalt dat de overige machines de boel overnemen.

Overnemen met VM's is zo overrated. Zeg gewoon dat een tweede machine start, op het moment dat de eerste onbereikbaar is.

Ik zou op twee machines voor master-master replicatie gaan eventueel met dbslayer frontend ervoor zodat je op ieder moment sowieso beide resources kun benutten. En dan iets als heartbeat voor extern IP en fail over.

[Qorne]

Skinkie schreef op zondag 28 maart 2010 @ 22:44:
[...]

Overnemen met VM's is zo overrated. Zeg gewoon dat een tweede machine start, op het moment dat de eerste onbereikbaar is.

Ik zou op twee machines voor master-master replicatie gaan eventueel met dbslayer frontend ervoor zodat je op ieder moment sowieso beide resources kun benutten. En dan iets als heartbeat voor extern IP en fail over.

Begrijp ik het goed, jij zegt dat VM ware oplossingen niet ideaal zijn? Of bedoel je dat je 2 machines neemt met VM ware?


Ik heb zojuist dit filmpje bekeken, http://download3.vmware.com/demos/smb/vmw_smb_demo.html
Dit ziet er goed uit en zou voor mij een oplossing kunnen zijn, ik vraag me alleen af of dit ook automatisch kan. (Of hebben we het dan over de Master-Master oplossing?)


Kan dit ook met VMware ESXi? of een andere opensource oplossing? XenServer ziet er ook goed uit.

[ Voor 4% gewijzigd door Qorne op 28-03-2010 23:08 ]

[PcDealer]

Qorne schreef op zondag 28 maart 2010 @ 22:51:
[...]


Begrijp ik het goed, jij zegt dat VM ware oplossingen niet ideaal zijn? Of bedoel je dat je 2 machines neemt met VMware?

Nogal dure oplossing voor een (eenvoudige) webhoster. Een mirror met VMware maak je d.m.v. Fault Tolerence. Bij wegvallende vm een nieuwe booten, doe je met HA.

http://www.vmware.com/sol...ity/highavailability.html

Kan dit ook met VMware ESXi? of een andere opensource oplossing? XenServer ziet er ook goed uit.

Niet alléén met ESXi, je moet een licentie hebben om HA/FT te kunnen doen.

[LuckY]

PcDealer schreef op maandag 29 maart 2010 @ 08:04:
[...]
Nogal dure oplossing voor een (eenvoudige) webhoster. Een mirror met VMware maak je d.m.v. Fault Tolerence. Bij wegvallende vm een nieuwe booten, doe je met HA.

http://www.vmware.com/sol...ity/highavailability.html

[...]

Niet alléén met ESXi, je moet een licentie hebben om HA/FT te kunnen doen/

Dat is leuk een aardig, maar als er iets binnen de VM faalt (lees een corruptie of een andere error) dan heb je een leuk onderliggend HA platform, maar de VM is nog steeds niet bereikbaar.

Je kan of het beste voor oplossing 1 gaan, of voor de oplossing van

Skinkie schreef op zondag 28 maart 2010 @ 22:44:
Ik zou op twee machines voor master-master replicatie gaan eventueel met dbslayer frontend ervoor zodat je op ieder moment sowieso beide resources kun benutten. En dan iets als heartbeat voor extern IP en fail over.

Eventueel over 2 lokaties, maar dat hoeft nog geen eens persé

@ hieronder totdat je moederbord kapot gaat, of de backpane van de Voeding. Dan is je server down, door de onderbreking is je raid array fubar. Dan moet je wachten op de engineer van de leverancier. Dan moet je nog hopen dat het in een keer goed gaat. En dan kan je pas beginnen aan de array beginnen te recoveren of een backup terugzetten

De kosten zijn lager voor de opzet, maar als iets fout gaat ben je meer kwijt door de misgelopen omzetten.

[ Voor 17% gewijzigd door LuckY op 29-03-2010 20:57 ]

[cariolive23]

Qorne schreef op zondag 28 maart 2010 @ 21:54:
omdat de bedrijfsapplicaties steeds belangrijker worden ben ik opzoek naar een oplossing die een hoge beschikbaarheid garandeert dan dat ik tot nu toe heb.

Wat is jouw huidige beschikbaarheid en wat is je doel?

En waar liggen de risico's? Welke problemen heb je de afgelopen jaren gehad? En hoe waren deze te voorkomen geweest? RAID-opstellingen, goede raid-kaart met batterij, dubbele voedingen, dubbele netwerkkaarten, hotspare RAM, hotspare HD's en uiteraard hot swappable, allemaal dingen die voor een betere beschikbaarheid zorgen zonder dat je direct met extra servers te maken krijgt. Wat dus flink scheelt in de beheerkosten. (die zijn veel duurder dan de hardwarekosten)

Virtualiseren is leuk, maar ook dan heb je hardware nodig en ook deze hardware kan kapot. Dat is dus niet direct een oplossing.

[Qorne]

Afgelopen 5 jaar hebben we maximaal 24uur downtime gehad (over de afgelopen 5 jaar)

De downtime was dan eerder een software probleem of een DDOS aanval dan een hardware failure.

Mijn huidige server heeft een raid kaart met battery backup, redunante voedingen en UPS.

Omdat ik tot nu toe nog geen hardware uitval heb gehad en dat eigenlijk zo wil houden ben ik opzoek naar een nieuwe oplossing. Voordat het te laat is zeg maar, ik zou nu een nieuwe server kunnen aanschaffen er er vanuit gaan dat deze ook weer 4a5 jaar mee gaat... Maar het lijkt me ook wel prettig als het down gaat dat ik er niet direct heen hoef te vliegen. Maar een backup server het overneemt zodat ik rustig het probleem kan oplossen.

[cariolive23]

Eigenlijk heb je dus geen probleem en de problemen die je kunt verwachten, zijn met redundante hardware die automatisch wordt ingeschakeld, eenvoudig af te vangen. Wat dan nog overblijft is brand en waterschade waarbij de complete server verloren gaat. In die situatie kun je ook geen tweede server bijplaatsen, die fikt net zo goed af of staat net zo goed tot over zijn oortjes in het water.

Wat is het budget voor replicatie naar een andere locatie? Zet een tweede server (zelfde specs) op een andere locatie, laat de database fijn repliceren en bij complicaties op server één, pas je de DNS aan en laat je al het verkeer gebruik maken van server twee. Dit is veel goedkoper en veel eenvoudiger, downtijd wordt dan zeer minimaal: De tijd die nodig is om de DNS aan te passen.

[LuckY]

cariolive23 schreef op dinsdag 30 maart 2010 @ 18:34:
Eigenlijk heb je dus geen probleem en de problemen die je kunt verwachten, zijn met redundante hardware die automatisch wordt ingeschakeld, eenvoudig af te vangen. Wat dan nog overblijft is brand en waterschade waarbij de complete server verloren gaat. In die situatie kun je ook geen tweede server bijplaatsen, die fikt net zo goed af of staat net zo goed tot over zijn oortjes in het water.

Wat is het budget voor replicatie naar een andere locatie? Zet een tweede server (zelfde specs) op een andere locatie, laat de database fijn repliceren en bij complicaties op server één, pas je de DNS aan en laat je al het verkeer gebruik maken van server twee. Dit is veel goedkoper en veel eenvoudiger, downtijd wordt dan zeer minimaal: De tijd die nodig is om de DNS aan te passen.

En dus bij een groot gedeelte van de dag je klanten kwijt zijn omdat er overal de updates moeten komen.
Imho kan je dan beter met 2 loadbalancers met 2 webservers spelen in 2 datacentra. De loadbalancers zijn HA en praten met elkaar en hebben samen 1 virtueel IP. Waar je de DNS aankoppelt, hierdoor blijft het altijd beschikbaar. (moet je wel op 2 netwerken gaan zitten).
Anders moet bij 2 servers in een HA opstelling zetten, en dan een of 2 loadbalancers ervoor.

D.M.V. ESXi of Xen kan je dan 2 servers gebruiken ipv 3/4 .

[cariolive23]

LuckY schreef op dinsdag 30 maart 2010 @ 22:55:
[...]
En dus bij een groot gedeelte van de dag je klanten kwijt zijn omdat er overal de updates moeten komen.

Hoe kan het dan dat dit elders wel werkt? Wanneer ik een domein van server A naar server B verplaats (op een andere lokatie), hoef ik alleen even de DNS aan te passen en binnen een half uur is het domein op server B te bereiken. Downtijd: minder dan een half uur. En ja, dat is acceptabel. Hoeveel tijd het precies is, dat zul je moeten meten, dat kan een ander niet voor je doen.

HA wil niet zeggen 100% beschikbaarheid, het wil alleen zeggen dat je meer beschikbaarheid hebt en dat de beschikbaarheid voorspelbaar wordt. Wanneer nu alles prima werkt op één servertje, is het imho wat overdreven om direct een tig aantal (virtuele) servers er tegenaan te gooien in de hoop dat je spof daarmee verdwijnt. Virtuele servers zorgen juist voor nog een extra spof, valt de hardware uit (daar waar het hier juist om gaat), ben je alle servers die er op draaiden, kwijt. Daarnaast krijgt je een aantal extra servers te beheren, wat dus extra geld kost maar niks oplost: Je zit nog steeds met een spof.

Hou het eenvoudig, dat zorgt voor minder problemen en veel minder kosten en kopzorgen.

[Kabouterplop01]

Om even een antwoord te geven op je vraag over SSL.
Het ligt eraan wat je wilt.
Met SSL offloading wordt het er zelfs sneller op. Je hebt dan nl niet de CPU power nodig om de geencrypte verbinding tot stand te brengen en te houden, dit doet je hardware loadbalancer, daar plaats je de certificaten op.
Interessant als je veel hits hebt.
(tenzij je natuurlijk geen gebruikt maakt van SSL offloading, dan gaat het niet op)

[LuckY]

cariolive23 schreef op woensdag 31 maart 2010 @ 08:04:
[...]

Hoe kan het dan dat dit elders wel werkt? Wanneer ik een domein van server A naar server B verplaats (op een andere lokatie), hoef ik alleen even de DNS aan te passen en binnen een half uur is het domein op server B te bereiken. Downtijd: minder dan een half uur. En ja, dat is acceptabel. Hoeveel tijd het precies is, dat zul je moeten meten, dat kan een ander niet voor je doen.

HA wil niet zeggen 100% beschikbaarheid, het wil alleen zeggen dat je meer beschikbaarheid hebt en dat de beschikbaarheid voorspelbaar wordt. Wanneer nu alles prima werkt op één servertje, is het imho wat overdreven om direct een tig aantal (virtuele) servers er tegenaan te gooien in de hoop dat je spof daarmee verdwijnt. Virtuele servers zorgen juist voor nog een extra spof, valt de hardware uit (daar waar het hier juist om gaat), ben je alle servers die er op draaiden, kwijt. Daarnaast krijgt je een aantal extra servers te beheren, wat dus extra geld kost maar niks oplost: Je zit nog steeds met een spof.

Hou het eenvoudig, dat zorgt voor minder problemen en veel minder kosten en kopzorgen.

En welke acties onderneem je dan, denk je dat de klant hun DNS flushen... die hebben waarschijnlijk het gewoon cached staan met een redelijke TTL

Mijn oplossing is juist simpel, je hebt geen spof, je hebt gewoon de replicatie die jij hebt, allen dan per site(geografisch) één virtuele host waar de loadbalancers en webserver indraait. Het is makkelijk uitbreidbaar als er een ander bedrijf bij komt. Ik zeg namelijk niet dat je 1 virtuele server hebt.
Je hebt er 2 op elke lokatie 1, precies dezelfde setup als jouw. alleen dan virtueel. waar je HD synch op virtualHD niveau. je kant daarna makkelijker uitbreiden, en je hebt meer management mogelijkheden. Je kan zo een test kopie trekken voor de testomgeving.