loadbalance multi tier omgeving

[cestlavie2010]

Hello

Wij zijn aan het kijken voor een bepaald toekomstig systeem hoe we een hoge beschikbaarheid kunnen verkrijgen in een datacenter of eventueel bij ons zelf gehost. Het systeem zal bestaan uit:

T1 presentation: web-endpoint IIS
T2 businesslogic: webendpoint IIS
T3 datatier: SQL server met db mirroring

De database zal niet heel groot worden (max 10GB) en er zullen concurrent max 200 webrequest per seconde plaatsvinden die iets opvragen uit de database. Vandaag adviseerde een heer van een datacenter: T1 en T2 op vmware en T3 sql active / passive fysieke servers. Dit ook ivm licensing op vmware van sql en dat webservices zich beter laten scalen op vmware dan dan een sql server dat bv doet. iemand hier bekend mee?

Nu werd er ook gesproken over ene loadbalancer die redirect naar bv 2 vm webservers op T1. Maar hoe ga je dan om met bv 2 businesslogic webservers op T2? gaat dit zonder probleem ? Is dit applicatie afhankelijk ?

Omdat het systeem nog niet bestaat zijn het aannames... ben benieuwd wat jullie ideeen, adviezen zijn bij bovenstaande ?

[jvanhambelgium]

>Nu werd er ook gesproken over ene loadbalancer die redirect naar bv 2 vm webservers op T1. Maar hoe ga >je dan om met bv 2 businesslogic webservers op T2? gaat dit zonder probleem ? Is dit applicatie afhankelijk ?

Met zo'n setup zal je inderdaad serieus moeten nadenken over zaken als "state" op het applicatieve. Je load-balancer zal mogelijks ook moeten voorzien worden van zaken als "stickyness" "afinity" om ervoor te zorgen dat binnen geinitieerde sessies (indien statefull) alle packets vanuit een T1-server op dezelfde T2-server terechtkomen etc. Als beide T2 machines met elkaar "state sharen" (vb dmv achterliggende databases) is het een ander verhaal, maar het maakt het er allemaal niet eenvoudiger op.

Best allemaal zaken waar je eens goed moet over nadenken...

[Predator]

Er is een verschil tussen high availability and load balancing.
Het 2de is een subset van het eerste.

Over elk punt kan je overwegen of je failover of load balancing nodig hebt.
Zoals jvanhambelgium zegt moet je ook telkens nadenken over 'state' synchro.

Om je clients redundancy aan te bieden zal je sowieso een box voor je webservers als aanspreekpunt moeten plaatsen. Dit kan ipv een loadbalancer ook een reverse proxy zijn (die eventuele ook kan loadbalancen). Om redundancy te bewaren heb je hier ook een 2de unit nodig in standby.
That's the easy part....

Dan zit je wel nog met de sessies:
T1 -> T2
T2 -> T3
en daar moet je inderdaad over nadenken.
In deze conceptuele fase kan je daar nog maar weinig nuttigs over zeggen

[Remco]

Als je load balancing niet nodig hebt qua performance hoef je daar natuurlijk niet aan te beginnen.

Je zou T1 en T2 beide in FT mode kunnen laten draaien van VMware.
Of je SQL server beter in FT mode van VMware kan laten draaien, of een active/passive mode van SQL zelf zou ik niet weten.
Wat betreft licensing en SQL: Dat zou je even bij Microsoft op de website moeten uitzoeken. Je hebt zowel processor licenses als cal based licenses.

[ Voor 0% gewijzigd door Remco op 22-02-2012 13:35 . Reden: typo's ]

[squaddie]

Remco schreef op woensdag 22 februari 2012 @ 13:35:
Als je load balancing niet nodig hebt qua performance hoef je daar natuurlijk niet aan te beginnen.

Je zou T1 en T2 beide in FT mode kunnen laten draaien van VMware.
Of je SQL server beter in FT mode van VMware kan laten draaien, of een active/passive mode van SQL zelf zou ik niet weten.
Wat betreft licensing en SQL: Dat zou je even bij Microsoft op de website moeten uitzoeken. Je hebt zowel processor licenses als cal based licenses.

VMware FT beschermt uitsluitend tegen hardware falen, niet tegen software falen. Op node A wordt primaire VM gestart en op node B wordt een secundaire VM gestart en als node A uitvalt zal de secundaire VM naadloos het overnemen. Alles wat de primaire gebeurt zal ook uitgevoerd worden op de secundaire en dat is een mogelijke valkuil, als het OS van de primaire in een BSOD (of equivalent) valt zal de secundaire ook een BSOD krijgen.

@TS Hoeveel downtime mag de applicatie hebben? Het erg modieus te roepen dat de applicatie hoge beschikbaarheid, redundant en zonder downtime moet worden uitgevoerd, maar de complexiteit vliegt in het algemeen omhoog. Wij hebben kregen van een klant ook een dergelijke vraag na overzicht additionele kosten heeft hij gekozen voor één frontend en één backend server in een VM met offsite backup. Er is downtime door onderhoud en storing maar ruimschoots binnen de afgesproken SLA.

[JMW761]

squaddie schreef op vrijdag 24 februari 2012 @ 09:25:
[...]
Wij hebben kregen van een klant ook een dergelijke vraag na overzicht additionele kosten heeft hij gekozen voor één frontend en één backend server in een VM met offsite backup. Er is downtime door onderhoud en storing maar ruimschoots binnen de afgesproken SLA.

code:

blah@mysql ~ $ uptime
 10:27:08 up 1856 days,  7:45,  1 user,  load average: 1.62, 0.82, 0.73

KISS kan inderdaad een betere oplossing zijn voor een specifiek probleem dan er extra hardware tegen aan gooien. Bovenstaande server voert zijn taak al die tijd zonder problemen uit (of dat verstandig is, zo lang te vertrouwen op de hardware in 1 server is een tweede).

Bij voorkeur voer je alles dubbel (N+1) uit en probeer je zoveel mogelijk te scheiden. Kijk daarbij ook verder dan je rack; denk ook aan personeel, fibers, uplinks van je provider en service-contracten.
Maar hou, zoals gezegd, het doel en de kosten wel in de gaten. Voor je er erg in hebt ben je kapitalen verder om een paar uurtjes scheduled downtime te voorkomen.

[Cairo555]

Vanuit gaande dat het hoog beschikbaar moet zijn en redundant zou je kunnen overwegen om hardware load balancers in te zetten.
Zover mij bekend zijn Citrix Netscalers de enige hardware load balancers die op dit moment SQL verkeer native kunnen loadbalancen.

Daarnaast kan je er natuurlijk ook IIS web servers mee loadbalancen met daarbij vrijwel alle noodzakelijke opties als b.v. sticky sessies, primary servers en backup servers, etc.

De load balancer(s) zullen er voor kunnen zorgen dat je gegevens zonder interuptie beschikbaar blijven bij het uitvallen van 1 van de machines.

Je moet vervolgens natuurlijk nog wel kijken naar hoe je voor zorgt dat de fysieke data op beide locaties komt te staan.

Mocht je kiezen voor load balancers, dan zou ik er wel voor minimaal 2 gaan, anders heb je nog steeds geen redundantie over je keten.

De Netscaler load balancers worden geleverd in verschillende types, zo zijn er virtual appliances welke je prima kan inzetten voor kleinere omgevingen of er zijn hardware appliances, welke een aantal voordelen hebben t.z.v. de virtuele versies zoals b.v. hardware SSL offloading.

[vliegjong]

Kijk ook eens naar F5 LTM appliances, is een stukje flexibeler dan Citrix en kan ook SQL doen zoals de beste voorganger beschrijft. Kan ook dynamisch in je VM servers up of down brengen afhankelijke van de gevraagde load....