LACP teaming icm Exchange 2007 gaat mis.

[Verwijderd]

Hallo,

Ik heb hier een HP DL360 G5 met een HP NC373i netwerkkaart. Deze machine draait Windows 2003 64 bits standaard editie met Service pack 2. Op deze server draait Exchange 2007 SP1, daarnaast is hij ook domain controller.

Nu wil ik de netwerk connectie teamen mbv lacp op mijn HP 5400ZL-96GL switch.

code:

Trunk A4,B4 trk5 LACP

Vervolgens de 2 netwerkkaarten in Windows met de HP Network Configuration Utility geconfigureerd met onderstaande instellingen:

Team Type Selection:
902.3ad Dynamic with Fault Tolerance

Transmit Load Balancing Method:
Automatic (recommended)

Daarna de nieuwe virtuele netwerkkaart de juiste IP settings gegeven. So far so good

Hierna de 2e netwerkkabel op de switch aangesloten. HP network utility geeft aan dat alles goed gaat, een show lacp op de switch zegt ook dat de trunk vrolijk in de lucht is.
De server is nog steeds te pingen (ook als ik nu netwerkkaart1 “los trek”

De clients zijn nu alleen niet meer in staat om de exchange server te bereiken.
Trek ik de 2e netwerkkabel weer los dan werkt alles weer naar behoren.

Kijk ik vervolgens in de eventviewer van de exchange server dan kom ik onderstaande melding tegen:

code:

Process MAD.EXE (PID=2872). All Domain Controller Servers in use are not responding: 
Server1.bedrijf.nl 
Server2.bedrijf.nl 
  

For more information, see Help and Support Center at http://go.microsoft.com/fwlink/events.asp.

Blijkbaar gaat er iets mis met het teamen maar ik heb geen idée wat.

Ik gebruik driver versie 4.4.21.0

Iemand enig idee waar ik het moet zoeken?

PS: Ik heb een 5tal Dell servers op dezelfde manier geteamed op deze switch en hier werkt alles naar behoren.

[Vicarious]

Ik heb in het verleden een keer problemen gehad met HP NIC teaming en exchange. Vervolgens kwam ik erachter dat dit een known problem was, enige workaround op dat moment was dat ik de teaming uit moest zetten. Heb je al even gezocht op de microsoft site op HP team + exchange?

[StarWing]

Bij onze HP machines, moet ik enkel het team aanmaken op de server zelf, niet op de switch. Dit zijn wel "simpele" 3com switches.

[stfn345]

Wat probeer je nu te doen?

- Op de switch probeer je een trunk te maken (en dat zou je doen voor performance neem ik aan?)
- Op de server zelf maak je een fail-over team (voor redundancy)

Wat wil je nou? Fail-over nic, of 2 touwtjes voor meer bandbreedte naar de switch?

[Verwijderd]

ik heb dit alleen werkend gekregen met failover van de netwerkkaart. Teamen is mij nooit gelukt, maar ook nooit veel aandacht gegeven, omdat ik toch geen performance issue had.

[Verwijderd]

Ik heb in het verleden een keer problemen gehad met HP NIC teaming en exchange. Vervolgens kwam ik erachter dat dit een known problem was, enige workaround op dat moment was dat ik de teaming uit moest zetten. Heb je al even gezocht op de microsoft site op HP team + exchange?

Ik heb gezocht maar helaas niets gevonden. Wel ergens een posting van iemand die er ook niet uitkwam icm een Cisco opstelling.

Wat probeer je nu te doen?

- Op de switch probeer je een trunk te maken (en dat zou je doen voor performance neem ik aan?)
- Op de server zelf maak je een fail-over team (voor redundancy)

Wat wil je nou? Fail-over nic, of 2 touwtjes voor meer bandbreedte naar de switch?

Primair failover, maar de extra bandbreedte is mooi meegenomen.

[Vicarious]

Als het om failover gaat hoef je op de HP geen trunk te maken. Je HP NIC team maakt er dan 1 primair en failt over naar de ander als de link down gaat. Je team krijgt dan het MAC-adres van de netwerkkaart die hij primair gemaakt heeft.

Als het om een Port-channel gaat (Cisco term voor wat HP een trunk noemt) moet je in de HP een andere optie kiezen. Ik geloof iets met receive load balancing, maar dat kan ik morgen wel even opzoeken.

[Verwijderd]

Heb je ook wat op dit switch ingesteld? Bij onze 4108GL moet dit namelijk nog apart gebeuren.

[Verwijderd]

Verwijderd schreef op dinsdag 16 september 2008 @ 18:56:
Heb je ook wat op dit switch ingesteld? Bij onze 4108GL moet dit namelijk nog apart gebeuren.

Nu wil ik de netwerk connectie teamen mbv lacp op mijn HP 5400ZL-96GL switch.

code:

 Trunk A4,B4 trk5 LACP

Ik heb de switch poorten dus getrunked met bovenstaand commando.

Ik zal het een en ander wel eens testen met alleen "failover" functionaliteit.

[axis]

Bij onze HP Procurve 28xx en 26xx series switches hoef ik niets in te stellen op de switch voor LACP, ik kan zo op de client een team aanmaken. In mijn geval krijg ik met mijn broadcom of intel nic's wel een extra virtuele adapter, en je moet dan natuurlijk wel die virtuele team adapter configureren met het juist ip..

Daarna krijg ik meteen 2Gbit doorvoer (niet van single host naar host natuurlijk), en automatische failover als ik er 1 kabeltje uit trek.

Misschien dat je nog iets wijzer wordt als je gaan sniffen met wireshark ofzo.

[Vicarious]

axis schreef op donderdag 18 september 2008 @ 00:48:
Bij onze HP Procurve 28xx en 26xx series switches hoef ik niets in te stellen op de switch voor LACP, ik kan zo op de client een team aanmaken. In mijn geval krijg ik met mijn broadcom of intel nic's wel een extra virtuele adapter, en je moet dan natuurlijk wel die virtuele team adapter configureren met het juist ip..

Daarna krijg ik meteen 2Gbit doorvoer (niet van single host naar host natuurlijk), en automatische failover als ik er 1 kabeltje uit trek.

Misschien dat je nog iets wijzer wordt als je gaan sniffen met wireshark ofzo.

Die 2 gbit geldt alleen als de server verkeer zendt, niet voor ontvangend verkeer. De switch weet zonder configuratie niet dat hij een port channel moet maken voor die 2 netwerkkaarten.

[axis]

Vicarious schreef op donderdag 18 september 2008 @ 08:25:
[...]


Die 2 gbit geldt alleen als de server verkeer zendt, niet voor ontvangend verkeer. De switch weet zonder configuratie niet dat hij een port channel moet maken voor die 2 netwerkkaarten.

Het hele idee achter dynamic LACP is toch dat die host met die switch afspreekt dat ie een trunk gaat maken? Switches ziet de trunks ook gewoon (hieronder Dyn1 en Dyn2):

code:

ProCurve Switch 2824# show lacp

                           LACP

   PORT   LACP      TRUNK     PORT      LACP      LACP
   NUMB   ENABLED   GROUP     STATUS    PARTNER   STATUS
   ----   -------   -------   -------   -------   -------
   1      Passive   1         Up        No        Success
   2      Passive   Dyn1      Up        Yes       Success
   3      Passive   3         Down      No        Success
   4      Passive   Dyn1      Up        Yes       Success
   5      Passive   Dyn2      Up        Yes       Success
   6      Passive   6         Up        No        Success
   7      Passive   7         Down      No        Success
   8      Passive   8         Down      No        Success
   9      Passive   9         Up        No        Success
   10     Passive   10        Up        No        Success
   11     Passive   11        Up        No        Success
   12     Passive   12        Up        No        Success
   13     Passive   13        Up        No        Success
   14     Passive   Dyn2      Up        Yes       Success

code:

ProCurve Switch 2824# show trunks

 Load Balancing

  Port | Name                             Type      | Group Type
  ---- + -------------------------------- --------- + ----- -----
  2    |                                  2         | Dyn1  LACP
  4    |                                  4         | Dyn1  LACP
  5    |                                  5         | Dyn2  LACP
  14   |                                  14        | Dyn2  LACP

Maar ik zou nog wel eens kunnen benchen..

[mookie]

LACP is iets om poorten op een switch te trunken, of samen te laten werken.
Dus als je 2 switches hebt met b.v. 8 poorten, dan kun je poort 7 en 8 van BEIDE switches samen 1 logisch kanaal laten maken. Stel dat het een Gbit switch is dan heb je 2Gbit tussen 2 switches ipv 1 gbit. Tevens als je er 1 van de 2 kabels uittrekt zal er niets gebeuren, snelheid van dan terug op 1Gbit.

Teaming is iets anders. Dan laat je 2 netwerkkaarten hetzelfde IP adres en hetzelfde (virtuele) MAC addres gebruiken.
Sommige switches kunnen dat zien als MAC address spoofing, een manier om netwerk verkeer af te luisteren voor minder goede doeleinden... zo'n switch kan dan 1 of beide poorten afsluiten wat niet positief uitwerkt voor je server. De meeste degelijke (HP) switches doen dat echter niet automatisch tenzij je dat aanzet...

Dus:
- geen LACP op die poorten instellen tenzij die poorten 2 switches met elkaar verbinden om extra bandbreedte tussen beide switches te creeëen of een failover mogelijk te maken.
- teaming op je NICS maken (liefst met dynamic load balancing) waarbij beide NICS verkeer kunnen verwerken (1 sessie tussen host en client gaat altijd over 1 kaart dus pas bij 2 clients treedt echt load balancing op) en dynamic load balancing bied ook failover indien 1 kaart niet meer werkt (of je de stekker eruit trekt).

Pas als je een team hebt gemaakt en geen verkeer is mogelijk dan even je switch nakijken of hij de poorten niet blokkeerd omdat hij denkt dat iemand MAC address spoofing toepast...

Vicarious zegt het eigenlijk al, echter heet het bij cisco een etherchannel en geen port channel.
Cisco etherchannel heet bij HP trunking, wat gedaan wordt met LACP. Cisco trunking is bij HP gewoon meerdere VLAN's over 1 poort zetten. Dus trunking heeft bij verschillende fabrikanten andere betekenissen... helaas...

[ Voor 9% gewijzigd door mookie op 19-09-2008 02:35 ]

[mookie]

Ben trouwens nog zo asociaal om te (naar voor zover ik weet) erbij te vermelden hoe dynamic load balancing in een team werkt:

1 sessie (dus b.v. een RDP sessie naar een server over poort 3389) zal altijd van 1 netwerkkaart naar 1 netwerkkaart gaan.
Dus als je client 1 kaart heeft met 1 ip adres en 1 MAC addres, en je server heeft 2 netwerkkaarten met 2 MAC's maar waar overheen 1 virtuele kaart wordt gesimuleerd met 1 (een derde) virtueel MAC adres en 1 ip adres, dan zal je RDP sessie bij je client over die ene kaart lopen (duh,er is er maar 1) maar bij je server ook maar over 1 kaart, echter niet met die kaart zijn MAC adres, maar met zijn virtuele MAC addres.

Dus:
client: NIC1 ip 192.168.1.1 met MAC adres 00-18-71-80-03-51
server NIC1 ip geen MAC adres 00-18-71-80-03-52
server NIC2 ip geen MAC adres 00-18-71-80-03-53
server NIC3 (virtueel) ip 192.168.1.2 met MAC adres 00-18-71-80-03-54

- De client gaat van 192.168.1.1 met MAC 00-18-71-80-03-51 naar de server op 192.168.1.2 op MAC adres 00-18-71-80-03-54
- Die 00-18-71-80-03-54 zal door kaart 1 of 2 afgehandeld worden, maar zodra hij via kaart 1 loopt blijft hij daar... of bij kaart 2 dus.... net wat er door de server gekozen wordt...
- als 1 van de 2 kaarten uitvalt zal die andere gewoon doorgaan en de falende gewoon niet meer werken. Sessies die over de failende kaart liepen worden dan wel door de andere kaart opgepakt, dit regelt de teaming software van je NIC's. Die houdt precies bij welke sessie over welke fysieke kaart liep.
- een vaak voorkomend probleem bij het opzetten van een team is dat de 2 kaarten eerst ieder een echt IP adres krijgen en dat er daarna pas een team gemaakt wordt. Mooier wordt het nog als die derde virtuele kaart een adres krijgt wat 1 van de 2 fysieke al had, windows kan dan echt gaan lopen zeuren. Beste advies om een team op te zetten is de 2 kaarten installeren, op DHCP laten staan, liefst maken dat ze geen adres kunnen krijgen van een DHCP server (kabels eruit laten b.v.) en dan op je server via de console met de HP software een team maken, daar een MAC adres voor instellen of gewoon de random gekozen laten staan, en dan op die derde kaart een vast IP adres instellen.

Als laatste kan ik nog toevoegen dat in mijn ervaring Intel kaarten als een engeltje werken en broadcom nogal eens problemen kan veroorzaken. Dit zag ik met name op Dell servers maar HP schijnt de laatste tijd ook nogal graag broadcom kaarten te gebruiken ipv intel kaarten. Als je rare dingen tegenkomt zoals blue screens dan je team weghalen of lang spelen met drivers tot je een stabiele hebt.
Met Dell servers doe ik vaak 1 kaart vast adres geven, andere kaart disablen in windows.
Mocht die kaart kapot gaan dan via de remote access card in de server, 1e NIC disableden, 2de enabled en het IP adres van de 1e geven...

Ik heb vaken met een network outage of blue screens op mijn servers gezeten door verotte drivers dan door een echte kapotte NIC en ik ken ook weinig toepassingen waar meer dan 1Gbit nodig is en waar men niet gewoon 10Gbit implementeerd ipv 2Gbit over een team...

just my 2 cents....

[WhizzCat]

Wij hebben soortgelijke problemen gehad met Citrix servers (ook DL360 G5) die niet met teaming overweg konden (Citrix verkeer is ontzettend gevoelig voor lost packets etc.). Broadcom kaarten uiteraard. Uiteindelijk hebben we teaming uitgezet, maar bij een aantal andere servers (zelfde type) heb ik teaming dusdanig ingericht dat het alleen om failover gaat en niet om load balancing. Zoals mookie al zegt, die 1 gbit voor een mailserver is ruim voldoende en zo hou je toch nog redundancy. Ik zou voor pure failover gaan. Je HP switch moet hier goed mee omgaan zonder settings.

Hier boven ergens wordt, terecht, opgemerkt dat LACP voor switches onderling is. Mocht je echt behoefte hebben aan meer bandbreedte op je server, dan zou ik er een 10 gbit kaart in zetten en niet met software oplossingen als teaming gaan werken. Dat werkt alleen goed voor failover, maar voor load balancing is het toch minder omdat dat in de software geregeld wordt en ergo dus door je cpu wordt aangestuurd en als je server een te hoge load heeft... you do the math

[Verwijderd]

Gisteren avond wat testen gedaan:

Nieuwste netwerkdriver van HP gedownload (versie 4.4.23) en hiermee de huidge opstelling getest. Helaas zonder resultaat.

Hierna de LACP trunk op de Switch verwijderd en getest. Ook dit was geen oplossing.

Vervolgens het team type veranderd in de HP Network utility in "Network Fault Tolerance Only" (NFT)
Volgens HP staat in deze opstelling één netwerkkaart standby en neemt deze het over zodra de link van netwerkkaart 1 wegvalt.

Ook hier dezelfde problemen als met mijn orginele LACP opstelling.
De betreffende poorten op de switch nog maar eens ingesteld op "HP Tunking" maar dit gaf ook niet het gewenste resultaat.

In mijn gedachte lijkt het erop dat de windows services zich op de een of andere manier "vastklampen" aan de fysieke netwerkkaart 1.

En toen las ik vanochtend dit:

- een vaak voorkomend probleem bij het opzetten van een team is dat de 2 kaarten eerst ieder een echt IP adres krijgen en dat er daarna pas een team gemaakt wordt. Mooier wordt het nog als die derde virtuele kaart een adres krijgt wat 1 van de 2 fysieke al had, windows kan dan echt gaan lopen zeuren. Beste advies om een team op te zetten is de 2 kaarten installeren, op DHCP laten staan, liefst maken dat ze geen adres kunnen krijgen van een DHCP server (kabels eruit laten b.v.) en dan op je server via de console met de HP software een team maken, daar een MAC adres voor instellen of gewoon de random gekozen laten staan, en dan op die derde kaart een vast IP adres instellen.

Voordat deze server "geteamed" was heeft deze al een tijdje standaard met één netwerkkaart gewerkt. Het IP nummer wat de virtuele kaart nu heeft hangt waarschijnlijk ook nog ergens onder water aan de fysieke kaart. (Dit weet ik zeker want ik heb even via regedit gecontroleerd).

Nieuw plan:

1. Bestaand IP nummer virtuele netwerkkaart op dhcp zetten.
2. Team verwijderen. (virtuele netwerkkaart verdwijnt nu?!)
3. IP nummer fysieke kaart ook op dhcp zetten.
4. Team weer aanmaken (NFT)
5. IP Nummer nieuwe virtuele netwerkkaart correct instellen
6. Testen.

Iemand nog op of aanmerkingen over bovenstaand?
Dan ga ik even een nieuw overwerk moment plannen

[mookie]

1 tip zou zijn om ff je 2 NIC's op een losse hub/switch te zetten (als je die hebt) en die ene switch met 1 kabel op je HP switch hangen.

Extra tip is om even het eventlog van je HP switch te bekijken, misschien staat daar iets in over poorten die worden geblokkeerd...

Tevens zeg je dat je clients je server kunnen pingen, alleen exchange doet het niet.
Exchange doet het niet omdat hij geen domain controllers kan vinden...

Speel eens wat met je team en post wat ping resultaten van je exchange naar je DC's, exchange naar clients, clients naar exchange en je DC's naar exchange.
Als je in al die richtingen wel kunt pingen is er niets met je switch aan de hand.
Loopt exchange nog steeds vast omdat hij niet met de domain controllers kan praten controleer dan je gewone netwerk instellingen eens. En je event log, of er geen DNS meldingen worden gedaan enzo...

Laatst had ik overigens op een DL380 G5 (met broadcom kaartjes) dat ik de team in de HP software had verwijderd, ook zag ik de virtuele kaart niet meer in "network connections" maar in de device manager zat ie nog gewoon in. Na het verbreken van je team even in de device manager kijken.
Als ie er nog zit rebooten. Als ie er dan nog zit daar gewoon uninstallen en weer rebooten. Daarna pas je team opnieuw maken.

en succes, ook namens de crew van broadcom

[Verwijderd]

Bij deze nog even de oplossing van dit probleem.

Met onderstaande instellingen werkt het zaakje nu naar behoren:

- Op de switch heb ik alle LACP / TRUNK instellingen van de betreffende poorten verwijderd. Het zijn dus weer "gewone" switch poorten.
- Vervolgens de "TCP Offload Engine" en "Receive Side Scaling" uitgeschakeld op de netwerkkaart.

Helaas geen 2 GB trunk verbinding naar de clients maar het failover verhaal werkt perfect.