3D animatie productie netwerk

[nr12]

Beste Tweakers,

Samen met twee studie genoten zijn we bezig met een film aanvraag. Nu willen we er voor zorgen dat ons netwerk zo een project aan kan. In ons afstudeer project zijn we namelijk tegen wat problemen aangelopen.

Zo konden we niet met vijf mensen tegelijkertijd werken als we twee computers lieten renderen. Als we dit deden gaven onze twee rendercomputers file read errors. De software die we er voor gebruikte is Autodesk Maya.

Met een renderbak gaat de netwerk belasting als volgt (per computer).
- Maya load een file (cira 120 mb)
- Daarna moet hij elke 3 min 10 cashes in van variërend van 100 kb tot 3 mb loaden.
- Na 20 min word er een nieuw bestand geladen en word dit proces herhaald.
- Tegelijkertijd schrijven de computers elke min, variërend tussen de 100 kb en 3 mb naar de NAS (soms schrijven ze per 15 sec een bestand naar de NAS als de rendertijden korter zijn).

Met een workstation is de netwerk belasting niet zo gestructureerd. Over het algemeen werd er voornamelijk alleen geopend en gesaved. De files zijn over het algemeen niet groter dan 20 mb. Soms heb je uitschieters naar 500 mb.

Als we zelf niet werkte en alle computers tegelijkertijd lieten renderen deet dit probleem zich niet voor.

Browsen in de windows explorer op de NAS was geen probleem. Als je via Maya-file-browser naar de NAS ging werd je soms gereroot.

Als we inlogde op de NAS en de statistieken bekeken, zagen we dat de NAS op CPU gebied 25% max werd belast en het geheugen maar 10% (van de 1 gb intern geheugen). Losse folder copyen ging met ruim 100 mb/s dus tegen de max van een giga bit netwerk aan.

Technical specs:

Netwerk switch
switch hp proCurve 1810 g 24
cat5e of cat6 ftp/stp kabels

Nas
Synology DS 1010+
5 x wd2002 FASS Black Caviar in raid 5

Computers:
i7- 2600K
8 gb intern

De NAS was met dual gbit lan aan de switch met link aggregation aangesloten (802.3 ad standaard). Elke computer was met 1 gbit lan aangesloten aan de switch.

Deze apparatuur hebben we nog steeds maar we zijn nu opzoek naar een beter server systeem of een uitbreiding hier op.
Hebben jullie enig idee wat de botten nek is en hoe we dit het makkelijkste en goedkoopst kunnen oplossen?

Ik hoor graag van jullie, al vast bedankt!

[maratropa]

Kun je de render PC's niet de data lokaal laten benaderen? Dus de databestanden op de renderpc's?

Mijn ervaring met renderen is dat het inladen van de data best wat tijd kan kosten in je rendertijd per frame, en dat je het liefst die data lokaal op een snelle schijf hebt staan.

Dan hoeven die iig daarvoor niet meer het netwerk op, en hebben de ruimte voor het wegschrijven van de frames..

[ Voor 16% gewijzigd door maratropa op 24-10-2011 15:32 ]

[nr12]

Dat is inderdaad een optie maar het is wel onhandig voor je pipline van je film. Als er dan iets veranderd moet je het daarna gaan syncen met je render pc's. Dit kan je natuurlijk met een programma als SyncBack pro doen maar het is niet de mooiste oplossing =).

[maratropa]

Maar als je een stuk aan het renderen bent dan ga je toch niet in die datafile zitten? Tenminste bij mij gaat het altijd: eerst editen en zorgen dat je de boel belicht hebt en geanimeerd, en als je op render drukt dan kun je er toch niet meer mee spelen zo lang dat bezig is. Ik neem aan dat je per scene renderd ofzo?

Ik zou gewoon even kijken hoe het op de render pc's zetten toch simpel te organiseren is

Plus je hebt zo kans dat door de verkorte latency je pc's ook nog eens efficienter renderen, blijkbaar trekken ze toch flink wat data..

robocopy wordt ik ook vrolijk van trouwens, als sync tool.

[ Voor 5% gewijzigd door maratropa op 24-10-2011 15:38 ]

[nr12]

Dit hebben we in ons vorig project ook gedaan. Anders kregen we de film niet gerenderd. Alleen bleek het toch aardig intensief te zijn om dat telkens opnieuw op alle computers te zetten. Maar goed als er geen andere mogelijkheid is gaan we dat natuurlijk doen, maar als er met een kleine investering toch een betere optie is zouden we dat graag willen weten.

[maratropa]

Weet je eigenlijk of het aan de netwerkverbinding, of de storage van de NAS licht?

Ik kan me ook namelijk voorstellen dat met heel veel requests de NAS schijf het gewoon niet kan bijhouden en dat bijv de projectfiles op een losse SSD oid uitkomst kan bieden? Of is het echt het netwerk?

[nr12]

Nou dat is eigenlijk de vraag die ik hier stel =).

"Hebben jullie enig idee wat de botten nek is,.."

Want ik wil graag het onderdeel vervangen waar het nu fout gaat =).

[nielsl]

om het oude tweakers adagium maar weer van zolder te halen:

M'n glazen bol heb ik helaas thuis laten liggen

Desalniettemin moet je gewoon zelf gaan meten. Op die synology kun je via de terminal gewoon het commando iostat draaien. Dat geeft je inzicht in hoe druk de harde schijven bezig zijn als je netwerk zo traag gaat. Verder kun je die 1810 ook prima via SNMP uitlezen, dus je zou met een cacti achtige applicatie kunnen ontdekken hoeveel verkeer er door de poorten heen gaat. Als je dan nog even nagaat of je overal jumbo frames aan of uit hebt staan, in combinatie met het aantal pakketten dat die 1810 per seconde kan switchen, heb je een vrij goed inzicht in wat je bottleneck vormt denk ik zo.

[nr12]

Bedankt ga dat volgende week testen.