Workstation voor Tensorflow

[FrVn]

Ik ben op zoek naar een workstation voor deep learning met Tensorflow.

Wat wil je doen met je nieuwe systeem?
De desktop is bedoeld voor het trainen van neural networks met Tensorflow, >16u per dag.

Wat mag het systeem gaan kosten?
2500-3000 euro

Zijn er componenten of randapparatuur die je al hebt en mee wil nemen naar je nieuwe systeem?
Neen, het wordt een volledig nieuw systeem.

Wat denk je allemaal nodig te hebben?

• Een goede GPU voor Tensorflow, eg RTX 2080 Ti 11GB. Daarnaast wil ik ruimte voorzien om in de toekomst een 2e GPU in SLI te zetten.
• Een degelijke CPU is handig, maar ondergeschikt aan de GPU.
• 3 M.2-ssd's zijn interessant om te dualbooten en het maken van een shared disk.
• Verder een case met goede airflow & voeding om de levensduur te maximaliseren.

Heb je nog bepaalde (merk)voorkeuren?
Vooral een voorkeur voor de Nvidia RTX 2080 Ti wegens de tensor-/cuda cores, de ondersteuning van Nvidia voor machine learning en de betere performance per watt (vs. RTX 2080 Super).

Heb je nog bepaalde eisen/wensen?
Gezien de machine lang & zwaar gebruikt zal worden, is een degelijke airflow/voeding van belang om de levensduur te vergroten. Verder is het stroomverbruik ook niet onbelangrijk.

Ga je overklokken?
Neen, de desktop zelf samenstellen zal al uitdagend genoeg zijn.

Wat verwacht je van ons?

• Wat kan ik hier nog aan optimaliseren?
• Zouden deze componenten naar verwachting goed moeten samenwerken?
• Verder zie ik op de supported memory list van het moederbord maar 1 module van 32 GB (met hoge latency), betekent dit dat het moeilijk zal zijn om te upgraden naar 128 GB RAM in de toekomst?
• Tussen de CPU cooler & case blijft nog 6mm over. Is dit voldoende?

Het systeem dat ik voor ogen had:

#	Category	Product	Prijs	Subtotaal
1	Processors	AMD Ryzen 7 3700X Boxed	€ 331,-	€ 331,-
1	Moederborden	Gigabyte Aorus X570 ULTRA	€ 305,-	€ 305,-
1	Videokaarten	KFA2 GeForce RTX 2080Ti EX (1-Click OC)	€ 1.095,05	€ 1.095,05
1	Behuizingen	Corsair Obsidian 450D	€ 101,05	€ 101,05
1	Processorkoeling	be quiet! Dark Rock 4	€ 60,87	€ 60,87
1	Geheugen intern	G.Skill Trident Z F4-3600C17Q-64GTZ	€ 336,-	€ 336,-
1	Voedingen	Corsair AX850 Titanium	€ 215,03	€ 215,03
3	Solid state drives	Kingston A2000 1TB	€ 129,95	€ 389,85
Bekijk collectie Importeer producten			Totaal	€ 2.833,85

[Roelant001]

Je build ziet er volgens mij prima uit, ik kan alleen zo snel niet in de specs van je moederbord vinden hoe de PCI-e lanes worden verdeeld als je de 3 m.2 poorten zou gebruiken, dit kan de moeite zijn even te controleren. (pci-e 8x lijkt snel genoeg voor de meeste toepassingen)

Mocht je de weg naar een 3-4 GPU setup open willen houden zou je een Threadripper (e.g. 2920X) met bijbehorend X399 moederbord kunnen overwegen. Dit geeft wat lagere single-thread performance, maar meer pci-e lanes (wel 'slechts' pcie 3.0) en quad channel geheugen en dus meer uitbreidingsmogelijkheden.

Met >=2 GPUs kan een blower-design gunstiger zijn. Zie ook de blogs van Tim Dettmers

Succes met je build en deeplearning werk!

[TechnoNoob]

Wat is je redenering achter je moederbord keuze? Het is namelijk een relatief duur bord.

[FrVn]

Bedankt voor jullie feedback!

@Roelant001 : ik vond elders op Tweakers deze uitleg over de verdeling van de PCI lanes, dat lijkt wel mee te vallen aangezien ik niet van plan ben SATA schijven te gebruiken.

Ik had de post van Tim Dettmers ook al gezien, ik twijfel ook om blower GPU's te nemen of niet: ze zouden in een 1-tot-2 GPU build nog een iets hogere warmte hebben en iets luidruchtiger zijn. Daarom dat ik nu opteerde voor een case met goede airflow om het zo te proberen oplossen (meer dan 2 GPU's worden het niet), maar er is weinig info over te vinden. In datzelfde artikel van Dettmers staat ook dat het aantal PCIe lanes niet zoveel uitmaakt (met een performance verschil van 3% tussen 4 PCIe & 16 PCIe lanes), vandaar dat ik niet voor de duurdere Threadripper ga.

@TechnoNoob : met dit moederbord kan ik er 3 M.2 ssd's in pluggen, wat voor mij wel een voordeel is. Heb je eventueel goede alternatieven?

[TechnoNoob]

Is dan bijvoorbeeld zoiets niet een idee: pricewatch: Akasa M.2 SSD to PCIe adapter card AK-PCCM2P-01
Ik gooi het maar even in de groep, ik vind €300 namelijk een smak geld als het alleen daarom gaat...

[maratropa]

@FrVn als ik zo dat blog lees dan is waterkoeling ook wel lekker.. Je kunt allerlei aio waterkoelers met een bracket op een gpu zetten..

blower werkt goed en betrouwbaar maar is wel luid.

Als je voor reguliere "game" koelers gaat, dan zou ik kijken of je een moederbord kunt scoren waar nog meer dan 1 slot tussen de gpu's zit. En veel lucht naar de gpu's toe blazen.

[JackAvery]

TechnoNoob schreef op donderdag 21 november 2019 @ 19:40:
Is dan bijvoorbeeld zoiets niet een idee: pricewatch: Akasa M.2 SSD to PCIe adapter card AK-PCCM2P-01
Ik gooi het maar even in de groep, ik vind €300 namelijk een smak geld als het alleen daarom gaat...

Mijn vraag is dan: wat zou je alternatief zijn?

Er moet NVLink ondersteuning zijn en en voor een mobo met hogere kwaliteitscomponenten kiezen kan misschien ook geen kwaad bij het type projecten dat hier in gedachten wordt gehouden. Veel kan je trouwens niet besparen als je bij het X570 platform blijft, dit moederbord is dan stiekem in een lagere prijsklasse In de Pricewatch zie ik onder X570 + NVLink slechts twee significant goedkopere borden staan.

Wat de PCI -> M2 adapter betreft: als je al twee GPU's in je PC gaat hangen, is het misschien niet de meest praktische oplossing als je gewoon voor een derde M2 slot kan kiezen. Je bespaart 15-25 euro op als je voor de adapter kiest, op een build van 3000 euro is dat niet echt significant denk ik dan.

[maratropa]

NVlink is toch niet nodig hier

[JackAvery]

Gezien het plan is om op termijn een tweede Ti erbij te steken zou ik denken van wel (zie deze PugetSystems test)? Of is dat het niet waard? Verbeter me gerust

[Voor 50% gewijzigd door JackAvery op 22-11-2019 12:01]

[maratropa]

Nee ik denk dat je gelijk hebt, nvlink op de 2080ti brengt meer dan alleen sli support volgens puget. Dan kan dat wel interressant zijn.

JackAvery schreef op vrijdag 22 november 2019 @ 11:54:
Gezien het plan is om op termijn een tweede Ti erbij te steken zou ik denken van wel (zie deze PugetSystems test)? Of is dat het niet waard? Verbeter me gerust