Werkstation voor Deep Learning (liefst VR-proof)

[MatsSkoe]

Wat wil je doen met je nieuwe systeem?
Ik ga een werkstation aanschaffen om voorspellingsmodellen op tijdseries mee te ontwikkelen met ook Deep Learning algoritmes om verschillende databases te benutten. Ik gebruik voornamelijk Python zonder grafische toepassing maar wel leunend op GPU rekenkracht.

Wat mag het systeem gaan kosten?
Aangezien de baas gaat betalen moet het vooral redelijk onderbouwd zijn en wil ik het ook niet buitensporig maken. Zelf dacht ik aan rond 1000 euro (exclusief randapparatuur) voor een topsysteem en eventueel 1600 euro voor een state-of-the-art multifunctioneel zeer toekomstbestendig systeem.

Zijn er componenten of randapparatuur die je al hebt en mee wil nemen naar je nieuwe systeem?
Aangezien mijn collega's ook willen experimenteren met Virtual (OSVR bijvoorbeeld) en Augmented Reality zouden de upgrades mits noodzakelijk te rechtvaardigen zijn als het systeem ook dit moeiteloos zou draaien.

Wat denk je allemaal nodig te hebben?
Basis configuratie:

#	Product	Prijs	Subtotaal
1	Intel Core i5-7500 Boxed	€ 204,-	€ 204,-
1	MSI B250I GAMING PRO AC	€ 108,95	€ 108,95
1	MSI GeForce GTX 1060 Gaming X 6G	€ 279,95	€ 279,95
1	WD Blue WD10EZEX, 1TB	€ 50,95	€ 50,95
1	Fractal Design Node 202	€ 81,-	€ 81,-
1	Corsair Vengeance LPX CMK16GX4M1B3000C15	€ 129,95	€ 129,95
1	Corsair SF450	€ 89,90	€ 89,90
1	Samsung 850 EVO 250GB	€ 95,-	€ 95,-
Bekijk collectie Importeer producten		Totaal	€ 1.039,70

Eventuele upgrades:

#	Product	Prijs	Subtotaal
1	Intel Core i7-7700 Boxed	€ 317,-	€ 317,-
1	MSI GeForce GTX 1080 GAMING X 8G	€ 577,-	€ 577,-
1	WD Red WD40EFRX, 4TB	€ 149,95	€ 149,95
1	Cryorig C7	€ 42,99	€ 42,99
Bekijk collectie Importeer producten		Totaal	€ 1.086,94

Heb je nog bepaalde (merk)voorkeuren?
Nvidia GPU vanwege CUDA.

Heb je nog bepaalde eisen/wensen?
Het liefst zou ik het dus in een Mini-ITX opstelling gieten, zo kan je hem nog een keer onder je arm meenemen en gebruiken op verschillende locaties.

Ga je overklokken?
Nee

Wat verwacht je van ons?
- Graag zou ik weten of deze configuratie een beetje toekomstbestendig is (5 jaar), of dat je beter de upgrades kan nemen of beter kan wachten op (prijs)ontwikkelingen rondom AMD Ryzen & Nvidia Tesla / 1080 TI.
- Verder was ik benieuwd of de koeling met stock cpu-ventilator volstaat. Wat ik kon vinden in officiële documentatie was dat de koeler 46mm hoog is, wat binnen de 56mm van de behuizing zou passen, maar dat ze ook 81mm clearance noemen. Tegenover de cpu-koeler zit wel een rooster naar mijn weten.
- Als derde nog de vraag zou M.2 SSD geheugen nog veel uitmaken voor Deep Learning doeleinden aangezien dit theoretisch 6x zo snel is?
- Tot slot stel je neemt alle upgrades en je eventuele randapparatuur (VR-bril) volstaat 450W dan nog?

[busscherski]

Je hebt een heel goede topicstart qua mogelijke componenten. Dit is echter een vrij specifieke gebruikssituatie.

Werk je nu op een oud systeem ook al met python en machine learning? Mogelijk kunnen je hier van leren wat de benodigdheden zijn.

Mogelijk is een gtx1060 al genoeg maar heb je juist een enorme hoeveelheid RAM nodig. M2 ssd kan helpen als cache voor wanneer je RAM vol is.

[MatsSkoe]

Werk nu voornamelijk op mijn Macbook Air 2013 dus GPU gaat sowieso wel het verschil maken! Ik had zelf al wel wat fora afgespeurd maar kon hier nog niet zo snel iets over minder.

De M.2 als cache is misschien niet nodig dan omdat een enkel geheugenbank van 16 GB ook eventueel nog verdubbeld kan worden.

Blijven de vragen over ontwikkelingen rondom AMD Ryzen & Nvidia Tesla / 1080 TI, de koeling en de voeding nog wel staan.

[busscherski]

Sluit onderstaande link aan bij jouw eisen/wensen?
http://graphific.github.i...p-learning-dream-machine/

Als deze link klopt zijn Tesla's niet nodig.
Een duurdere CPU dan de i5 die je nu hebt is pas nodig bij multi GPU opstellingen.
Koeling en voeding kan nog wel geselecteerd worden als je zeker weet wat de CPU en GPU's worden etc.

Het syteem van de link kost 8k, dat kan natuurlijk ook een stuk bescheidener met de i5 van je huidige shortlist, een enkele GTX1070, GXT1080 (beide verkrijgbaar met 8 GB RAM) of GTX1080Ti (11 GB VRAM).

Als je dan een systeem bouwt zonder uitbreidingsmogelijkheden zou ik de GTX 1080Ti combineren met 32 GB RAM, de andere GPU's hebben dan aan 2 reepjes van 8 GB voldoende.

Indien je wel ambitie hebt om uit de breiden zou je eerst 1x GTX 1080Ti kunnen nemen met een moederbord met 4 geheugensloten waarvan 2 gevuld met een 16 GB reepje. Voeding/moederbord die ook 2-3 GPU's kan voeden en misschien CPU upgraden naar i7 7700.

Zo`n systeem wat nog uit kan breiden kost natuurlijk ook een stuk meer, dus mogelijk kun je tegen die tijd als het nodig is beter een nieuw systeem bouwen met nieuwe GPU's die naar verwachting een stuk sneller zijn.

[MatsSkoe]

De link is zeer interessant met goede informatie. De setup die ze daar gebruiken is inderdaad wel een beetje buiten de prijsrange.

De GTX 1080Ti is een goede tip, had hem wel gezien maar vond hem vrij duur in verhouding met de prestaties toch blijkt dat extra geheugen wel degelijk zeer belangrijk.

Het enige is dat de Mini-ITX wel de voorkeur heeft maar wellicht onpraktisch dan wel onhaalbaar is.

[busscherski]

Die is ook vrij duur in verhouding +/- 45% duurder voor zo`n 30% hogere compute en 37.5% groter videogeheugen.
Weet je hoe groot jouw databases nu en in de nabije toekomst zullen zijn?
Maak eens een nieuw lijstje zodra je een keuze hebt gemaakt over GPU etc.

[MatsSkoe]

Ik heb met de welbekende natte vinger methode bedacht dat de databases makkelijk de 4 GiB (zonder overhead) halen maar waarschijnlijk ook wel boven de 15 GiB gaan uitkomen.

Na wat wikken en wegen toch een andere behuizing en een 1080Ti gekozen voor het beoogde systeem. De Titan XP is echt buiten het budget.

#	Product	Prijs	Subtotaal
1	Intel Core i7-7700 Boxed	€ 313,50	€ 313,50
1	Gigabyte GA-B250N Phoenix-WIFI	€ 116,95	€ 116,95
1	Asus ROG-STRIX-GTX1080TI-11G-GAMING	€ 809,-	€ 809,-
1	WD Red WD40EFRX, 4TB	€ 150,50	€ 150,50
1	Fractal Design Define Nano S Zwart Window	€ 69,90	€ 69,90
1	Corsair Vengeance LPX CMK16GX4M1B3000C15	€ 129,95	€ 129,95
1	Corsair RM550x	€ 93,95	€ 93,95
1	Samsung 850 EVO 250GB	€ 96,-	€ 96,-
Bekijk collectie Importeer producten		Totaal	€ 1.779,75

[busscherski]

Mooi systeem.

Je moest kiezen tussen een moederbord met 4 geheugensloten of mini-ITX met 2 sloten, ik zie dat je dat gedaan hebt.

Let wel dat je met 1 geheugenreepje het geheugen in single channel aanspreekt terwijl je met 2 reepjes het in dual channel kunt doen. Het zou goed kunnen dat je daar verschil mee gaat merken bij de taken die deze machine gaat verrichten. Misschien dus meteen 2x16GB prikken?

Goed dat er nog een mogelijkheid is om een M2 SSD bij te prikken mocht dat in een later stadium nodig zijn, ik zou het vooralsnog inderdaad proberen met een SATA SSD.

Een titan Xp gaat qua prestaties/kosten nog minder toevoegen dan de stap van gtx1080 naar gtx1080ti.