Budget machine learning mini-ITX setup: tips & feedback so f

[Verwijderd]

(*ar )

Wat wil je doen met je nieuwe systeem? (welke programma's wil je gebruiken)?

Deep learning, machine learning, big data analyse, programmeren en aanverwante zaken (text verwerken, browsen, etc.).
Wat ik niet ga doen is gamen ().
Dus veel machine learning libraries, R, Python, Tensorflow, etc. etc.

Aanvankelijk deze tutorial bekeken: http://timdettmers.com/20...-learning-hardware-guide/
maar ga toch voor de i5 weg en zal na ca. een half jaartje experimenteren mogelijk de Xeon weg op gaan en de huidige setup aan een familielid kado doen, want toch prima voor CAD achtige toepassingen.
(zie hieronder voor de lijst tot nu toe)

Wat mag het systeem gaan kosten?

Max. rond de 1000 euro, maar iets meer of minder is ook prima mits echt nodig.


Zijn er componenten of randapparatuur die je al hebt en mee wil nemen naar je nieuwe systeem?


Redelijk wat uitgezocht, maar zou toch graag 1) feedback op onderstaande ontvangen, maar ook graag 2) vragen welke voeding en koeling ik nog moet overwegen in deze setup.
Alle adviezen zijn zeer gewaardeerd!

pricewatch: Thermaltake Core V1 Snow Edition
pricewatch: Seagate Barracuda, 1TB
pricewatch: Corsair Vengeance LPX CMK16GX4M1B3000C15
pricewatch: MSI GeForce GTX 1060 6GT OC
pricewatch: Intel Core i5-7500 Boxed
pricewatch: MSI B150I GAMING PRO


Wat denk je allemaal nodig te hebben?

Zie boven ^.

Heb je nog bepaalde (merk)voorkeuren? Waarom?

Enkel de NVIDIA GTX 1060 vanwege CUDA.
Verder lichte biases opgelopen het internet afstruinend, maar sta open voor suggesties natuurlijk.

Heb je nog bepaalde eisen/wensen? (grootte, geluidsniveau, energieverbruik etc.)

Zo min mogelijk natuurlijk, ik geef graag een tientje meer uit voor wat db's / graden celcius minder .

[lactaxative]

Allereerst, is dit hobby of professioneel? Je sluit namelijk vrij veel upgradepaden uit.

B150 heeft mogelijk een BIOS upgrade nodig om Kaby Lake te supporten. Helaas zijn er nog steeds moederborden zonder een recente BIOS in de supply chain.

Alleen Zx70 moederborden ondersteunen 3000 MHz geheugen. B250 gaat t/m 2400 MHz, B150 tot 2133 MHz.

De beste bang for buck voeding is m.i. pricewatch: Corsair Vengeance 400W.

Aftermarket CPU koelers zijn over het algemeen gewoon stil op 65 W processoren. Ik ga zelf de volgende keer pricewatch: Scythe Byakko proberen. Vaak heb ik pricewatch: be quiet! Pure Rock Slim gebruikt.

Verder heb ik de kast niet gebruikt, maar kan ik me zomaar voorstellen dat het niet de stilste is die je kunt vinden.

[ZieglerNichols]

Bij machine learning algoritmes loopt de complexiteit vaak exponentieel op met de omvang van je op te lossen probleem. Het gevolg hiervan is dat het slim opzetten van de probleemformulering vaak veel meer winst oplevert dan een verdubbeling van je CPU/memory. Het kiezen van nieuwe hardware is dus alleen relevant als je al een expert bent in deze algoritmes en de toepassingen.

[Verwijderd]

Dank voor de adviezen!

-> het is hobby/professioneel (ik houd me er vanuit mijn werk steeds meer mee bezig, nog niet zozeer deep learning als meer datascience, dus het is een beetje van beiden)
-> upgrademogelijkheden zou ik zeker niet uit willen sluiten, dat komt mogelijk door mijn nog beperkte kennis nu (is alweer jaren geleden dat ik een pc gebouwd heb)

Wat betreft het moederbord, na een snelle vergelijking https://tweakers.net/pric...165;463869;701577;704149/ lijkt deze pricewatch: Gigabyte GA-Z270N-WIFI me goed gezien de 2 HDMI poorten.
Is er verder nog een relevant verschil tussen Z170 en Z270? Ik zie er online zo 123 niet echt iets significants tussen staan, maar misschien mis ik iets.
(overigens zag ik wel iets over BIOS updates die ik nog moet doen t.b.v. de i5)

Wel vroeg ik me af of de voeding zo voldoende is, want ik las ergens ook dat dit wat aan de magere kant kon zijn, maar dat kan ik ook fout hebben natuurlijk.

Ik heb er ook nog een SSD aan toegevoegd:
pricewatch: WD Blue SSD 2,5" 250GB

Wat betreft de algoritmen: ja dat besef ik zeker, ik lees ook absoluut de relevante blogs/sites/etc. maar ik probeer toch iets te kopen waarmee ik meerdere kanten op zou kunnen, waarbij ik wel wil focussen op text-verwerking en NLP.

Veel dank nogmaals!

[ Voor 13% gewijzigd door Verwijderd op 24-06-2017 22:36 ]

[lactaxative]

Z170 heeft hetzelfde probleem als B150, mogelijk een BIOS update vereist. x1xx chipsets behoren tot de oude generatie.

Een systeem met een socket 1151 processor en een GTX1060 trekt minder dan 300 Watt, dus een 400 W voeding is ruim voldoende.

Mijn punt over de upgradepaden gaat vooral over de keuze voor ITX. Ik lees echter nu dat indien nodig je upgradepad naar socket 2066 gaat. In dat geval kan een nieuwe kast er ook wel vanaf.

[Verwijderd]

Dank voor de feedback, wordt zeer gewaardeerd.

Ik heb nog van alles overwogen en zelfs besteld en weer geannuleerd () maar ik denk dat onderstaande een verstandige lijst kan zijn.

Met name omdat ik toch ook wel graag wat meer graph/netwerk-analyses wil doen, en mede door het kijken van YouTube: Build: Linux Workstation for Eric S. Raymond | Meet To Mega Therion ook wederom de Xeon voorbij zien komen (evenals het argument om graphs mee te kunnen processen) dus ik denk dat het misschien toch slim is.

pricewatch: Intel Xeon E5-1620 v4 Boxed
pricewatch: Supermicro X10SRL-F (Retail Pack)
pricewatch: Cooler Master GM G750M
pricewatch: Crucial Ballistix Tactical BLT2C8G4D30AETA (2x)
pricewatch: MSI GeForce GTX 1060 6GT OC
pricewatch: Seagate Barracuda, 1TB
pricewatch: WD Blue SSD 2,5" 250GB
EDIT: deze behuizing zou fijn zijn, maar weet nog niet zeker of het gaat passen:
pricewatch: Sharkoon CA-M Zilver


Ik las wat over Intel C612 compatibileit maar op pcpartpicker.com leek dit lijstje zonder problemen...
Als ik iets over het hoofd zie hoor ik het graag.

[ Voor 5% gewijzigd door Verwijderd op 26-06-2017 00:03 ]

[busscherski]

Deze xeon is eigenlijk een soort i7 maar dan trager geklokt en met ecc memory support (heb je niet geselecteerd en lijkt me ook niet nodig voor machine learning). Daarnaast heeft ie geen ipgu (niet zo relevant in dit geval).
Een i7 met goedkoper moederbord lijkt me verstandiger als je denkt dat 4c/8t belangrijk is.
De i5 van je openingspost doet overigens nauwelijks (gelijke turbo en slechts een beperkt lagere multi core snelheid) onder voor de xeon.

Edit: de i5 en i7 ondersteunen overigens maximaal 64 gb geheugen en de xeon tot 1540 gb.

Edit2: je moederbord is atx, hoe gaat die passen in een Micro-ATX (µATX), Mini-ITX behuizing? En ik vermoed dat de atx voeding er ook niet in past. De GPU heeft maar 3 mm speling, vind ik krap.

[ Voor 34% gewijzigd door busscherski op 26-06-2017 08:22 . Reden: Geheugen ]

[Verwijderd]

Heb inderdaad gelezen over de gelijkenissen tussen de i5, i7 en de Xeon, maar het kwam geloof ik aan op het aantal PCI-e lanes, bij de Xeon 40, wat relevant kon zijn (http://timdettmers.com/20...-learning-hardware-guide/).

Mogelijk weegt dit niet op tegen de extra kosten, dat kan ik nog niet zo goed bepalen.
Ik ben een beginner, maar wil (bij nader inzien) eigenlijk ook geen machine die over een half jaar net niet meer aankan wat ik er dan mogelijk mee zou willen.
Maar als het verschil tussen de processoren erg minimaal is, en de PCI-e lanes misschien niet zo relevant, dan is onderstaande lijst ook misschien een overweging:

pricewatch: Intel Core i5-7500 Boxed
pricewatch: Gigabyte GA-Z270N-WIFI
pricewatch: Crucial CT16G4DFD824A
pricewatch: Corsair CS550M
pricewatch: Sandisk SSD Plus 120GB
+ onveranderd:
pricewatch: MSI GeForce GTX 1060 6GT OC
pricewatch: Seagate Barracuda, 1TB

Edit: klopt wat betreft de behuizing, dat had ik er niet bijgezet maar mikte inderdaad in de Xeon setting op een ATX behuizing ipv. de kleinere eerder genoemde.

Edit2:
Als behuizingen overweeg ik:
pricewatch: BitFenix NOVA Wit Window
pricewatch: Aerocool Aero-500 (Wit)
pricewatch: Enermax Ostrog Lite Grey Hairline
pricewatch: NZXT S340 Wit

(* als ik overigens onlogische dingen zeg, is dat omdat ik pas een paar dagen hiermee bezig ben en mogelijk nog enigszins 'Chinese Room' qua begrip vertoon )

[ Voor 29% gewijzigd door Verwijderd op 26-06-2017 11:50 ]

[busscherski]

Dat van die lanes klopt.
Maar om af te wegen hoeveel dat uitmaakt moet je weten hoeveel performance verschil er is indien je GPU 8 of 16 lanes gebruikt (misschien is het verwaarloosbaar, en het doet er enkel toe indien je van plan bent om 2 GPU's of een M.2 SSD te installeren).

Ben je nog van plan om een GPU of M2 SSD bij te zetten? Die 550W voeding (ATX) ondersteund iig al 2 x GTX 1060, maar het moederbord weer niet (ik denk dat er geen Mini-ITX moederborden zijn die 2 videokaarten ondersteunen.
Doorgaans heb je minimaal 8 lanes nodig voor een GPU en (bij Intel) zal een M.2 SSD 4 lanes pakken.

Waarom trouwens een Mini-ITX moederbord in een behuizing van ATX formaat (het past wel maar lijkt me niet handig omdat je met een ATX moederbord voor hetzelfde geld meer PCI-E sloten krijgt)?

Als je geen uitbreidingsplannen hebt en het moet compact en bang/buck zijn kan het zoiets worden:
justVR in "Machine Learning systeem"

Je zou ook voor Ryzen kunnen gaan (16 lanes maar ik las geloof ik ergens dat de M.2 SSD geen lanes van die 16 af pakt)
reviews: Desktop Best Buy Guide - Mei 2017
Je mag hierbij nog de CPU omruilen voor een 1500X.
Als je voorbereid wilt zijn op een 2e GPU, pak dan wel een 550W voeding en een ATX moederbord die 2 GPU´s ondersteund + een ATX kast.
categorie: Moederborden

Een 120 GB SSD heb je denk ik al snel vol, zeker als je meerdere programmas er op installeerd en de data voor deep learning er op plaatst.

Als je toch de mogelijkheid open wilt houden voor 2 of zelfs meer videokaarten dan raad ik ATX formaat of groter aan.

Edit: en als je denkt aan 3 of 4 GPU's dan is een Xeon inderdaad de goedkoopste oplossing.

[Verwijderd]

Inmiddels ben ik nog erger aan het twijfelen, maar het lijkt me rationeler om 1) uitbreidingsmogelijkheden inderdaad groter te houden, en 2) dus ook bijv. voor ATX te gaan.

Hier 2 korte stukjes die ik interessant vond (over de Xeon + doel systeem -> overlapt met wat ik voor ogen heb)
YouTube: Build: Linux Workstation for Eric S. Raymond | Meet To Mega Therion
+
YouTube: Build: Linux Workstation for Eric S. Raymond | Meet To Mega Therion

Ook heb ik dit gevonden, wat min of meer is waar ik aan dacht (maar veel beter uiteraard, want phd's en stanford)
https://arxiv.org/abs/1607.00653
https://snap.stanford.edu/node2vec/


Of ik 1-2 of 3-4 GPU's nodig heb, weet ik nu niet. Ik heb er nog niet zodanig mee gewerkt, maar wil ook geen ~1000 euro uitgeven om wat uit te proberen voor een paar maanden en tegen een limiet aan te lopen; althans, ik wil die kans verkleinen, en zie een 2-300,- euro meerprijs als fair overweging hierin.

Ben sowieso iets over m'n budget aan het gaan, maar anderzijds wil ik ook niet investeren in een machine waar ik net niet mee kan wat ik misschien tzt. zou willen, dat is uiteindelijk ook op een bepaalde manier duurkoop. (de eerder genoemde redenatie van 'dan geef ik deze aan een familielid' is overigens niet meer van toepassing gezien de gewijzigde wensen van het familielid )

Momenteel denk ik aan deze setup (mogelijke herhaling):

pricewatch: Intel Xeon E5-1620 v4 Boxed
pricewatch: Supermicro X10SRL-F (Retail Pack)
pricewatch: Crucial Ballistix Tactical BLT2C8G4D30AETA
pricewatch: MSI GeForce GTX 1060 6GT OC
pricewatch: Seagate Barracuda, 1TB
pricewatch: Sandisk SSD Plus 120GB (misschien ook een grotere inderdaad)
pricewatch: Cooler Master GM G750M

(behuizing zal in dat geval een ATX kast worden)

Nogmaals veel dank voor al het meedenken.


Edit: deze slides duiden op toch wat meer nodige specs dan hierboven genoemd...
https://www.google.nl/url...gL8EYt_ZHetggs1UnH7HU14uA
(link naar pdf, via CWI)

[ Voor 10% gewijzigd door Verwijderd op 28-06-2017 16:54 ]