Systeemupgrade voor deep learning

Pagina: 1
Acties:

Vraag


  • _tma_
  • Registratie: Februari 2020
  • Laatst online: 11-12-2023
Beste tweakers,

Ik overweeg een upgrade van mijn 8 jaar oude systeem, dat overigens nog prima werkt. Bedoeling is dat het nieuwe systeem een belangrijke upgrade is in performantie voor machine learning/deep learning. Qua toepassingen ben ik momenteel het meest bezig met computer vision (CNN's) maar met time-series processing en NLP zal ik wellicht ook experimenteren. Ik ben geen hard-core deep learning practitioner, het is een hobby waarvoor ik een degelijke setup wens die weer wat jaren meekan maar het moet geen mega setup zijn met meerdere GPU's of zo. Zie ook de rubriek budget ;)

Daarnaast moet het systeem goed presteren voor fotobewerking (Lightroom en On1 Photo RAW). Hardcore gamen zal ik op dit systeem niet doen, hoewel ik niet kan uitsluiten dat zoonlief over enkele jaren wel eens een goede PC game zal willen spelen. In elk geval is gaming performance geen doel.

Ik zoek een?
De upgrade betreft voornamelijk CPU en GPU, maar dat brengt natuurlijk ook een nieuw moederbord met zich mee, nieuw geheugen en wellicht een nieuwe koeling. Ik hoop toch enige componenten van mijn huidige setup te kunnen behouden, zoals bijvoorbeeld de case, de harddisks, SSD, voeding.

Wat is je budget?
Ik denk aan een budget tussen 1000 en 1500 EUR.

Heb je bepaalde (merk)voorkeuren?
Voor deep learning lijkt Intel + Nvidia de combo die het meeste software-support heeft: geoptimaliseerde versies van Tensorflow, scikit-learn en pytorch. Ook zie ik meldingen van driverproblemen (stabiliteit) bij AMD, hoewel ik niet kan verifiëren wat de impact zou zijn voor mijn toepassingen. Ik sta zeker open voor AMD-suggesties. De AMD Ryzen Threadripper 2920X intrigeert me bijvoorbeeld wel.

Specificeer het systeem en de omgeving waarin je het product gaat gebruiken.?
Het wordt wellicht een dual-boot systeem met Windows 10 en Ubuntu.

Hier mijn huidige setup:
#CategoryProductPrijsSubtotaal
1ProcessorsIntel Core i7 2600K Boxed€ 0,-€ 0,-
1MoederbordenAsus P8Z68-V PRO€ 0,-€ 0,-
1VideokaartenMSI GeForce GTX 960 GAMING 2G€ 0,-€ 0,-
1Interne harde schijvenWD Black (2010, SATA-600), 1TB€ 0,-€ 0,-
1BehuizingenSilverstone PS02 (SST-PS02B-W)€ 0,-€ 0,-
1CasemoddingSilverstone 140mm fan grille and filter kit€ 4,99€ 4,99
1ProcessorkoelingZalman CNPS9900 MAX (Blue led)€ 62,23€ 62,23
1VentilatorenNoiseblocker PL2, 120mm€ 23,51€ 23,51
1Geheugen internCorsair Vengeance CMZ16GX3M4A1600C9€ 89,05€ 89,05
1VoedingenCorsair AX760€ 182,99€ 182,99
1Solid state drivesSamsung 850 EVO 250GB€ 134,38€ 134,38
Bekijk collectie
Importeer producten
Totaal€ 497,15


De case en de voeding zijn in mijn ogen nog steeds top dus zie ik geen reden om ze te vervangen. Het moge duidelijk zijn dat ik niet op zoek ben naar een flashy systeem met allerlei fancy verlichting.

Mijn 2 harddisks staan in RAID en zijn nog OK. Ook hier zie ik geen reden om ze te vervangen.

De SDD werkt prima, mag voor mij ook blijven.

Qua vervanglijstje heb ik volgende sneuvelversie.

#CategoryProductPrijsSubtotaal
1ProcessorsIntel Core i9-9900K Boxed€ 535,05€ 535,05
1MoederbordenGigabyte Z390 UD€ 115,05€ 115,05
1VideokaartenGigabyte GeForce RTX 2060 Gaming OC Pro 6G (rev. 1.0)€ 360,-€ 360,-
1Geheugen internCorsair Vengeance LPX CMK16GX4M2B3200C16€ 79,-€ 79,-
Bekijk collectie
Importeer producten
Totaal€ 1.089,10


Waarom deze setup?
  • CPU
  • Laat ik maar beginnen met de component waar ik het minst zeker over ben. De typische deep learning software tools (tensorflow, pytorch, scikit-learn, numpy,...) lijken wel degelijk hun voordeel te halen uit parallelisme op de CPU, vandaar de keuze voor een processor met hyperthreading en "voldoende" cores. Intel omdat deze tools geoptimaliseerde versies hebben voor Intel CPU's.
  • GPU
  • Ik zie in benchmarks (deep learning, niet gaming) een hogere performantie voor de RTX serie in verhouding tot de prijs (zie bijvoorbeeld de vergelijking op https://timdettmers.com/2019/04/03/which-gpu-for-deep-learning/"). Dit wel op voorwaarde dat je kan werken in 16-bit precisie. Dit lijkt al makkelijk te gaan in libraries zoals fastai (bovenop pytorch) en ik vermoed dat support voor 16 bit mainstream gaat worden. De Gigabyte GeForce RTX 2060 Gaming OC Pro 6G is haalbaar geprijsd, hoewel dit revision 1 betreft. Andere heat pipes in rev 2? Is het een goed idee om een rev 1 te kopen (prijsverschil is toch significant)?
  • Moederbord
  • Ik vermoed dat menig wenkbrauw gefronst zal worden bij de keuze van een "low end" moederbord voor deze setup. Eerlijk gezegd vraag ik me af of dit een goede keuze is, maar qua features doet dit bord alles wat ik nodig heb, degelijke chipset, en qua VRM temperatuur doet dit MB niet onder voor duurdere "higher-end" moederborden zoals de MSI MPG Z390 Gaming Pro Carbon en de Asus PRIME Z390-A (bron: hardware.info). Zie ik iets over het hoofd?
Ik neem aan dat mijn huidige CPU koeling het niet meer zal trekken maar ik heb daar nog geen keuze voor gemaakt omdat ik eerst al eens wou horen waar de zwakke punten/denkfouten eventueel zitten in mijn huidige componentenlijst (ongebalanceerde setup, incompatibiliteiten, slechte prijs/kwaliteit/performance,...). Benieuwd naar jullie mening.

Alvast bedankt!

Alle reacties


  • _tma_
  • Registratie: Februari 2020
  • Laatst online: 11-12-2023
Niemand?

Hier enkele concrete vragen:

- Is de i9 misschien overkill? Zou je een andere processor aanraden? Welke koeling?

- Welke RTX 2060 zouden jullie aanraden? Welke heeft de beste prijs-kwaliteit verhouding? Ik vermoed dat het model dat ik hierboven vermeld, niet de best koop is, of is het juist verstandig om een v1 te kopen?

- Is het moederbord dat ik hierboven vermeld OK of toch beter een ander?

- Voeding nog bruikbaar met nieuwe cpu/gpu?

Ik ben zeker ook geïnteresseerd in algemene opinies en prijs/kwaliteit-overwegingen dus laat je zeker niet tegenhouden omdat in het onderwerp deep learning staat!

Ik kijk uit naar je reacties.

  • gekkie
  • Registratie: April 2000
  • Laatst online: 27-01 23:09
Als je een goede graka hebt dan gebeurd het meeste daar op en is de proc van wat minder belang.
Nvidia en CUDA is vrees ik inderdaad nog steeds de beste optie op dat vlak.
Meeste recente nvidia is dan wellicht interessant vanwege mixed precision en tensorcores.
Moet het wat minder kosten dan een 1070 of 1080(ti).

Mocht je iets hebben dat nog niet op de GPU kun en alleen op de CPU, dan zou je wellicht bij intel met avx-512 een voordeel kunnen hebben, weet zo uit m'n hoofd niet of er al bfloat 16 support is op recentere intels.
Maar als het op prijs zit, zou ik voor een AMD proc gaan en alles wat ik daar mee bespaar in de graka stoppen.

Oja en met een 6GB kaart kun je wel wat gedoe krijgen, meeste examples gaan bij hun batch sizes uit van minimaal 8GB video geheugen.

[ Voor 9% gewijzigd door gekkie op 28-02-2020 00:07 ]


  • _tma_
  • Registratie: Februari 2020
  • Laatst online: 11-12-2023
Bedankt voor de tips!

Op basis van het aanraden van AMD door gekkie, en na een volgende portie reviews, switch ik naar de AMD Ryzen 7. Ik heb in het verleden een AMD Athlon gehad en had steevast het gevoel een inferieure keuze gemaakt te hebben, maar de nieuwste generatie Ryzen lijkt een heel ander kaliber te zijn, zowel voor single-threaded als multi-threaded performantie. Voor data prep en voor RAW photo editing hoop ik hiermee goed te zitten.

De minkost investeer ik in een power-up voor de GPU -> 2070 Super (daarmee is het 6GB probleem meteen opgelost).

Dit levert volgend lijstje:

#CategoryProductPrijsSubtotaal
1ProcessorsAMD Ryzen 7 3800X Boxed€ 349,-€ 349,-
1MoederbordenMSI X570-A Pro€ 162,99€ 162,99
1VideokaartenKFA2 GeForce RTX 2070 Super EX (1-Click OC) Retail€ 519,-€ 519,-
1Geheugen internCorsair Vengeance LPX CMK16GX4M2B3200C16€ 79,-€ 79,-
Bekijk collectie
Importeer producten
Totaal€ 1.109,99


Iemand ervaring met dit MB? Stabiliteit? Overclocking?

Klopt het dat ik geen extra CPU koeling nodig heb, omdat er een koeling meegeleverd wordt met de AMD CPU?

De KFA2 grafische kaart is goedkoper dan MSI en Gigabyte. Ik ken dit merk niet. Verdacht?

Wat mis ik nog?

  • DenHond
  • Registratie: November 2009
  • Laatst online: 08:18
De MSI moederborden voor AMD’s x570 chipset zijn eigenlijk enorm ondermaats zowel in features als VRM.
Het ‘goedkoopste’ oerdegelijke x570 moederbord is nog steeds Gigabytes aurus elite, jammer genoeg wel iets duurder.

Ook bied de 3800x amper 100mhz meer tov de 3700x. Ik vind het persoonlijk niet de moeite om de 3800x te nemen.

[ Voor 15% gewijzigd door DenHond op 29-02-2020 12:45 ]


  • Thomg
  • Registratie: September 2010
  • Laatst online: 01:53

Thomg

Aww yiss

KFA2 is prima, echter niet zo'n grote speler in Europa.
Let wel op de levertijd, gaat eerder richting de 550...

3800X zou ik ook niet doen, als je denkt echt wat te hebben aan meer cores zou ik eerder een 3900X overwegen...

2060KO is ook een interessante GPU als je weet er gebruik van te maken.
pricewatch: EVGA GeForce RTX 2060 KO Gaming
Voor compute is het eigenlijk een licht underklokte 2080.
YouTube: Secret GPU: RTX 2080 in the RTX 2060 KO, Up to +47% Workstation Perf...
Let dan natuurlijk wel op de 6GB...

  • _tma_
  • Registratie: Februari 2020
  • Laatst online: 11-12-2023
Weer een pak mooie tips, thx! 3800X wordt 3700X, MB wordt de Aorus Elite.

Stilaan komen we tot een finaal lijstje:
#CategoryProductPrijsSubtotaal
1ProcessorsAMD Ryzen 7 3700X Boxed€ 295,05€ 295,05
1MoederbordenGigabyte Aorus X570 ELITE€ 209,-€ 209,-
1VideokaartenKFA2 GeForce RTX 2070 Super EX (1-Click OC) Retail€ 519,-€ 519,-
1Geheugen internCorsair Vengeance RGB Pro CMW32GX4M2C3200C16€ 175,77€ 175,77
1Solid state drivesSamsung 970 Evo Plus 1TB€ 219,90€ 219,90
Bekijk collectie
Importeer producten
Totaal€ 1.418,72


Vermits ik niet zo vaak upgrade, wissel ik de 16 GB RAM voor 32 GB. Bij amazon.de staat de Corsair RGB Pro aan 1,32 EUR duurder dan de LPX 32 GB -> 169,22. Lijkt me geen slechte deal? De RGB hoeft voor mij niet, maar ik ga ervan uit dat de Pro kwalitatief iets sterker is dan de LPX dus het mag een euro meer kosten ;)

Ik dacht mijn SDD te behouden en kan dat nog altijd, maar wist toen nog niet dat er zoiets bestaat als NVMe :| De EVO 970 Plus ziet er snel en betrouwbaar uit. Meteen groot genoeg, dan kunnen thumbnail cache, catalog, preview cache,... en al mijn foto's mooi op snelle storage. Lekker! De 1TB is ook sneller dan de 500GB blijkbaar. Alternatieven? Iets met PCI 4.0 misschien, kwestie van daar iets mee te kunnen doen?

De 2060KO is een vreemd en intrigerend beestje. Ik houd het op de 2070 Super want ik vermoed dat voor mijn toepassingen de extra perf van de KO er niet gaat uitkomen. Bovendien heb ik dan 8GB. Ik denk dat ik mijn kans waag en voor de KFA2 ga; gesterkt door de evaluatie van Thomg. Staat 519 EUR bij amazon.de, helaas niet direct leverbaar idd.

Domme vraag misschien: heb ik thermische pasta nodig om dit systeem in elkaar te steken?

  • Thomg
  • Registratie: September 2010
  • Laatst online: 01:53

Thomg

Aww yiss

Waarom haal je dan niet iets als de Gigabyte?
pricewatch: Gigabyte GeForce RTX 2070 Super Windforce OC 3X 8G

SSD is prima, verwacht geen grote verschillen tussen 500GB en 1TB (misschien grotere cache?).

Nee, je hebt geen pasta nodig.

  • _tma_
  • Registratie: Februari 2020
  • Laatst online: 11-12-2023
Mja, kan... Windforce = stiller?

  • DenHond
  • Registratie: November 2009
  • Laatst online: 08:18
Is SSD/opslag snelheid belangrijk voor deeplearning? Heb er zelf geen ervaring mee.
Anders zou ik de Samsung 970 evo (de niet plus) of een Kingston A2000 aanraden, gezien deze toch een stuk goedkoper zijn.

SSD's verliezen ook heel wat performance als deze volledig vol zijn, daarom dat een groter model ook altijd handiger is om dit te vermijden...

[ Voor 42% gewijzigd door DenHond op 01-03-2020 01:27 ]


  • Thomg
  • Registratie: September 2010
  • Laatst online: 01:53

Thomg

Aww yiss


  • _tma_
  • Registratie: Februari 2020
  • Laatst online: 11-12-2023
Opslagsnelheid is voor deep learning niet het meest cruciale, ik dacht vooral aan mijn RAW foto edit gebruik waarbij er thumbnails en previews gemaakt en gestored worden bv. Lightroom werkt met een catalog (db) voor metadata. ON1 Photo RAW werkt met sidecar files voor de metadata. Toch vrij veel I/O dus. Zal de evo en de a2000 eens bekijken!

  • _tma_
  • Registratie: Februari 2020
  • Laatst online: 11-12-2023
Wat het MB betreft: iemand enig idee welke geheugenconfiguratie het beste is qua performantie en OC: 4x8GB of 2x16GB?

  • DenHond
  • Registratie: November 2009
  • Laatst online: 08:18
Je kan het best voor 2 sticks gaan: je kan upgraden in de toekomst, meestal goedkoper, iets stabieler voor je cpu overclock, 4 sticks geven geen performancewinst,...

  • Thomg
  • Registratie: September 2010
  • Laatst online: 01:53

Thomg

Aww yiss

Met 4 sticks krijg je sneller issues met geheugensnelheid.

Ligt wat complexer met ranks...

  • _tma_
  • Registratie: Februari 2020
  • Laatst online: 11-12-2023
OK, deze combo gaat het uiteindelijk worden:

#CategoryProductPrijsSubtotaal
1ProcessorsAMD Ryzen 7 3700X Boxed€ 295,05€ 295,05
1MoederbordenGigabyte Aorus X570 ELITE€ 209,-€ 209,-
1VideokaartenGigabyte GeForce RTX 2070 Super Windforce OC 3X 8G€ 545,05€ 545,05
1Geheugen internCorsair Vengeance RGB Pro CMW32GX4M2C3200C16€ 175,77€ 175,77
1Solid state drivesSamsung 970 Evo Plus 1TB€ 220,22€ 220,22
Bekijk collectie
Importeer producten
Totaal€ 1.445,09


Heb de andere storage opties bekeken, maar ik ga bij de EVO Plus blijven. Heeft een hoge betrouwbaarheid en scoort goed in zowat alle benchmarks, ook die waar ze een Photoshop + Lightroom workload simuleren. Is wel duurder maar presteert ook een 15% beter.

Dan rest enkel het bestellen :*) Thx allen (y) (y) (y) !

[ Voor 7% gewijzigd door _tma_ op 01-03-2020 23:50 ]

Pagina: 1