Nieuwe desktop voor werken met grote datasets

[Verdi87]

Goedemorgen,

Leuk dat je dit topic hebt geopend en alvast bedankt voor het meekijken!

Wat wil je doen met je nieuwe systeem?
Met het nieuwe systeem wil ik met python grote datasets (>10GB) vlot kunnen analyseren en zo af en toe een strategy game spelen (ik ben niet van de shooters, laat staan competitive gaming), dus denk aan Civilization of Total war. Belangrijk om te benoemen is dat deze games kunnen spelen voor mij niet meer dan een leuke bonus zou zijn, snelle data analyse is waarvoor ik deze PC wil bouwen. Tot slot ben ik niet van plan om te gaan videobewerken.

Wat mag het systeem gaan kosten?
Uiteraard zo min mogelijk maar voor de componenten die nodig zijn om snelle analyses mogelijk te maken wil ik er nagenoeg compromisloos ingaan. Boven de huidige totaalprijs €2.500 wil ik eigenlijk niet gaan.

Zijn er componenten of randapparatuur die je al hebt en mee wil nemen naar je nieuwe systeem?
Voor de pc niet. Qua (relevante) randapparatuur heb ik een 43" 4K scherm dat ik gebruik als 4 'gewone' schermen in 1.

Wat denk je allemaal nodig te hebben?
Zie onderstaande tabel.

#	Category	Product	Prijs	Subtotaal
1	Processors	AMD Ryzen 9 7950X Boxed	€ 618,95	€ 618,95
1	Moederborden	Gigabyte AORUS X670 ELITE AX	€ 319,-	€ 319,-
1	Videokaarten	Gigabyte GeForce RTX 3070 Eagle OC 8G (rev. 2.0, LHR)	€ 579,-	€ 579,-
1	Behuizingen	be quiet! Pure Base 500 Zwart	€ 82,90	€ 82,90
1	Waterkoeling	Arctic Liquid Freezer II 240	€ 88,74	€ 88,74
2	Geheugen intern	G.Skill Trident Z5 RGB F5-6600J3440G16GX2-TZ5RK	€ 229,99	€ 459,98
1	Voedingen	Corsair HX1000 V2	€ 229,13	€ 229,13
1	Solid state drives	Samsung 990 Pro (zonder heatsink) 2TB	€ 189,-	€ 189,-
			Totaal	€ 2.566,70

Heb je nog bepaalde (merk)voorkeuren?
Ik ben niet gebonden aan een merk, dus als op enkele punten betere keuzes te maken zijn dan hoor ik het graag. Verder heb ik liever componenten zonder RGB, want daar kijk ik toch niet naar.

Heb je nog bepaalde eisen/wensen?
Qua geluidsniveau is hoe stiller hoe beter uiteraard. Mocht een andere configuratie met marginaal lagere prestaties en grote energiebesparing opleveren dan hoor ik het graag zodat ik het in ieder geval kan overwegen.

Ga je overklokken?
Op dit moment ben ik dat niet van plan gegeven de enorme extra energievraag en beperkte prestatie winst van de CPU.

Wat verwacht je van ons?
Bovenal zou ik graag een sanity check willen op de configuratie. Dus werken deze componenten goed samen en passen ze in de kast? Volgens mij moet dat kloppen maar dit is de eerste keer dat ik een pc samenstel dus mogelijk heb ik iets over het hoofd gezien.

Daarnaast hoor ik het graag als ik onderdelen heb geselecteerd waarvoor een goedkoper (en net zo goed) of beter (voor grofweg dezelfde prijs) alternatief is.


Tot slot, mocht er nog informatie ontbreken dan hoor ik het graag!

[Thomg]

3060Ti is betere value en lijkt (?) me voldoende voor je eisen.
uitvoering: PNY GeForce RTX 3060 Ti 8GB XLR8 Gaming Revel Epic-X RGB Dual Fan...

Total War is wel relatief zwaar, maar als je lagere settings accepteert is er niet veel aan de hand.

Geheugen naar
uitvoering: Kingston Fury Beast KF556C40BBK2-64
Als je bereid bent zelf de snelheid in te stellen op 6000MHz, anders
uitvoering: Kingston Fury Beast KF560C36BBEK2-64

Voeding is vrij heftig overkill.
uitvoering: Asus ROG Strix 550W Gold
Als je erg graag platinum wilt
uitvoering: Cooler Master XG650 Plus Platinum

280mm rad zou ik wel doen, dus kast hieruit:
categorie: Behuizingen
En dan prop je hier een 280mm of grotere rad in
https://tweakers.net/wate...Zde4bgw2kGw2q-XdNhOqLW-gc

En anders zie dit.
https://gathering.tweakers.net/forum/view_message/74197942
https://gathering.tweakers.net/forum/view_message/74198936
Misschien is de AP201 ook een interessante optie bijv.

[Voor 5% gewijzigd door Thomg op 06-02-2023 10:07]

[Verdi87]

Dank voor jouw reactie en tips @Thomg !

Die 3060 Ti vind ik een hele goede suggestie. Die biedt inderdaad een betere value for money en op lagere settings spelen is voor mij geen probleem.

Wat betreft het geheugen ben ik heel benieuwd naar hoe jij inschat wat het effect van een lagere frequentie op de configuratie is. Hier heb ik zelf namelijk geen idee van en ik zou er graag wat meer gevoel bij willen krijgen.

[Thomg]

Verdi87 schreef op maandag 6 februari 2023 @ 10:30:
Dank voor jouw reactie en tips @Thomg !

Die 3060 Ti vind ik een hele goede suggestie. Die biedt inderdaad een betere value for money en op lagere settings spelen is voor mij geen probleem.

Wat betreft het geheugen ben ik heel benieuwd naar hoe jij inschat wat het effect van een lagere frequentie op de configuratie is. Hier heb ik zelf namelijk geen idee van en ik zou er graag wat meer gevoel bij willen krijgen.

Ryzen 7000 wilt niet echt sneller dan 6000 en begint heel hard tegen te stribbelen (lees: krak) vanaf 6200. Sneller geheugen werkt alleen met Raptor Lake (Intel 13000).
Met Ryzen 7000 wil je liever 5600-6000MHz geheugen met strakkere timings. Het gelinkte Kingston geheugen komt met SK Hynix M-die, dit doet de strakste timings op 6000-6200MHz. Maar, let wel op dat je het geheugen zelf moet tunen als je de 5600MHz kit neemt, dit hoeft niet met de 6000MHz kit (maar het kost je wel een duitje).

Ter info, ik heb het 5600MHz kitje zelf draaien.
https://i.snipboard.io/RXuo8C.jpg

[Voor 5% gewijzigd door Thomg op 06-02-2023 10:37]

[Verdi87]

Helder, dan was het geheugen dat ik had geselecteerd behoorlijke overkill.

Zou ik dan ook qua moederboard beter een stapje terug kunnen doen? Want dat board heb ik uitgezocht op dat het de hogere frequenties aan kan.

[Thomg]

320 euro is niet heel vreemd voor een 7950X wireless oplossing. Ik zou vooral vergelijken wat de moederborden bieden en de goedkoopste pakken die bieden wat je zoekt.
Probeer wel kast te matchen met moederbord.

Als kast ATX ondersteunt, ATX erin, M-ATX, dan M-ATX erin, etc.

[Verdi87]

Dankjewel voor alle hulp @Thomg ! Volgens mij ben ik dankzij jouw hulp nu al zo goed als klaar om te bestellen.

Voor het geval er nog anderen zijn met nieuwe/extra inzichten wacht ik nog 24h voordat ik de bestelling daadwerkelijk plaats.

[martyw]

Ik neem aan dat je pandas gebruikt voor je data analyse? Heb je het geoptimaliseerd voor multi core CPU'S met bijvoorbeeld dask?

[Verdi87]

Ja, ik gebruik Pandas inderdaad. Dask kende ik nog niet maar op basis van wat ik er zo snel van heb gevonden ziet het er heel interessant uit en zal het zeker helpen mijn hardware beter te benutten en analyses sneller te draaien.

Dank voor de tip!!

[martyw]

Ik stelde de vraag omdat Python en ook pandas in principe single core is. Als je je code niet heel erg goed geoptimaliseerd hebt voor multi-core gebruik heeft een zestien core CPU weinig geen zin. Voor gaming zijn zes cores voldoende.

Intel maakt tegenwoordig interessante chips voor dit soort workloads, met P(erformance) cores en zuinigere E(ffiecient) cores. De Intel Core i5-13500 zit wel op de sweet spot, met zes P cores en acht E cores.

Op basis van de Videokaart Best Buy Guide - De beste gpu's in februari 2023 zou ik een RX 6700XT videokaart overwegen.

Dan zou zoiets al prima zijn

#	Category	Product	Prijs	Subtotaal
1	Processors	Intel Core i5-13500 Boxed	€ 268,-	€ 268,-
1	Moederborden	ASRock B760M PG Riptide	€ 151,92	€ 151,92
1	Videokaarten	ASRock Radeon RX 6700 XT Challenger D 12GB	€ 409,-	€ 409,-
1	Behuizingen	DeepCool Macube 110 Zwart	€ 58,95	€ 58,95
1	Processorkoeling	DeepCool AK400	€ 34,90	€ 34,90
1	Geheugen intern	Kingston Fury Beast KF552C40BBK2-32	€ 135,33	€ 135,33
1	Voedingen	be quiet! Pure Power 11 550W FM	€ 83,89	€ 83,89
1	Solid state drives	WD Blue SN570 2TB	€ 143,90	€ 143,90
			Totaal	€ 1.285,89

Als je echt vol aan de bak gaat met optimaliseren neem dan de Intel Core i7-13700 met een DeepCool AK620 koeler

[Voor 62% gewijzigd door martyw op 06-02-2023 16:50. Reden: met lijst]

[Thomg]

Loont dus misschien om even te kijken of je de workload goed kan parallelliseren.
Van wat ik kan zien is het wel vrij eenvoudig om dit "aan" te zetten, maar meten is weten

[SVMartin]

Zie ik nou een besparing van 2500 naar 1200 euro?

Ik vraag me eigenlijk af: data analyse kan van alles zijn. Hoe weten we dat dit systeem voldoet?

[Verdi87]

Dank voor de reacties!

@martyw Bedankt dat je een hele build hebt samengesteld, en nog een stuk goedkoper ook! Ik begrijp niet helemaal waarom de build met een i5 of i7 beter of net zo goed zou presteren als de Ryzen 9 als de code is geoptimaliseerd. Zou je dat nog kunnen uitleggen?

@SVMartin In essentie is het panel data waarbij ik de ruwe data opschoon, data uit verschillende bronnen samenvoeg, en nieuwe kolommen bereken. Wanneer de data is bewerkt en verrijkt, gebruik ik verschillende modellen uit statsmodels om de bak met data te analyseren, en seaborn om uitkomsten te visualiseren. Idealiter zou ik al deze combinatie van stappen meerdere keren tegelijkertijd uitvoeren door het parallel te laten lopen. Beantwoordt dit jouw vraag?

[Thomg]

Wat draai je nu? Kan je even kijken of alle cores ook benut worden?

De 13500 is wel serieus trager dan een 7950X, daar is de prijs ook naar, maar de grote vraag is of jij hier ook wat van zult gaan merken.
Een 13600K is waarschijnlijk wel aan te raden omdat budget er is en daar bij Intel de single-core performance rond het hoogste punt begint te liggen.

Voetnoot: Toen je de 7950X pakte ging ik er vanuit dat je met opzet een 7950X had gekozen voor multi-core performance. Misschien een voorbarige conclusie.

[Voor 18% gewijzigd door Thomg op 06-02-2023 20:52]

[martyw]

Verdi87 schreef op maandag 6 februari 2023 @ 20:37:
@martyw Bedankt dat je een hele build hebt samengesteld, en nog een stuk goedkoper ook! Ik begrijp niet helemaal waarom de build met een i5 of i7 beter of net zo goed zou presteren als de Ryzen 9 als de code is geoptimaliseerd. Zou je dat nog kunnen uitleggen?

De Ryzen 9 zal bij code die compleet te optimaliseren valt wel flink beter presteren dan de Intels, maar in de praktijk is code die met data werkt niet continue aan het stoempen op alle CPU cores, er wordt door deze chip ook op disk i/o gewacht bijvoorbeeld. Ook is lang niet alle to code te optimaliseren in Python - pure Python code blijft single threaded.

[Voor 21% gewijzigd door martyw op 06-02-2023 20:53]

[Thomg]

martyw schreef op maandag 6 februari 2023 @ 20:45:
[...]

De Ryzen 9 zal bij code die compleet te optimaliseren valt wel flink beter presteren dan de Intels, maar in de praktijk is code die met data werkt niet continue aan het stoempen op alle CPU cores, er wordt door deze chip ook op disk i/o gewacht bijvoorbeeld. Ook is lang niet alle to code te optimaliseren in Python - pure Python code blijft singel threaded.

Let wel op dat dit ruim 4 1/2 jaar geleden was, in de recentere jaren is er steeds meer aandacht voor parallelliseren. Beste als TS even kijkt wat er nu gebruikt word en/of een poging doen om de CPU wat harder te laten zweten over meerdere cores.

[SVMartin]

Verdi87 schreef op maandag 6 februari 2023 @ 20:37:
Dank voor de reacties!

@SVMartin In essentie is het panel data waarbij ik de ruwe data opschoon, data uit verschillende bronnen samenvoeg, en nieuwe kolommen bereken. Wanneer de data is bewerkt en verrijkt, gebruik ik verschillende modellen uit statsmodels om de bak met data te analyseren, en seaborn om uitkomsten te visualiseren. Idealiter zou ik al deze combinatie van stappen meerdere keren tegelijkertijd uitvoeren door het parallel te laten lopen. Beantwoordt dit jouw vraag?

Niet helemaal, maar dat kan ook mijn gebrek aan kennis in dit vakgebied zijn. Ik denk dat vooral de statsmodels stap veel resources vraagt en dat nogal kan groeien. Heb je misschien dubbel zoveel geheugen nodig, of is er veel vertraging naar/van disk en kun je dat verbeteren door een raid configuratie of juist disk in ram? Of is dat allemaal relatief en moet je het zowieso optimaliseren in het algoritme? En is er bijvoorbeeld nu al een systeem dat je hebt wat het wel doet, maar heel traag en hebben we dan een eerste bottleneck daarin?

[Verdi87]

Thomg schreef op maandag 6 februari 2023 @ 20:39:
Wat draai je nu? Kan je even kijken of alle cores ook benut worden?

Op dit moment, aan het begin van het data project, gebruik ik nog mijn laptop (Lenovo Ideapad L340-15IWL - 81LG00GMMH) met een i7-8565U en 16B DDR4 2400MT/s. Op deze laptop heb ik nu een deel van de analyse gereed (het zwaarste deel moet ik nog schrijven) en gebruik ik een klein deel van de dataset omdat de computer het anders niet trekt. Gisteravond heb ik geprobeerd om de code parallel te laten werken en om dat werkend te krijgen heb ik meer tijd nodig dan ik gisteravond had. Dus ik wacht nog even met de bestelling plaatsen tot ik mijn oude laptop middels parallellisering tot het uiterste kan dwingen. Helaas heb ik niet heel veel vrije tijd dus ik vrees dat ik pas in het weekend resultaten voor jullie heb. Stay tuned!

SVMartin schreef op maandag 6 februari 2023 @ 22:58:
Ik denk dat vooral de statsmodels stap veel resources vraagt en dat nogal kan groeien. Heb je misschien dubbel zoveel geheugen nodig, of is er veel vertraging naar/van disk en kun je dat verbeteren door een raid configuratie of juist disk in ram? Of is dat allemaal relatief en moet je het zowieso optimaliseren in het algoritme? En is er bijvoorbeeld nu al een systeem dat je hebt wat het wel doet, maar heel traag en hebben we dan een eerste bottleneck daarin?

Als mijn laptop er niet meer uitkomt dan zit het werkgeheugen helemaal vol inderdaad. Dit kan ik al bereiken door te proberen om alle data in te laden. Je hebt gelijk dat de stappen met statsmodels ook veel tijd vragen, en dat lijkt aan de cpu kant te zitten. Jij weet duidelijk meer dan ik van de computer kant, dus kan je uitleggen hoe ik kan checken of de vertraging in van/naar disk of disk in ram zit? Wat betreft het optimaliseren van het algoritme heb jij (en de rest ook) zeker een punt dat daar nog de nodige winst valt te behalen.

Thomg schreef op maandag 6 februari 2023 @ 20:39:
Voetnoot: Toen je de 7950X pakte ging ik er vanuit dat je met opzet een 7950X had gekozen voor multi-core performance. Misschien een voorbarige conclusie.

Dat is geen voorbarige conclusie geweest en is zeker het doel. De reden dat ik nu meteen voor de zwaarste CPU ben gegaan komt doordat ik nu wil/moet upgraden (omdat de laptop het nu al niet goed trekt) terwijl ik nog niet weet hoe zwaar de uiteindelijke analyse voor de hardware wordt. Dus daarom is mijn gedachte better safe than sorry en nu voor de zwaarste optie gaan. Om te voorkomen dat ik over een paar maanden erachter kom dat de nieuwe build de analyse ook niet meer aankan. Met als grootste risico dat ik nu teveel betaal voor een overpowered computer, hoewel zo'n computer ook weer wat langer meegaat.


Concluderend, jullie hebben hierboven hele goede punten gemaakt. Dus ik ga nog met parallellisering aan de slag om een indruk te krijgen of ik de CPU inderdaad zo kan laten zweten als ik verwacht, en dan kom ik bij jullie terug! Nogmaals dank voor het meedenken en de nieuwe inzichten die jullie hebben geboden!

[SVMartin]

Je zult moeten monitoren om te achterhalen waar je bottleneck zit. Soms is het eenvoudig met de taskmanager, soms ook niet. Ligt er ook aan wat voor OS je gebruikt.

Heb je overwogen om de ontwikkeling met een kleine dataset op je laptop te doen en de uiteindelijke volledige dataset door te rekenen vanuit een cloud omgeving? Je hoeft dan geen grote investering vooraf te doen.

[martyw]

Als je Windows gebruikt is de Taskmanager de eenvoudigste tool, die laat zien hoeveel je CPU, RAM en disk belast worden, laat hem draaien tegelijk met je script.

[Voor 14% gewijzigd door martyw op 07-02-2023 18:59]

[Verdi87]

Goedemiddag!

Ondertussen heb ik de code geparallelliseerd (note to self: onthouden voor Scrabble) en het is gelukt om alle acht de "logical processors" van mijn CPU aan te spreken en op 100% te krijgen. Hier lijkt dan ook meteen de bottleneck met deze subset van de data te zitten, want dit is ongeveer 2GB aan data waarmee mijn RAM niet 100% vol komt te zitten. Tot slot piekt de disk op 15%, wat daarmee ook niet op een bottleneck lijkt. Mocht dit een onjuiste/voorbarige conclusie zijn dan hoor ik het graag.

@SVMartin Je maakt een heel terecht punt met het opschalen in de cloud. Echter wil ik deze data graag lokaal houden en analyseren, en ik verlang ondertussen weer naar een krachtige desktop. Dus vandaar dat ik deze mogelijkheid eerst wil proberen. Mocht het allemaal echt niet lukken en is de cloud de enige optie dan zal ik daarvoor gaan.

Dus wat is jullie indruk op basis van deze informatie? Kan ik qua build het beste voor het zwaarste geschut gaan of maakt dat qua performance niet uit in vergelijking met (op papier) minder heftige hardware?

[Thomg]

Verdi87 schreef op zondag 12 februari 2023 @ 12:40:
-Knip-

Let wel op dat de 8565U een quad-core is, niet een octa-core. Best wel belangrijk verschil.
Blijft de load dan ook lang op 100%? Of is het een paar seconden en klaar?

Als alternatief kan je me ook je workload opsturen, ik heb een 7950X, en kan het dan voor je testen.
Er zijn wat truukjes om python code te obfuscaten.

[Verdi87]

Wanneer ik het aantal processes tot 4 beperk werkt het stukje code iets sneller en gaat de utilization zo nu een dan een seconde iets onder de 100% zitten. Met de huidige subset duurt het draaien van de code +/-30 seconden waarvan +/-5 seconden de processor utilization iets onder de 100% zit. RAM en Disk blijven ieder ver van de 100%.

@Thomg Dank voor het aanbod om het met jouw computer uit te proberen, je bent echt super behulpzaam! En het spijt mij zeer maar ik zal er geen gebruik van maken. Gegeven mijn eerdere post zal het je niet verbazen dat ik de data liever lokaal hou en een generic form van de code en data creëren gaat teveel tijd kosten. De gevolgen hiervan: een potentieel suboptimale investering in een nieuwe build ben ik bereid te dragen.

[Thomg]

Geen probleem hoor, snap het wel.

Aan het einde van de rit heb je wel een vrij heftige PC waar je wel lang mee vooruit kan, maar hou er wel even rekening mee dat vrijwel iedere moderne CPU de 8565U heftig outperformed. Een 7950X is dan misschien wat overkill. Kijk bijvoorbeeld even hier als je een erg ruige indicatie wilt krijgen van performance.
https://www.cpubenchmark....3500-vs-AMD-Ryzen-9-7950X

[Verdi87]

Dat klopt helemaal maar als ik de maximale rekenkracht van een 7950X kan aanspreken (mits het nodig is voor de analyse uiteraard) dan ben ik bereid daarvoor te gaan. Eerder was ik nog even bang dat het misschien niet mogelijk was om "alle cores te laten zweten" en dan is zo'n 16 core processor voor mijn doel weggegooid geld.

Dus enorm bedankt @Thomg , @martyw , en @SVMartin voor alle hulp, nieuwe inzichten, en mij eerst te laten checken of het met mijn analyse überhaupt mogelijk is om meerdere/alle cores aan te spreken. Dankzij jullie heb ik straks een mooie computer met mogelijk enige overkill, maar daar heb ik nu wel heel bewust voor kunnen kiezen.