PC voor ML/AI en gaming

[Faraliel]

Wat wil je doen met je nieuwe systeem?
Ik wil het systeem gebruiken voor ML/AI en gaming. Draaien van lokale GenAI modellen etc. Games die ik speel variëren van moderne Triple- A games tot lichtere games.

Wat mag het systeem gaan kosten?
Maximum is €2900,- incl. verzending en BTW. PC wordt door werk gefinancierd dus dit is ook de absolute max maar er hoeft ook niet ergens op bespaard te worden om ruim onder de €2900 uit te komen.

Zijn er componenten of randapparatuur die je al hebt en mee wil nemen naar je nieuwe systeem?
Ik heb alle randapparatuur al en een 1440p ultrawide monitor.l

Wat denk je allemaal nodig te hebben?
In ieder geval een krachtige videokaart en genoeg RAM

Heb je nog bepaalde (merk)voorkeuren?
Ik heb nu een AMD videokaart waarbij ik vaak crashes heb meegemaakt. Ik zou nu graag voor een Nvidia kaart willen gaan

Heb je nog bepaalde eisen/wensen?
Niet specifiek, liefst vrij stil en een 'clean' look (geen RGB).

Ga je overklokken?
Mogelijk in de toekomst

Wat verwacht je van ons?
Graag wil ik weten of dit een goede combinatie van onderdelen zijn of dat ik ergens veranderingen in aan kan brengen om een beter presterend systeem te bouwen. Er is in principe nog €400,- over na het berekenen van bestelkosten. Kan ik bijv. ergens op korten om een RTX 4090 in te passen of zal dit overkill/overbodig zijn? Of is er een andere manier de prestaties te verhogen?

Heel erg bedankt!

#	Category	Product	Prijs	Subtotaal
1	Processors	AMD Ryzen 7 7800X3D Boxed	€ 384,99	€ 384,99
1	Moederborden	ASUS TUF Gaming B650-PLUS WIFI	€ 169,19	€ 169,19
1	Videokaarten	PNY GeForce RTX 4080 SUPER 16GB OC LED TF VERTO	€ 1.049,-	€ 1.049,-
1	Behuizingen	Fractal Design North - TG Clear Charcoal Black	€ 139,98	€ 139,98
1	Processorkoeling	DeepCool AK620	€ 49,90	€ 49,90
1	Geheugen intern	Kingston Fury Beast KF560C30BBEK2-64	€ 210,92	€ 210,92
1	Voedingen	DeepCool PX850G	€ 99,90	€ 99,90
1	SSD's	Kingston KC3000 4TB	€ 255,64	€ 255,64
			Totaal	€ 2.359,52

[ Voor 3% gewijzigd door Faraliel op 30-08-2024 13:26 ]

[Haaspaas]

Wat voor modellen draai je zoal? De grootte van het geheugen van je GPU is voor grotere modellen misschien relevant, vooral als het over computer vision of extreem grote taalmodellen gaat. Het zou kunnen dat een 4090 dan passender is.

[Faraliel]

Nu nog kleinere modellen, zoals LLama3 8b maar zou mooi zijn als evt LLAMA3 70b te draaien is of andere modellen van deze grootte. Dus niet per se extreem grote modellen maar misschien is dan toch een GPU met 24GB VRAM wenselijk. Hoe kan ik deze het beste in het budget krijgen zonder teveel in te leveren op overige prestaties?

[Woezik]

Puget adviseert 9900X, 64Gb, RTX4080S: https://www.pugetsystems....ions/machine-learning-ai/
De nieuwste Ryzen 9000 met hogere ipc doet het goed in AI: https://tweakers.net/revi...i-compile-en-compute.html

Enkele suggesties:

#	Category	Product	Prijs	Subtotaal
1	Processors	AMD Ryzen 9 9900X Boxed	€ 464,43	€ 464,43
1	Moederborden	ASUS TUF Gaming X670E-PLUS WIFI	€ 259,90	€ 259,90
1	Videokaarten	PNY GeForce RTX 4080 SUPER 16GB OC ARGB TF VERTO	€ 1.047,-	€ 1.047,-
1	Behuizingen	Corsair 6500D Airflow Zwart	€ 139,-	€ 139,-
1	Waterkoeling	Corsair iCUE H150i RGB Elite	€ 124,90	€ 124,90
1	Ventilators	Corsair RS120, Zwart, Triple pack, 120mm	€ 29,90	€ 29,90
1	Ventilators	Corsair RS140, Zwart, Dual pack, 140mm	€ 29,90	€ 29,90
1	Geheugen intern	Kingston Fury Beast KF560C36BBEK2-64	€ 179,-	€ 179,-
1	Voedingen	be quiet! Straight Power 12 850W	€ 163,59	€ 163,59
1	SSD's	Kingston KC3000 4TB	€ 255,64	€ 255,64
Bekijk collectie Importeer producten			Totaal	€ 2.693,26

AIO-radiator bovenzijde, 3x 12cm fans front intake, 14cm bottom+rear
X670 moederbord met zwaardere stroomvoorziening en meer M2 sloten. Overweeg een extra SSD voor scheiding werk/privé.
BQ Platinum efficiency voeding.
Behuizing: https://www.corsair.com/u...c-9011259-ww#tab-overview

[Faraliel]

De upgrade van de processor zal dus beter presteren dan de RTX 4090 met meer VRAM? Goed idee van de extra SSD en betere voeding.

[Haaspaas]

Faraliel schreef op vrijdag 30 augustus 2024 @ 16:05:
De upgrade van de processor zal dus beter presteren dan de RTX 4090 met meer VRAM?

Je vergelijkt hier appels en peren. ML/AI is een heel breed gebied met een grote verscheidenheid aan technieken en vereisten. Jij zegt specifiek geïnteresseerd in generative AI, en dan neem ik voor het gemak even aan dat jij dus vooral bezig zal zijn met deep learning (want dat is waar de state of the art zich bevindt). Deep learning, en zeker deep learning op de schaal waar jij van spreekt, is een GPU workload. GPU workloads draaien op de GPU, en gebruiken de CPU alleen voor preprocessing. De VRAM is hierbij ook niet zozeer belangrijk voor prestaties, maar gewoon een harde eis ten opzichte van wat je wil draaien. Een model wat niet in je VRAM past, ga je niet op je GPU kunnen draaien. Kijk dus even goed naar de VRAM vereisten van wat je wilt doen, en bepaal aan de hand daarvan of de 16GB van de 4080 zou voldoen.

[Woezik]

Faraliel schreef op vrijdag 30 augustus 2024 @ 16:05:
De upgrade van de processor zal dus beter presteren dan de RTX 4090 met meer VRAM? Goed idee van de extra SSD en betere voeding.

De meerprijs van de cpu is € 80,-, de meerprijs voor een RTX4090 is € 800,-, dus je kunt dat niet zomaar met elkaar vergelijken. Je zult extreem op je build moeten besparen om de RTX4090 erin te krijgen. Ik denk dat je met een 9900X en wat betere/luxere onderdelen een meer gebalanceerd systeem krijgt.

[Haaspaas]

Woezik schreef op vrijdag 30 augustus 2024 @ 16:57:
[...]
Ik denk dat je met een 9900X en wat betere/luxere onderdelen een meer gebalanceerd systeem krijgt.

De eerste vraag die de topicstarter dus voor zichzelf moet beantwoorden is of hij een gebalanceerd systeem of een gespecialiseerd systeem wil. Met een 4080 super t.o.v. een 4090 doe je concessies met wat er mogelijk is aan de kant van AI.

Overigens is het ook nog wel even belangrijk om te kijken naar de performance van de 9900x tegenover de 7800x3d in gaming, want naar ik me herinner is de 7800x3d daar de betere keuze.

[Faraliel]

Ik zou dan liever een gebalanceerd systeem willen. Zou dan een 7900X3D of een 7950X3D een goede tussenweg zijn? Deze lijkt op het gebied van AI redelijk te presteren en tevens ook aan de gaming kant. https://tweakers.net/revi...i-compile-en-compute.html.

[Haaspaas]

Ik zou me niet kapot staren op AI performance van de CPU, tenzij je heel intensief van plan bent grote CPU workloads uit te voeren. In games levert de 7900x3d en 7950x3d je (bijna) niks extras op. De 7800x3d is gewoon een hele solide CPU voor games.

Je kan trouwens ook nog even kijken wat de 7600x3d gaat kosten. Deze komt naar verluid vroeg in september op de markt en zou zomaar een prijskaartje van 250 euro kunnen hebben. Als je dat combineert met 32gb ram (2x16gb, met de ruimte naar 64 te gaan later), dan heb je eventueel genoeg ruimte in je budget voor je 4090.

[Woezik]

Faraliel schreef op vrijdag 30 augustus 2024 @ 17:11:
Ik zou dan liever een gebalanceerd systeem willen. Zou dan een 7900X3D of een 7950X3D een goede tussenweg zijn? Deze lijkt op het gebied van AI redelijk te presteren en tevens ook aan de gaming kant. https://tweakers.net/revi...i-compile-en-compute.html.

De 7900X3D en 7950X3D hebben twee chiplets met 6/8 cores, waarbij maar één chiplet de extra cache heeft. Omdat games zelden meer dan 8 cores gebruiken kunnen alle taken op een 7800X3D met één chiplet de extra cache benutten. Een 7900X3D of 7950X3D hebben voor gaming geen meerwaarde.
Voor produktiviteit is een hoge ipc en dus ook een hoge kloksnelheid belangrijk en die ligt bij de X3D chips juist lager.

Ik ken de regeling van je werk niet, maar stel dat je over 3jaar nogmaals dit budget mag besteden, dan zou je nu ook een 9700X kunnen kiezen met een moederbord met x8/x8 lane verdeling geschikt voor twee videokaarten. Je zou dan over 3jaar kunnen upgraden naar 2x RTX5080Super of iets dergelijks.
De 9700X met enkele chiplet doet het in gaming iets beter dan een 9900X met twee chiplets.
Tweakers behaalde met een 9900X met de overklokinstellingen een prestatiewinst van 5% en bij de 9700X maar liefst 12%.

Een 7800X3D is de snelste gaming cpu en doet het fantastisch in race games of flightsim, maar er zijn ook genoeg games waar je er niks aan hebt. De prestaties zie je vooral als je op 1080p gamed met een 2k kostende RTX4090 die geen bottleneck is op 1080p. Als je op 4k gamed met een gpu van € 1.000,- is de winst van een 7800X3D bijna volledig verdampt. De meerprijs van een RTX4090 is echter zo hoog, dat de meeste gamers toch meestal ook in die situatie de 7800X3D kiezen.
Voor de prestatie met een 7800X3D/RTX4090 op verschillende resoluties zie: https://www.techpowerup.c...d-ryzen-7-7800x3d/21.html

[Faraliel]

Opties genoeg dus zo te horen. Het bedrag is helaas (voorlopig) eenmalig. Daarom wil ik wel op dit moment het maximale uit het systeem halen. Zo te zien zal de 4080 super wel voldoende zijn voor mijn beoogde doeleinden, dus dan twijfel ik enkel nog tussen het systeem met een 9900x en een 7800X3D. Ik ga hier eens een nachtje over slapen. Dank voor alle input in ieder geval!