Aanschaf server voor RTX PRO 6000 Blackwell server edition

[glaerox]

Hallo allen,

Voor een machine learning (deep learning) project zijn we op zoek naar een server die onze reeds aangeschafte RTX PRO 6000 Blackwell server edition kan huisvesten. E.e.a. lijkt lastiger dan gedacht.
We hadden reeds een offerte gekregen voor een TrendMicro (TM) server via een partner van TM, maar na beoordeling van TM blijkt deze achteraf niet geschikt te zijn voor onze GPU en geeft de partner aan dat enkel de zuinigere MAXQ editie compatible te zijn.

Eigenlijk voel ik er wel wat voor om zelf een systeem samen te stellen met losse onderdelen, in de hoop dat we dan wat flexibeler zijn.

Reeds in bezit: PNY RTX PRO 6000 Blackwell Server Edition (600Watt tdp).
Overige eisen (wensen):
-Chassis met voldoende ruimte en geforceerde koeling voor onze GPU met passieve koeling. 19" Rack;
-Redundante PSU's met voldoende vermogen voor server+GPU;
-Moederbord met enkele SP5 Socket;
-Minimaal 1TB ECC Ram huisvesten (Waarvan 256GB gevuld bij in gebruik name;
-Mogelijkheid tot Raid adapter met battery back-up;
- +/- 12 Hot Swap 2.5" bays voor huisvesten schijven/SSD's. Bij voorkeur ook voor 2 M2 SSD';
-Minimaal 1x SFP28 poort en 2x RJ45;
-Budget: +/- 12.500 excl. btw.

Waar zouden we naast TM nog meer kunnen kijken? Een Desktop samenstellen is gesneden koek, maar een server doe ik ook niet elke dag. Wel leuke materie trouwens

Bedankt voor het meedenken!

[ Voor 1% gewijzigd door glaerox op 08-09-2025 12:11 . Reden: (toevoegen netwerkpoorten) ]

[djmuggs]

Zo te zien een 2 slots kaart, zou in een 2U server moeten passen, maar dan kom je denk ik met koeling niet lekker uit.
Denk dat 4U server beste oplossing is ivm koeling voor deze kaart.

Kijk even bij supermicro voor 4U oplossingen.

[Navi]

Ik zou denk ik gewoon bij bv DELL kijken welke servers geleverd kunnen worden met deze kaart, en hem dan zonder die kaart bestellen. Zet je hem er zelf in, voeg eventueel wat fans toe die DELL niet meeleverde (klik je er vaak zo in, meestal hotswap) omdat de GPU miste en je hebt een compleet systeem.

Omdat dit een passieve GPU is zul je echt heel goed moeten kijken naar de airflow en fanopstelling, zomaar een case pakken met wat fans is echt niet voldoende, deze kaart heeft directe geforceerde airflow nodig.

Hou er ook rekening mee dat dit heel veel geluid gaat maken.

Wil je iets meer flexibiliteit qua hardware dan pak je een SuperMicro barebone waar de GPU in past.
bv: https://www.supermicro.co...ystem/iot/2u/sys-212gb-nr

2U is overigens zat voor 1 zo'n kaart, er zijn 2U systemen waar er 4 in kunnen.

[ Voor 19% gewijzigd door Navi op 18-09-2025 11:49 ]