Advies gevraagd: €7000 Proxmox hypervisor voor AI, gaming

Pagina: 1
Acties:

Vraag


  • Bruhhurb
  • Registratie: December 2020
  • Laatst online: 10-08 14:57
Ik heb een erg ambitieus (en prijzig) project voor ogen...

Ik wil als reactie op mijn groeiende afhankelijkheid als developer (mijn eerste) PC bouwen en deze als hypervisor opzetten met de volgende doeleinde:
  1. Een hypervisor waar ik veel kleine virtuele machines op uit kan rollen als sandbox/selfhosted projectjes
  2. Binnen de hypervisor een AI VM die graphic pass-through heeft zodat hij direct op zijn eigen grafische kaart kan kletsen (de ASRock AMD Radeon AI PRO R9700 Creator 32GB)
  3. Een eigen gaming VM waar ik op goede kwaliteit kan videogamen. mijn plan is de zelfde graphische kaart pass-through als de AI VM alleen dan op zijn eigen graphische kaart (de MSI GeForce RTX 5080 16G GAMING TRIO OC). Deze grafische kaart zou ik direct op mijn monitor willen aansluiten zodat ik zonder vertragingen zou kunnen spelen
  4. Op diezelfde gaming VM zou ik uiteindelijk via de steam frame VR games streamen. het liefst is dat van enige kwaliteit zonder haperingen
Ik weet zelf erg slecht of de componenten goed bij elkaar passen en zou het enorm waarderen als iemand een blik kan werpen. :)

Ik heb deze lijst al eerder aan collega's laten zien maar omdat het om zoveel geld gaat blijf ik het spannend vinden de aankoop te maken... Ik hoop dat ik met het advies wat ik hier ontvang ik een beter overwogen beslissing kan maken.

Ik besef mij dat de lijst hardware in deze tijd duurder is dan voorheen maar ik denk dat dat een probleem is wat niet zomaar stopt en de nerd in mij kan niet langer wachten.

Denken jullie dat de selectie hardware voldoet aan deze wensen?

Hier is mijn wenslijst die ik gaande weg zal updaten n.a.v. het advies wat ik krijg: wenslijst: VR Gaming/Local AI Hypervisor?

Ik zoek een?
Geheel nieuwe PC/Hypervisor "from scratch"

Wat is je budget?
7000~ euro

Heb je bepaalde (merk)voorkeuren?
Niet specifiek. Ik zoek vooral een functioneel en betrouwbaar systeem voor mijn wensen.

Specificeer het systeem en de omgeving waarin je het product gaat gebruiken.?
Proxmox met GPU passthrough op beide kaarten.

Ik waardeer al het advies enorm!

Beste antwoord (via Bruhhurb op 29-07-2026 21:33)


  • Umbrah
  • Registratie: Mei 2006
  • Laatst online: 21:21

Umbrah

The Incredible MapMan

Hoewel ik fan ben van de aanpak, denk ik dat het resultaat teleurstelling zal opleveren.
  • Consumenten cpu's hebben niet de pci-e lanes voor deze hardware en taken
  • Ze kunnen niet goed bifurcaten
  • 32gb vram voor ai is meh, zeker als er ook developer taken in de buurt zijn.
  • Hoewel ik zelf geen competitive online meuk doe is virtualisatie een dooddoener voor kernel level anticheat
Mijn proxmox bak (tevens met een truenas vm, en dus storage controller geforward in de vorm van 16 lanes aan LSI/broadcom HBA) heeft ook twee gpus, zijnde een cheapo accelerator voor jellyfin, en inderdaad een general purpose ai/gaming vm op een rtx3090 (losse gaming rig heeft nu een rx9070), maar in de praktijk is het voor kleine modellen al niet goed genoeg. Zeker met hoe de hardware gegaan is spijt dat ik niet speciaal hiervoor destijds voor een framework pc ben gegaan, want unified werkt goed. Sinds deze week wel een dgx spark er naast... Dat heeft puur door het geheugen de rtx3090 vrijgespeeld. Vllm, forse context Windows, 30b modellen en agentic ai maken 128gb zon... Must. Merk dat de bandbreedte een dingetje blijft. Zodra meer mensen door hebben dat zelf hosten kan met goede kwaliteit, en de miljoenen aan Claude tokens opdrogen/het openai codex subsidie model popt ben ik vooraan de rij om een tweedehands h200 oid (sxm naar pcie hacks incoming!) op te pikken. Die spark is eigenlijk van de werkgever (pilot/project) maar ben nu al zo overtuigd dat het ook m'n privé projecten zo kan ondersteunen... Geen hyperscale tokens voor mij meer.

Als ik die 7000 zou besteden zal puur pci-e de bottleneck blijven. Misschien puur voor de vms/nas zal ik een threadripper 3960x tweedehands kopen, want veel pci-e, redelijk goede cpu performance met zen3, en 4 kanalen ddr4 met ecc support. Dat geheel lekker out of sight remote, in een server chassis ergens. Ik heb er ook drie oude nvme drives in (ook weer 12 pci-e lanes, raid1 set voor proxmox en boot level vms, en een l2sarc voor truenas wat tevens luns biedt voor de rest van m'n vms, de l2sarc maakt m'n main hdd array van 3x8tb in raidz1 erg snel voelen), en dat maakt de losse gaming pc erg specialistisch, en vmloos

[ Voor 12% gewijzigd door Umbrah op 29-07-2026 06:55 ]

Alle reacties


  • sdk1985
  • Registratie: Januari 2005
  • Laatst online: 01:18
Gamen op vm gaat niet samen met kernel anticheat. Met een budget van 7000 euro zou ik niet te moeilijk doen en simpelweg twee machines in elkaar zetten.

Hostdeko webhosting: Sneller dan de concurrentie, CO2 neutraal en klantgericht.


  • GarBaGe
  • Registratie: December 1999
  • Laatst online: 30-08 13:42
Ik zou 2 machines doen zonder VM.
De game machine met een 9800X3D
En de AI machine met een Intel, zoals de 270K Plus.
In productivity workloads (zoals AI) is de Intel een stuk sneller dan AMD

Ryzen9 5900X; 16GB DDR4-3200 ; RTX-4080S ; 7TB SSD


  • Bruhhurb
  • Registratie: December 2020
  • Laatst online: 10-08 14:57
Hi @sdk1985 en @GarBaGe! Dank voor jullie reactie.

Ik had misschien iets meer context moeten geven over mijn beredenering voor deze opzet, die komt nu misschien een beetje uit de lucht vallen.

De beredenering was dat ik sowieso een eigen hypervisor wil zodat ik snel kleine vms kan aanmaken. Dit is mijn voornaamste reden voor dit project.

Voor twee aparte machines heb ik helaas de ruimte niet.

Mijn doel voor deze post is dan ook eerder. Is deze hypothetische set-up haalbaar met de huidige lijst hardware en functioneert iets als gpu pass-through zoals ik hoop?

Alvast dank voor het meedenken :)

  • sdk1985
  • Registratie: Januari 2005
  • Laatst online: 01:18
Bruhhurb schreef op maandag 27 juli 2026 @ 21:19:
Hi @sdk1985 en @GarBaGe! Dank voor jullie reactie.

Ik had misschien iets meer context moeten geven over mijn beredenering voor deze opzet, die komt nu misschien een beetje uit de lucht vallen.

De beredenering was dat ik sowieso een eigen hypervisor wil zodat ik snel kleine vms kan aanmaken. Dit is mijn voornaamste reden voor dit project.

Voor twee aparte machines heb ik helaas de ruimte niet.

Mijn doel voor deze post is dan ook eerder. Is deze hypothetische set-up haalbaar met de huidige lijst hardware en functioneert iets als gpu pass-through zoals ik hoop?

Alvast dank voor het meedenken :)
Zoals gezegd werkt het niet met kernel level anticheat, de vraag is of je daar mee kunt leven.

Overigens tegenwoordig heb je prima compacte kasten dus die beperking is vast wel omheen te werken. Er bestaat ook een dual motherboard kasten.

Hostdeko webhosting: Sneller dan de concurrentie, CO2 neutraal en klantgericht.


  • Bruhhurb
  • Registratie: December 2020
  • Laatst online: 10-08 14:57
@sdk1985 bedankt voor de heads up. Ik denk dat ik daar oké mee ben. Ik ben sowieso van plan om met Linux te gamen en ik geloof dat er dan ook al een kernel anticheat block is

  • Miyazono
  • Registratie: Maart 2016
  • Laatst online: 02:17
Je kan kleinere behuizingen pakken zodat je ook met 2 systemen net zo veel ruimte in beslag neemt als een enkele in de Fractal North XL. Twee mATX systemen van 25-30L of een enkele 60L ;)

  • Bruhhurb
  • Registratie: December 2020
  • Laatst online: 10-08 14:57
sdk1985 schreef op maandag 27 juli 2026 @ 21:23:
[...]

Zoals gezegd werkt het niet met kernel level anticheat, de vraag is of je daar mee kunt leven.

Overigens tegenwoordig heb je prima compacte kasten dus die beperking is vast wel omheen te werken. Er bestaat ook een dual motherboard kasten.
Is er dan een crux met de huidige 1 PC setup die ik voor ogen heb? en zo ja; ligt deze dan bij het moederbord?

  • TTommie
  • Registratie: Juni 2004
  • Laatst online: 25-08 11:09

TTommie

Het leven is een pijpkaneel...

ik zou i.i.g. voor 9950x gaan als CPU, dat maakt ook niet meer uit op dit bedrag.

ik vraag mij af of een gemixte GPU omgeving lekker gaat werken. Ik had gekozen voor of Nvidia of AMD.

En wat wil je met zoveel VM s dan? Kunnen dit geen containers zijn. Kan je een hoop memory schelen.

En hou je beschikbare pci-Lanes in de gaten. Als je gaat knutselen met 2 GPU’s op een consumenten bord. Het kan, maar het is passen en meten. Zeker als je in de toekomst nog nvme’s wil gaan toevoegen. Dit moederbord wat je nu hebt uitgekozen kan i.i.g. geen 8x/8x doen over pci sloten. Kan je beter voor de ASUS Proart x870E gaan. Die kan dat kunstje wel.

[ Voor 14% gewijzigd door TTommie op 28-07-2026 23:36 ]

Mr. T.


  • zfxwm5z1
  • Registratie: November 2025
  • Laatst online: 13-08 09:17
*knip* offtopic. Deze algemene vraag past beter in AI algemeen

[ Voor 85% gewijzigd door br00ky op 29-07-2026 20:22 ]


Acties:
  • Beste antwoord

  • Umbrah
  • Registratie: Mei 2006
  • Laatst online: 21:21

Umbrah

The Incredible MapMan

Hoewel ik fan ben van de aanpak, denk ik dat het resultaat teleurstelling zal opleveren.
  • Consumenten cpu's hebben niet de pci-e lanes voor deze hardware en taken
  • Ze kunnen niet goed bifurcaten
  • 32gb vram voor ai is meh, zeker als er ook developer taken in de buurt zijn.
  • Hoewel ik zelf geen competitive online meuk doe is virtualisatie een dooddoener voor kernel level anticheat
Mijn proxmox bak (tevens met een truenas vm, en dus storage controller geforward in de vorm van 16 lanes aan LSI/broadcom HBA) heeft ook twee gpus, zijnde een cheapo accelerator voor jellyfin, en inderdaad een general purpose ai/gaming vm op een rtx3090 (losse gaming rig heeft nu een rx9070), maar in de praktijk is het voor kleine modellen al niet goed genoeg. Zeker met hoe de hardware gegaan is spijt dat ik niet speciaal hiervoor destijds voor een framework pc ben gegaan, want unified werkt goed. Sinds deze week wel een dgx spark er naast... Dat heeft puur door het geheugen de rtx3090 vrijgespeeld. Vllm, forse context Windows, 30b modellen en agentic ai maken 128gb zon... Must. Merk dat de bandbreedte een dingetje blijft. Zodra meer mensen door hebben dat zelf hosten kan met goede kwaliteit, en de miljoenen aan Claude tokens opdrogen/het openai codex subsidie model popt ben ik vooraan de rij om een tweedehands h200 oid (sxm naar pcie hacks incoming!) op te pikken. Die spark is eigenlijk van de werkgever (pilot/project) maar ben nu al zo overtuigd dat het ook m'n privé projecten zo kan ondersteunen... Geen hyperscale tokens voor mij meer.

Als ik die 7000 zou besteden zal puur pci-e de bottleneck blijven. Misschien puur voor de vms/nas zal ik een threadripper 3960x tweedehands kopen, want veel pci-e, redelijk goede cpu performance met zen3, en 4 kanalen ddr4 met ecc support. Dat geheel lekker out of sight remote, in een server chassis ergens. Ik heb er ook drie oude nvme drives in (ook weer 12 pci-e lanes, raid1 set voor proxmox en boot level vms, en een l2sarc voor truenas wat tevens luns biedt voor de rest van m'n vms, de l2sarc maakt m'n main hdd array van 3x8tb in raidz1 erg snel voelen), en dat maakt de losse gaming pc erg specialistisch, en vmloos

[ Voor 12% gewijzigd door Umbrah op 29-07-2026 06:55 ]


  • Bruhhurb
  • Registratie: December 2020
  • Laatst online: 10-08 14:57
@Umbrah dank voor je uitleg!

Het is als ik het goed begrijp dan een afwgeging tussen middelmaat voor 7000 of voor veel meer een serieus alternatief...

Dat is dan iets waar ik nog even serieus overna moet denken. Ik ben ook bang dat het er niet goedkoper op gaat worden, ook worden dedicated PC dan wel tastbaarder.

Genoeg om op te teren dus...
Pagina: 1