Ervaringen met 'SCALE Toolkit' -> CUDA code op AMD GPU

[Mol_1248163264]

Zijn er mensen op dit forum die ervaring hebben met “SCALE” Toolkit of iets soortgelijks zodat je CUDA code op een AMD GPU kunt draaien? Scale is zo te zien alleen beschikbaar voor Linux maar bestaat er ook zoiets voor Windows?
https://docs.scale-lang.com

Is het mogelijk om deze CUDA code direct in Visual Studio te schrijven en dat deze automatisch wordt omgezet voor een AMD GPU?

Welke oplossing is het populairs/betrouwbaarst? Ik schrijf veel code in C of C++ maar ik ben nog een NOOB op GPU code gebied vandaar dus mijn vraag in dit forum.

Sinds kort ben ik met CUDA aan het experimenteren in Visual Studio met wiskundige berekenen op datasets tussen de 1 a 5 GB. Echter, mijn oude GTX 1060 6gb gaat dit jaar met pensioen en ik zit dus te twijfelen tussen een AMD 9070xt of een 5070TI. Ik speel af en toe Cities Skylines 2 dus gamen is niet echt een prioriteit.

Indien er volwaardige mogelijkheden zijn om CUDA code op een AMD GPU te draaien is het interessant om een MD 9070xt aan te schaffen maar dit hangt dus grotendeels af van de (toekomstige) mogelijkheden.
Indien dit niet zo is, zal de keuze dus een 5070Ti worden.

[ Voor 4% gewijzigd door Mol_1248163264 op 01-02-2025 13:25 ]

[npourq]

Volgens mij is precies https://github.com/ROCm/HIP hiervoor ontwikkeld. Dit zou, naar de woorden van AMD, performance moeten hebben die nabij native CUDA is, en dus ook op AMD hardware draait.

[Mol_1248163264]

npourq schreef op woensdag 12 februari 2025 @ 10:55:
Volgens mij is precies https://github.com/ROCm/HIP hiervoor ontwikkeld. Dit zou, naar de woorden van AMD, performance moeten hebben die nabij native CUDA is, en dus ook op AMD hardware draait.

Bedankt voor je reactie ik zal ernaar kijken!

[darkdeathrip]

Als je overweegt om CUDA-code op een AMD GPU te draaien, zijn er enkele opties beschikbaar:

HIP (Heterogeneous-Compute Interface for Portability)

• AMD's officiële alternatief voor CUDA.
• Kan veel CUDA-code omzetten naar een platform-onafhankelijke vorm.
• Werkt op zowel Linux als Windows, met betere ondersteuning op Linux.
• AMD biedt de tool hipify om bestaande CUDA-code automatisch te converteren.

ROCm (Radeon Open Compute)

• Werkt met PyTorch en TensorFlow, vooral goed op Linux.
• Ondersteunt AI/ML-workloads, maar heeft beperkingen op Windows.

ZLUDA

• Laat sommige CUDA-applicaties draaien op AMD GPU's zonder codewijziging.
• Alleen voor Linux en niet altijd stabiel.
• GPU-keuze: RX 9070 XT of RTX 5070 Ti?

Kies een RX 9070 XT als:

• Je PyTorch gebruikt en op Linux werkt.
• Je meer VRAM nodig hebt voor grotere datasets (16 GB bij de RX 9070 XT).
• Je HIP/ROCm kunt gebruiken in plaats van CUDA.

Kies een RTX 5070 Ti als:

• Je afhankelijk bent van CUDA-specifieke software die niet makkelijk te porten is.
• Je op Windows werkt, aangezien ROCm daar nog niet stabiel draait.
• Je de beste out-of-the-box compatibiliteit wilt met AI-tools en GPU-versnelde applicaties.

[Mol_1248163264]

darkdeathrip schreef op donderdag 13 maart 2025 @ 11:33:
Als je overweegt om CUDA-code op een AMD GPU te draaien, zijn er enkele opties beschikbaar:

HIP (Heterogeneous-Compute Interface for Portability)

• AMD's officiële alternatief voor CUDA.
• Kan veel CUDA-code omzetten naar een platform-onafhankelijke vorm.
• Werkt op zowel Linux als Windows, met betere ondersteuning op Linux.
• AMD biedt de tool hipify om bestaande CUDA-code automatisch te converteren.

ROCm (Radeon Open Compute)

• Werkt met PyTorch en TensorFlow, vooral goed op Linux.
• Ondersteunt AI/ML-workloads, maar heeft beperkingen op Windows.

ZLUDA

• Laat sommige CUDA-applicaties draaien op AMD GPU's zonder codewijziging.
• Alleen voor Linux en niet altijd stabiel.
• GPU-keuze: RX 9070 XT of RTX 5070 Ti?

Kies een RX 9070 XT als:

• Je PyTorch gebruikt en op Linux werkt.
• Je meer VRAM nodig hebt voor grotere datasets (16 GB bij de RX 9070 XT).
• Je HIP/ROCm kunt gebruiken in plaats van CUDA.

Kies een RTX 5070 Ti als:

• Je afhankelijk bent van CUDA-specifieke software die niet makkelijk te porten is.
• Je op Windows werkt, aangezien ROCm daar nog niet stabiel draait.
• Je de beste out-of-the-box compatibiliteit wilt met AI-tools en GPU-versnelde applicaties.

Bedankt voor deze uitgebreide uitleg. Ik zie het voorlopig even aan hoe de prijzen van de 5070TI en 9070XT zich ontwikkelen en neem over een paar maanden een beslissing. Hopelijk komt er meer ondersteuning voor Windows met platformen als HIP zodat meer mensen deze toepassingen kunnen gebruiken.