Advies pc voor AI, oa Stable Diffusion

[simon1980]

Mijn vraag
Is een pc van rond de € 1.000, max € 12.00 voldoende voor AI, stable diffusion, Large Language models en dicteren met Whisper AI spraakherkenning?

Relevante software en hardware die ik gebruik

Ik heb nu spijt van de bezuiniging op de grafische kaart die ik in 2020 kocht, AMD Radeon xt 550 met 2gb. Rest van de pc die ik nu heb is een AMD Ryzen 5 2600 met 32 GB geheugen. Upgraden met nieuwe videokaart is voor mij motorisch lastig en ik verwacht dat de rest dan een bottleneck geeft. Ben nog steeds geen gamer, maar bovengenoemde AI tools zijn handig. Ben ook fervent Linux gebruiker.

Wat ik al gevonden of geprobeerd heb

Heb al verschillende fora bekeken en stable diffussion draait volgens veel mensen wel op 8 GB videoram, maar vaak wordt ook 12 GB genoemd. Op de processor kan ik misschien bezuinigen door te kiezen voor AMD of Core I5 ipv Core I7. Videokaart zeker Nvidia denk ik, Intel heeft Open Source drivers, maar Stable Diffusion leunt nogal op intel volgens mij. De LLM´s en het dicteren ga ik niet tegelijk met Stable Diffusion gebruiken.

Heb ook al gekeken naar Cloud GPU's en cloud VPS met GPU, maar die prijsmodellen zijn mij te vaag, dus tenzij iemand iets weet waar ik max € 15 per maand aan kwijt ben om leuk te kunnen spelen met AI dan kan die PC nog even wachten.

[99ruud99]

je wilt dus de pc gebruiken ipv server parken?
ik denk dat je niet ontkomt aan OF een grotere investering OF inderdaad compute power huren...
4090 kost iets van 2 a 3 euro per uur om te huren.
Hoeveel uur per dag wil je spelen met AI?

[martyw]

Als je iets wilt voor Stable Diffusion heb je een NVidia GPU nodig, en des te meer VRAM des te hoger de resolutie kan worden. Ook Whisper AI wordt blij van een GPU, zij reppen over 16GB VRAM.
Dan zou je kunnen beginnen met een ASUS Dual GeForce RTX 4060 Ti OC Edition 16GB GDDR6, maar beter is het wat meer uit te geven zoals met een ASUS ProArt GeForce RTX 4080 SUPER 16GB GDDR6X OC Edition, maar daar komt hoogstwaarschijnlijk ook de noodzaak van een betere voeding bij, zeg een 750 Watt/ATX 3.0 gespecificeerd exemplaar zoals de Cooler Master V750 Gold i Multi

[Woezik]

Ik kom ook niet in de buurt van het budget wat je in gedachten hebt.

#	Category	Product	Prijs	Subtotaal
1	Processors	Intel Core i5-13600KF Boxed	€ 229,99	€ 229,99
1	Moederborden	MSI B760 GAMING PLUS WIFI	€ 152,77	€ 152,77
1	Videokaarten	PNY GeForce RTX 4070 Ti SUPER 16GB XLR8 Gaming VERTO EPIC-X RGB Overclocked Triple Fan	€ 882,95	€ 882,95
1	Behuizingen	Chieftec APEX AIR	€ 78,95	€ 78,95
1	Processorkoeling	Scythe Mugen 6	€ 47,85	€ 47,85
1	Geheugen intern	G.Skill Ripjaws S5 F5-5200J4040A24GX2-RS5W	€ 117,36	€ 117,36
1	Voedingen	DeepCool PX850G	€ 99,90	€ 99,90
1	SSD's	Kingston Fury Renegade SSD (heat spreader) 2TB	€ 133,99	€ 133,99
Bekijk collectie Importeer producten			Totaal	€ 1.743,76

Een RTX4070Ti Super is dezelfde gpu met 16Gb Vram als de RTX4080, maar iets minder rekenkernen.
Voor een zwaardere RTX videokaart heb je een ATX3.0 voeding nodig met 12VHPWR connector.
De 13600KF is iets sneller dan een 12700KF, maar nauwelijks duurder.
48Gb DDR5 Ram is maar weinig duurder dan 32Gb Ram en maakt je PC toekomstbestendiger.
Eenvoudige behuizing met 3x 14cm pwm fans en front USB Type-C.
Goed leverbare cpu-koeler.
Snelle PCIe4.0 SSD met cache.

[mootjee]

Ik zou niet voor een Intel 13e of 14e gen CPU gaan door hun onstabiliteit problemen!

[martyw]

mootjee schreef op vrijdag 19 juli 2024 @ 19:10:
Ik zou niet voor een Intel 13e of 14e gen CPU gaan door hun onstabiliteit problemen!

Je bedoelt de problemen die Level1Techs en Gamers Nexus noemen?

Dat gaat vooral over de i9's, en in mindere mate over de i7's, niet zozeer over de i5's.

[Woezik]

martyw schreef op vrijdag 19 juli 2024 @ 22:34:
[...]

Je bedoelt de problemen die Level1Techs en Gamers Nexus noemen?
[YouTube: Intel's CPUs Are Failing, ft. Wendell of Level1 Techs]
Dat gaat vooral over de i9's, en in mindere mate over de i7's, niet zozeer over de i5's.

En dan ook nog over serverparken die server moederbords gebruiken met een W680 chipset.

[Vishari Beduk]

Ik begrijp niet waarom je spijt zou moeten hebben van jouw Radeon xt 550; je hebt er toch 4 jaar gebruik van gemaakt.
Wat betreft Stable Diffusion; dat laat de GPU 100% stampen, terwijl je CPU het dan redelijk rustig heeft. Volgens mij kan je met een Ryzen 5 2600 prima aan de slag.
Persoonlijk zou ik niet voor de 4080 gaan omdat dit een energie slurper is die een dikke voeding nodig heeft.De 4060 (dan wel met 16GB ipv 8GB) werkt trager maar kan met een normale voeidng werken. Misschien zelffs al met je huidige.

[Jazzy]

Als het op budget moet dan kom je ook al een heel eind met een gebruikte 3060ti (8 GB) of een ander model uit de 30x0-serie. Met een honderdje of drie kom je al een heel eind en dat stelt ook niet zo enorm veel eisen aan de rest van de computer.

[mootjee]

martyw schreef op vrijdag 19 juli 2024 @ 22:34:
[...]

Je bedoelt de problemen die Level1Techs en Gamers Nexus noemen?
[YouTube: Intel's CPUs Are Failing, ft. Wendell of Level1 Techs]
Dat gaat vooral over de i9's, en in mindere mate over de i7's, niet zozeer over de i5's.

GamersNexus heeft inmiddels een nieuwe video waarbij hij Intel 13 en 14 gen CPUs niet meer adviseert!

https://www.youtube.com/watch?v=gTeubeCIwRw

[Vishari Beduk]

Ik heb het eens bekeken op mijn Ryzen 5 3700 met RTX 4070 combi;
tijdens generen staat GPU op 100% een CPU rond de 8%
en tijdens upscalen GPU 100% en CPU 60%
Dus nogmaals over je CPU zou ik mij weinig zorgen maken, wel zou ik minimaal 12 GB VRM nemen

[simon1980]

Dank voor alle tips, even sparen dus. Tot die tijd wat spelen met de cloud GPU servers Lightning AI, 3 werkdagen wachtttjd na aanmelding ,en Salt AI. Salt AI is tot nu toe ombeperkt volledig gratis met 24 GB Nvidia T4, maar ingewikkeld met ConfyUI. Lightning AI is het wachten waard, 20 uur per maand T4 GPU en Linux omgeving waar meerdere front-ends voor Stable Diffusion te installeren zijn.

Ga denk ik sparen voor minimaal pc met Nvidia 360 of 460 met 12 GB. Qua CPU misschien weer AMD. Bevalt goed en goedkoper dan intel.

[Woezik]

Met 12Gb komt ook een RTX4070 Super in beeld:

#	Category	Product	Prijs	Subtotaal
1	Processors	AMD Ryzen 5 7500F Tray	€ 150,99	€ 150,99
1	Moederborden	ASRock B650M-HDV/M.2	€ 125,98	€ 125,98
1	Videokaarten	Inno3D GeForce RTX 4070 SUPER TWIN X2	€ 594,90	€ 594,90
1	Behuizingen	Sharkoon M30 Black	€ 48,93	€ 48,93
1	Processorkoeling	Scythe Kotetsu Mark II Rev.B	€ 28,35	€ 28,35
1	Geheugen intern	Kingston Fury Beast KF556C36BBEK2-32	€ 102,14	€ 102,14
1	Voedingen	Cooler Master GX II Gold 750	€ 89,-	€ 89,-
1	SSD's	WD Blue SN580 1TB	€ 64,77	€ 64,77
Bekijk collectie Importeer producten			Totaal	€ 1.205,06

zie voor de prestatieverschillen: https://www.tomshardware....able-diffusion-benchmarks PS: Een RTX4070 Super is in de grafiek bijna vergelijkbaar met een RTX4070TI (zonder Super).