GPU of MiniPC voor LLM / videoupscaling

[Vaevictis_]

Heb nu een minipc in gebruik Core i9 11th gen, bevalt erg goed en wil niet anders meer. Alleen heb ik nu een aantal use cases om local LLM's te draaien en video upscaling te gebruiken. Hiervoor heb ik dedicated iGPU nodig. Ik heb ook nog een SFF proxmox server AMD Ryzen 5 Pro met 1x PCI x16 slot met 48Gb RAM.

Ik zit niet helemaal meer in de laatste ontwikkelingen qua GPU voor AI toepassingen dus hoop dat iemand me de juiste richting op kan helpen.

Ik zoek een?
Voorkeur voor een PCI x16 GPU of een minipc met een iGPU welke voor AI toepassingen kan worden gebruikt hoeft het allersnelste model te zijn.

Als ik een zelf kijk dan kom ik uit op een RTX 3090 Ti 24GB.

Wat is je budget?
Max. 1000 euro, maar hangt er vanaf wat er mogelijk is.

Heb je bepaalde (merk)voorkeuren?
Nee

Specificeer het systeem en de omgeving waarin je het product gaat gebruiken.?
Thuis op de werkplek gaat ook gebruikt worden als desktop met Linux Mint.

[ Voor 5% gewijzigd door Vaevictis_ op 16-11-2024 10:41 ]

[99ruud99]

Wil je nu een volledig nieuwe computer in mini formaat of wil je een videokaart die bij je pc past?

Hoe mini moet mini zijn? Want een videokaart is meestal een behoorlijk ding. Die gaat niet passen in een pc van 10x10x3 cm.

[Vaevictis_]

99ruud99 schreef op zaterdag 16 november 2024 @ 11:16:
Wil je nu een volledig nieuwe computer in mini formaat of wil je een videokaart die bij je pc past?

Hoe mini moet mini zijn? Want een videokaart is meestal een behoorlijk ding. Die gaat niet passen in een pc van 10x10x3 cm.

Liefst een videokaart die PCIx16 in een SFF past (met externe voeding). Alternatief is een nieuwe minipc is er al een goede AMD Ryzen AI chipset die hiervoor geschikt is?

Ik heb geen behoefte een een mini PC met externe GPU.

[ Voor 5% gewijzigd door Vaevictis_ op 16-11-2024 15:53 ]