Laptop voor AI: LLM e.d.

[107mb]

Wat ga je met je laptop doen?
Na de vakantie begin ik aan een pre-master AI, om later door te stromen naar de master. Voor LLM heb ik een iets beter apparaat nodig dan wat ik nu heb. Omdat ik in huis ook beneden wil kunnen werken, maar daar geen plek heb voor een vaste PC, wil ik een laptop hebben

Wat is je budget?
mijn budget is +/- 750 euro. Daar haal ik geen nieuwe PC met dedicated GPU voor, dus ik zoek een gebruikte laptop. Het budget is hard.

Ben je van plan je laptop veel mee te nemen?
geen enkel voorkeur voor gewicht e.d. Alleen schermformaat van 15 a 16 inch heeft de voorkeur.

Heb je nog bepaalde (merk)voorkeuren
Op dit moment gaat mijn voorkeur uit naar een Lenovo P53, met minimaal 32 GB RAM, hoewel dit natuurlijk eenvoudig is uit te breiden, net zoals de SSD. De laptop dient uitgerust te zijn met een RTX5000 GPU. De processor kom ik tegen: de i7 9850H of een Xeon 2276m

Mijn vragen:
Voldoen deze machines voor mijn AI doeleinden? Ik lees dat de Xeon iets nieuwe is, en iets sneller (max 5%). Ik ben geen CPU goeroe, dus heeft iemand aanbevelingen? Zijn er andere merken waar ik naar zou kunnen kijken? Of toch een iets jongere gebruikte PC met een betere processor en een minder goede GPU, een T1000 bijvoorbeeld.

[ Voor 4% gewijzigd door 107mb op 21-07-2025 12:05 ]

[thunder7]

Ik neem aan dat je opleiding eisen stelt aan de laptop? Zoja, welke?

[107mb]

er wordt niet gesproken over een computer en eisen daaraan. Wat ik begrepen heb is dat de OU veelal werkt met cloudoplossingen zoals Google Colab of VM's.

[thunder7]

Hoe kom je dan bij die RTX 5000 of de hoeveelheid geheugen uit?
Als je LLM's lokaal moet gaan draaien, horen daar eisen bij.
Als je die via de OU in de cloud kunt benaderen, is bij wijze van spreken een chromebook als laptop voldoende.

Op deze manier is het lastig te beoordelen of je een dikke GPU nodig hebt of niet.

[107mb]

ik wil, los van school, er mee aan de slag. Dus puur uit hobby en uitzoekwerk, aanvullend op de opleiding. Eigenlijk staat de studie er buiten wat betreft eisen en wensen.

[Arjant2]

Een laptop met een RTX5000 ga je niet voor 750 euro vinden, ook niet 2e hands.
Wil je een beetje fatsoenlijk met LLM modellen aan de slag gaan is 12GB VRAM toch wel t minste.
Op 8GB kan je ook nog wel kleinere modellen draaien, dus dan kan je denken aan een 4060 bijvoorbeeld. Wellicht is daar tweede hands iets in te vinden.
Ik heb zelf op mijn laptop met 4060 een gemma-3-12b model draaien, wat niet super snel is maar wel prima werkt.

Natuurlijk kan je het ook op de CPU draaien, alleen dan duurt een simpele vraag al zolang dat het onwerkbaar is.

[ Voor 11% gewijzigd door Arjant2 op 22-07-2025 12:18 ]

[107mb]

marktplaats is het wel te vinden. Geen garantie, maar wel mogelijk https://www.marktplaats.n...gb-1tb-ssd-nvdia-rtx-5000