LLM PC onder de 1000 euro

[REDFISH]

Om je beter te kunnen helpen, vragen we je om tenminste op de onderstaande vragen antwoord te geven. Je mag de toelichting in italic wissen en daar je antwoord geven. Natuurlijk mag je ook zelf vragen of wensen toevoegen. Hoe meer informatie we hebben, hoe beter we je kunnen helpen.

Er is ook een speciaal topic over het configureren van een desktop. Het "Geschikte Onderdelen Kiezen" topic vind je hier: [Guide] Geschikte Onderdelen Kiezen

Wat wil je doen met je nieuwe systeem?
Voor werk zoeken we een pc waarop we een LLM kunnen draaien. Er moet dus minimaal 64GB geheugen in kunnen, maar 128 GB is beter. Ook moet er een grafische kaart in kunnen om het model efficienter op te draaien.

Wat mag het systeem gaan kosten?
1000 euro lijkt me wel te doen.

Zijn er componenten of randapparatuur die je al hebt en mee wil nemen naar je nieuwe systeem?
Ik heb niks, alleen muis, toetsenbord en scherm. Dus die hoeven er niet bij

Wat denk je allemaal nodig te hebben?
Grafische kaart die goed is om LLMS op te draaien, maar niet een arm/been kost. CPU beetje recent, 16 threads lijkt me prima, maar hoeft niet de hoofdprijs te zijn, volgens mij is dat ook niet belangrijk voor LLMs

Heb je nog bepaalde (merk)voorkeuren?
Geen voorkeur, liefste kaal en lelijk ipv fancy met RGB onzin en duur omdat het 'merk' is. Indien mogelijk niet al te groot zodat het makkelijk op/onder bureau kan.

Heb je nog bepaalde eisen/wensen?
Beetje stil mag wel ja, dus goede koeler. Omdat deze modellen nog niet op windows draaien gaat er waarschijnlijk linux op draaien. MacOs is niet echt los te krijgen, en veel te duur (hardware). Goede ondersteuning van de hardware in linux is dus een pre.

Ga je overklokken?
Niet overklokken, niet tweaken, gewoon assembleren en gaan.

Wat verwacht je van ons?
Ik ben al een tijdje 'eruit' mbt hardware en systemen bouwen. Ik heb dus eigenlijk geen flauw idee wat er op dit moment te krijgen is. Volgens mij is dit gebruiksdoel ook vrij uniek en heb ik nog niemand hierover gezien. Zo wel, dan excuus, graag linkje.
Hulp bij keuze CPU.
Hulp bij keuze GPU.
Hulp bij moederbord met genoeg ondersteuning van recent RAM type.

[martyw]

Als zo even wat rondneus komen we met deze informatie niet verder, zie bv. https://ai.stackexchange....y-to-run-queries-on-a-llm of https://www.linkedin.com/...-home-jermal-smith-o794e/

Het hangt dus erg af van welk model je hebt, en ook of je het op deze PC gaat trainen of alleen draaien. Dat laatste is met dit budget iets realistischer dan het eerste.

[br00ky]

Je topicstart is nu al vrij compleet, maar we verwachten hier ook al een eigen opzetje. Zie ook de volgende passage uit het DAA beleid.

3. Eigen onderzoek is nog steeds vereist (dit is en blijft GoT!) en we verwachten dat je zelf al een idee hebt opgedaan. Als je zelf al een configuratie hebt bedacht, post deze dan met behulp van de wenslijst in de pricewatch hier. Dat geeft je mede-Tweakers inzicht in waar je zelf aan hebt gedacht en hoe er binnen je budget betere of andere keuzes te maken zijn.

Het is dus verplicht eerst zelf met een voorstel te komen en dit voorstel te onderbouwen. Een simpele opsomming van eisen/wensen is niet wenselijk; je topic wordt in dat geval dan ook gesloten. Je kan in dat geval contact opnemen met de moderator die je topic gesloten heeft om te vragen of hij weer open mag, mits je natuurlijk wijzigingen hebt aangebracht zodat het geheel wel aan de eisen voldoet.

Een simpel antwoord als 'Ik heb heb er niet veel verstand van!' óf 'Ik ben veel sneller klaar als jullie het doen!' is uit den boze.

Dit lijkt flauw, maar enerzijds doen we dit om ervoor te zorgen dat je zélf inzicht krijgt in wat er mogelijk is en anderzijds om de kwaliteit van de topicstarts hier te bewaken. Anders vervalt dit subforum in een "ik wil een pc voor x euro, mkay dank je doei" niveau, en dat is iets dat niemand wil . Je eerste opzet hoeft niet top te zijn, we willen alleen graag dat je er eerst over nadenkt.

Om inspiratie op te doen kun je de verschillende topics in dit subforum en de best buy guides doorzoeken.

Met de Handleiding Pricewatch dien je vervolgens een mooi lijstje te maken (dus géén copy-paste lijsten van andere sites bijv.). Met die informatie kan vervolgens gericht advies gegeven worden om het helemaal aan jouw wensen aan te passen.

Stuur me een berichtje als je een opzetje hebt samengesteld, dan gaat je topic weer open.

Succes!