Personal Deep Learning Systeem

[Koffer]

Hallo allen,

Ik heb nu al heel wat uurtjes uitgezocht en ik heb besloten dat ik toch wat hulp nodig heb. Ik heb AI gestudeerd en ben nog altijd erg enthousiast met het ontwikkelen van AI apps, algorithms & agents. Nu ik wat centjes heb wil ik in een systeem investeren.


Wat wil je doen met je nieuwe systeem?
De bedoeling van het nieuwe systeem het te gebruiken om zelf deep learning networks te leren & toe te passen, met de occasional 'gamemomentje'. De bedoeling is dat het voor lange tijd zal werken, mogelijk een week of 2 achter elkaar.

Wat mag het systeem gaan kosten?
2000 tot 3000. Ik ben slechts een starter, en heb geen geld voor 4xTitanZ ofzo

Zijn er componenten of randapparatuur die je al hebt en mee wil nemen naar je nieuwe systeem?
Ik heb een goede Antec 900 case die nog altijd goed werkt. En een Samsung EVO 850 256GB & 2x1.5TB HDD. Deze hoeven natuurlijk niet mee.

Wat denk je allemaal nodig te hebben?
Ik heb hier heel veel over geraadpleegd:
http://timdettmers.com/20...-learning-hardware-guide/
http://www.dataversity.ne...o-deep-learning-hardware/

Heb je nog bepaalde (merk)voorkeuren?
Qua Mobo & GPU gaat mijn voorkeur sterk uit naar Asus en MSI. Bij CPU moet het wel een Intel haast worden.

Heb je nog bepaalde eisen/wensen?
Het hoeft niet megastil of megazuinig te zijn. Echter moet het zo snel als mogelijk netwerken kunnen leren die middelmatig groot zijn, en dan met name de bandwidth op de GPU. Ik verwacht niet dat het voor mij effectief is om een GFX Titan te kopen waar een GFX 980 Ti evenveel bandwidth heeft.

Ga je overklokken?
Nee. De CPU / GPU zal ik niet overklokken. De RAM moet mogelijk overgeklokt worden bij Skylake, alhoewel het mij nog niet duidelijk is (desondanks eindelijk gezoek hoe het werkt bij bijvoorbeeld een non-K processor) hoe je een 2666 mhz ddr4 ram stick kan optimaal benutten met een Skylake dat slechts 'up to 2133 mhz support'.

Wat verwacht je van ons?
Ik heb al een aantal keuzes (denken) kunnen maken, maar heb nog twijfels of dit de beste keuze is:

PSU: pricewatch: Super Flower Leadex Titanium 1000W of pricewatch: Seasonic Platinum Series 760 Watt (Platinum met veel beveiligingen en >= 700 watt)
GFX: pricewatch: Asus POSEIDON-GTX980TI-P-6GD5 (Kost veel maar evenveel bandwidth als titan, mogelijkheid om watercoolen)
CPU: pricewatch: Intel Core i7 6700K Boxed (Skylake, hyperthreaded)
MOB: pricewatch: Asus Republic Of Gamers Z170 MAXIMUS VIII RANGER (bijpassend MOBO)
RAM: pricewatch: Kingston HyperX Savage HX426C13SBK2/16 (2666mhz, goeie cas latency en daardoor hoge powerindex)


Ik heb geen twijfels over de PSU & RAM, maar wel over de CPU (en daardoor MOB) en (water)cooling van de GFX.


Problemen waar ik mee zit is het volgende:
- Is watercooling noodzakelijk en wel zo handig? Ik denk dat ik over een tijdje (en geld) een tweede GPU wil toevoegen.
- Aangezien ik niet wil overclocken vraag ik me af of 6700K wel zo handig is. Hoe sneller je CPU, hoe sneller de data is geprepareerd en het andere zaken snel kan afhandelen. Echter, het kost beduidend meer, en de CPU is minder belangrijk dan de GPU. Desondanks lijkt hyperthreading wel handig voor de meerdere threads, maar met 1 GPU is dat nu nog niet zo spannend.
- Ook een probleem bij de keuze voor de 6700K: kan ik bij een 6700 / 6700T wel optimaal gebruikmaken van DDR4 geheugen met Mhz boven de 2133? Bij 6700K heb ik geen twijfel, maar bij de andere modellen wel.
- Bijpassende case waarin dit gevaar zal gebeuren: als ik voor watercooling ga, dan heb ik waarschijnlijk een andere case nodig.


Ik hoor graag jullie tips!

[br00ky]

Zet nog even je build in een goed leesbare lijst met de Handleiding Pricewatch, dan weet iedereen precies over welke onderdelen je het hebt. Tevens wordt automatisch de totaalprijs berekend en kan je achteraf heel makkelijk de goedkoopste (combinatie van) winkel(s) berekenen. Win-win-win!

[Slaut]

- Watercooling: voordeel is betere overclock door lagere temperaturen. Doordat je niet gaat overclocken heb je ook zeker geen watercooling nodig.
- CPU: http://www.cpubenchmark.n...php?cmp[]=2230&cmp[]=2570 hier zijn de 2 populairste i5's van tweakers tegenover elkaar gezet. De 6600K is beter dan de 4460, maar niet zoveel beter dat het 50% meerprijs verantwoord. Ik heb niet je links gezien dat er hyperthreading in benoemt wordt, dus dan zou een i5 voor je voldoende kunnen zijn.
- RAM clock: kijk hiervoor op de intel website bij je processor, hier staat o.a. RAM specs bij.
- Case: maar er is geen watercooling nodig. Wel kun je op letten of je hardware genoeg airflow heeft, desnoods extra casefans toevoegen (achteraf ook makkelijk te doen), en mogelijk dustfilters over je lucht intakes doen.

[deguus]

Slaut schreef op maandag 16 november 2015 @ 20:57:
- CPU: http://www.cpubenchmark.n...php?cmp[]=2230&cmp[]=2570 hier zijn de 2 populairste i5's van tweakers tegenover elkaar gezet. De 6600K is beter dan de 4460, maar niet zoveel beter dat het 50% meerprijs verantwoord. Ik heb niet je links gezien dat er hyperthreading in benoemt wordt, dus dan zou een i5 voor je voldoende kunnen zijn.

maar wat je wel hebt als hij skylake neemt dan heeft hij veel futureproof heid die hij anders niet zal hebben m.2 veel pcie lanes en anderen dingen dit is wel belangrijk als hij wil dat hij even met zijn pc kan dus ik zou voor skylake gaan !!

[wout123]

Even mijn inbreng, als je een echt krachtige (professionele) computer wilt/moet bouwen, dan kan je IMO niet om X99 heen. de 5820k is op stock snelheden al sneller dan de 6700k, en is met gemak te overclocken naar 4.2GHz (Ik heb een 5820k, deze kan ik 4.5GHz laten clocken stabiel met een H100iGTX onder de 80C, Cinebench score ligt dan boven de 1300)
Je hebt blijkbaar baat bij snel geheugen, X99 geeft met quad-channel geheugen al een oplossing, bovenop het feit dat overclocken uiteraard gewoon kan.
Voor het gemak even 2 maal een 980Ti in het lijstje geplakt.

#	Product	Prijs	Subtotaal
1	Intel Core i7 5820K Boxed	€ 407,01	€ 407,01
1	Asus X99-A	€ 242,21	€ 242,21
2	MSI GTX 980 Ti GAMING 6G	€ 742,-	€ 1.484,-
1	Fractal Design Define R5 Titanium Window	€ 118,90	€ 118,90
1	Noctua NH-D15	€ 84,91	€ 84,91
1	Crucial Ballistix Sport BLS4C4G4D240FSA	€ 106,48	€ 106,48
1	Seasonic Platinum Series 860 Watt	€ 208,95	€ 208,95
1	Samsung 950 Pro 256GB	€ 183,50	€ 183,50
Bekijk collectie Importeer producten		Totaal	€ 2.835,96

Je bestaande schijven erin plakken en de NVMe drive als bootdrive gebruiken.
Eventueel extra case fans om de koeling een beetje te verbeteren.

[Koninkje]

Een voeding van meer dan 600 watt is veel te veel voor een SLI opstelling waar toch niet al te hard op overgeklokt gaat worden. Voor een enkele GTX980ti is een 450watt voeding al voldoende.

Geen idee waarom jij de >700 watt wilt.

Ik vraag me af wat voor hardware je nodig gaat hebben voor "AI apps, algorithms & agents". Is een simpele i5 al voldoende? Of is hyperthreading hier van belang?

Als je "occasional" gaat gamen, zou ik gewoon de GTX970 pakken, anders is het zonde van je geld als je geen maximaal gebruik maakt van je 980ti. (En hierbij weer de vraag, is een dikke videokaart nodig voor AI apps, algorithms & agents?)

[Koffer]

Slaut schreef op maandag 16 november 2015 @ 20:57:
- Watercooling: voordeel is betere overclock door lagere temperaturen. Doordat je niet gaat overclocken heb je ook zeker geen watercooling nodig.
- CPU: http://www.cpubenchmark.n...php?cmp[]=2230&cmp[]=2570 hier zijn de 2 populairste i5's van tweakers tegenover elkaar gezet. De 6600K is beter dan de 4460, maar niet zoveel beter dat het 50% meerprijs verantwoord. Ik heb niet je links gezien dat er hyperthreading in benoemt wordt, dus dan zou een i5 voor je voldoende kunnen zijn.
- RAM clock: kijk hiervoor op de intel website bij je processor, hier staat o.a. RAM specs bij.

- Is aircooling goed genoeg om 2 weken lang te laten draaien? Ik heb een ruime kamer, dus genoeg lucht intake, maar of de fan het zelf aan kan..?
- Als ik er nog eens over nadenk is zo'n hyperthreading enzo alleen van belang als ik 3 of 4 videokaarten neem: 2 cores per gfx.
- Als ik op intel kijk bij bv 6700K zie ik up to 2133Mhz DDR4 staan. Maar menig systeem die ik op internet zie gebruikt een hogere freq DDR4. Mijn vraag is of 6600/6700 (alle niet K's) dat kunnen benutten.

wout123 schreef op maandag 16 november 2015 @ 21:26:
Even mijn inbreng, als je een echt krachtige (professionele) computer wilt/moet bouwen, dan kan je IMO niet om X99 heen. de 5820k is op stock snelheden al sneller dan de 6700k, en is met gemak te overclocken naar 4.2GHz (Ik heb een 5820k, deze kan ik 4.5GHz laten clocken stabiel met een H100iGTX onder de 80C, Cinebench score ligt dan boven de 1300)
Je hebt blijkbaar baat bij snel geheugen, X99 geeft met quad-channel geheugen al een oplossing, bovenop het feit dat overclocken uiteraard gewoon kan.
Voor het gemak even 2 maal een 980Ti in het lijstje geplakt.

#	Product	Prijs	Subtotaal
1	Intel Core i7 5820K Boxed	€ 407,01	€ 407,01
1	Asus X99-A	€ 242,21	€ 242,21
2	MSI GTX 980 Ti GAMING 6G	€ 742,-	€ 1.484,-
1	Fractal Design Define R5 Titanium Window	€ 118,90	€ 118,90
1	Noctua NH-D15	€ 84,91	€ 84,91
1	Crucial Ballistix Sport BLS4C4G4D240FSA	€ 106,48	€ 106,48
1	Seasonic Platinum Series 860 Watt	€ 208,95	€ 208,95
1	Samsung 950 Pro 256GB	€ 183,50	€ 183,50
Bekijk collectie Importeer producten		Totaal	€ 2.835,96

Je bestaande schijven erin plakken en de NVMe drive als bootdrive gebruiken.
Eventueel extra case fans om de koeling een beetje te verbeteren.

Dit is een erg leuke opzet. Zeker om iets nader te bestuderen!

Koninkje schreef op maandag 16 november 2015 @ 21:32:
Een voeding van meer dan 600 watt is veel te veel voor een SLI opstelling waar toch niet al te hard op overgeklokt gaat worden. Voor een enkele GTX980ti is een 450watt voeding al voldoende.

Geen idee waarom jij de >700 watt wilt.

Ik vraag me af wat voor hardware je nodig gaat hebben voor "AI apps, algorithms & agents". Is een simpele i5 al voldoende? Of is hyperthreading hier van belang?

Als je "occasional" gaat gamen, zou ik gewoon de GTX970 pakken, anders is het zonde van je geld als je geen maximaal gebruik maakt van je 980ti. (En hierbij weer de vraag, is een dikke videokaart nodig voor AI apps, algorithms & agents?)

Als ik de basis opstel en futureproof enigszins wil zijn dan verwacht ik toch wel zo'n 700 meer nodig te hebben. Zeker als ik kijk wat andere systemen vereisen. De GTX 970 is zeer gevaarlijk voor deep learning, vanwege het '0.5' GB extratje dat roet in het proces kan gooien. Het is daarom het meer waard om meer te investeren en een 980Ti te nemen met meer geheugen, maar vooral veel meer bandwidth.

Voor de meeste algoritmes is er niet veel verschil tussen een i5 en een i7. Daarentegen met meerdere GFX zal voor Deep Learning een i7 wel noodzakelijk zijn.

[jadatmag]

Volgens mij weet niemand wat deep learning voor load op de cpu en gpu legt. Kan je hier iets duidelijker in zijn?

• In welke taal programmeer je?
• Welke drivers spreek je aan?
• Zegt 'floating-point double precision vs. 64-bits fixed-point' je iets?
• Programmeer je voor meerdere treads?

[Koffer]

jadatmag schreef op dinsdag 17 november 2015 @ 02:08:
Volgens mij weet niemand wat deep learning voor load op de cpu en gpu legt. Kan je hier iets duidelijker in zijn?

De load ligt vooral op de GPU en dan met name diens bandwidth, als ik eigen ervaring, collega's ervaringen en websites mag geloven. De CPU is slechts nodig voor het communiceren tussen GPU, RAM en HDD, en prepareren van de data. Echter, voor non-deep learning algoritmes komt de nadruk al snel meer (of zelfs volledig) op de CPU te liggen.

• In welke taal programmeer je?
• De bedoeling is straks dualboot windows+linux te hebben en daarop python, lua, c, c++ en meer te draaien.
• Welke drivers spreek je aan?
• Drivers heb ik niet zo zeer gezocht, behalve dat het cuda, cuNN, en de gebruikelijke deep learning capriolen (moet) ondersteunen.
• Zegt 'floating-point double precision vs. 64-bits fixed-point' je iets?
• Double precision is niet nodig in deep learning, je kunt zelfs uit de voeten met 32bit
• Programmeer je voor meerdere treads?
• Voorlopig zie ik mezelf vooral met 1 GPU in de weer te gaan, en zie ik mezelf niet zo snel meerdere treads op te zetten, alhoewel het onder de motorkap kan voorkomen in de diverse libraries die ik zal gebruiken.

[ Voor 15% gewijzigd door Koffer op 17-11-2015 13:31 ]