GPU (Stream) project keuze

[x-RaY99]

Beste DPC'ers

Zoals vast een aantal van jullie weten heb ik de beschikking over een 'aantal' GPU's.
Deze draaien sinds dag 1 het distributed.net project RC5-72. Vooral vanwege de goede, zeer compacte en makkelijk te distribueren/onderhouden cliënt.

De gpu's zijn voornamelijk Radeon HD5xxx en HD6xxx kaarten soms meerdere kaarten per pc.

Stel dat ik van project zou willen veranderen. Zijn er cliënts die net zo makkelijk te onderhouden zijn als de distributed.net cliënt? Het liefst in combinatie met een project wat iets meer 'zinvol' is dan random nummer kraken zoals RC5-72 dat doet.

De omgeving bestaat uit Windows 7 x64 besturing systemen, +/- 100 stuks. Een eigen proxy draaien is een pré.
De cliënt als service draaien zonder meldingen/pop-ups is een vereiste.

In het verleden heb ik meerdere keren iets met Boinc geprobeerd, echter vond ik toen de software nogal 'lomp' in vergelijking met de distributed.net client.

Wat zijn mogelijke kandidaten?

[Arjant2]

Toch denk ik dat Boinc wel een eenvoudige client is om te beheren.
Wellicht in combinatie met dit tooltje van Digikoz, al zou je even moeten vragen aan hem of dit goed werkt met de nieuwste boinc versie etc
http://www.digik-oz.nl/dcdcxpl.aspx

Voordeel van Boinc is (vind ik) dat je vrij eenvoudig van project wisselt zonder weer nieuwe software te hoeven installeren, ook is het eigenlijk installeren en geen omkijken meer naar.
En het aantal projecten is best aardig groot, dus zit vast wel wat zinvols voor je bij.

[ Voor 9% gewijzigd door Arjant2 op 31-08-2012 12:20 ]

[Pyrus]

Een hele tijd geleden had ik Pyrus in "Stampede; algemeen ideeënvergaartopic" een overzichtje gemaakt van de verschillende projecten die voor de GPU beschikbaar zijn onder de "officiele DPC projecten". Voor de onofficiële projecten verlaat ik mij graag op de DC-Vault mensen.

Wat ik zo snel dus zie is dat je naar Folding@Home of PrimeGrid over komt stappen.

F@H heeft een eigen client die je naar en tray icon kunt minimaliseren, maar na net even kort te testen merk ik op mijn PC dattie de boel echt rete vertraagd. Dit kan natuurlijk ook aan gebrek aan configuratie liggen, maar dat mogen de F@H natives toelichten Dit project heeft een bijzonder hoge maatschappelijke relevantie.

PG kun je zowel in BOINC draaien als in PRPNet. BOINC ben je al bekend mee begrijp ik en PRPNet is een CLI-programma dat ongeveer hetzelfde doet: werk halen, helper programma het uit laten rekenen en daarna het werk weer terug sturen.
Onder BOINC kun je meedoen aan PPS Sieve, dit programma "zeeft" getallen. I.e. het kijkt met een paar simpele berekeningen of een getal niet priem is. Als niet aangetoond wordt dat het niet priem is (let op de dubbele ontkenning, dat is de bedoeling) wordt het getal later getest in een ander subproject (PPS LLR) om definief aan te tonen of het wel of niet priem.
Onder PRPNet kun je meedoeen aan WWWW prime search. Deze test Wieferich of Wall-Sun-Sun getallen of ze priem zijn of niet. Afhankelijk van hoe je de boel configureert kan het wel nog aardig wat CPU vreten. Mijn GTX 570 heeft 1 a 2 cores van m'n i5 2500k nodig om op volle kracht te werken.
PRPNet is te beheren via een config file, maar je krijgt er dus wel een terminal venstertje bij. Dit kun je desgewenst wel verstoppen in je tray met een extra tool (zoals Window Hide Tool).
Veel mensen miepen dat PRPNet moeilijk te configureren is, maar persoonlijk vind ik dat wel meevallen eigenlijk.
PG is dus niet direct maatschappelijk relevant, maar wel fundamenteel wetenschappelijk. Vooral die WWWW meuk is echt interessant, omdat maar heel weinig priemgetallen bekend zijn van die vorm. (Wieferich: 2 stuks)

Voor zo ver ik weet kun je bij beide projecten normaliter geen proxies draaien, maar als je bij PrimeGrid aan WWWW prime search mee doet kun je gezien de gigantische hoeveelheid power die je meeneemt wel iets proberen te regelen met de projectleiding denk ik. De PRPNet server is ook zo te downloaden en het zou me niks verbazen als ze je best een aardige range toe willen wijzen die je dan later handmatig naar hen doorstuurt. Note: dit is geen belofte, maar een guestimate van mij, gezien de de kracht die jij volgens mij mee kunt nemen pak 'm beet 10 a 20 keer is wat er nu op staat in totaal.

[Arjant2]

P.s. zou wel lekker zijn zeg als je Primegrid komt versterken, die kaarten zouden het PG team echt een giga boost geven.
Maar op elk van de boinc projecten zou je meer dan welkom zijn, bijvoorbeeld POEM lijkt me niet verkeerd.

[ Voor 30% gewijzigd door Arjant2 op 31-08-2012 14:20 ]

[VictordeHolland]

Ik blijf mij altijd verbazen over de power die jij in huis hebt .

Projecten

Om te beginnen is een lijstje is meestal wel handig:

BOINC projecten met ATI/AMD GPU ondersteuning:
- Collatz Conjecture
- DistrRTgen
- Milkyway@home
- POEM@home
- PrimeGrid (PPS sieve subproject)

niet-BOINC GPU projecten met ATI/AMD ondersteuning:

- Folding@home
- GIMPS (Trial Factoring)
- Bitmining (Bitcoins)
- PRPnet (WWWW subproject)

Een aantal projecten zijn al uit het lijstje te schrappen:
- Folding@home is altijd vrij CUDA gericht geweest en zou zonde van het potentiaal van die kaarten zijn.
- GIMPS vereist veel handmatig werk en zou ik niet aanraden met meer dan 5 PCs.
- Bitcoins minen is in mijn ogen een nutteloze bezigheid, je wordt er niet rijk van (energiekosten zijn een veelvoud van wat het opbrengt) en als het om de fun gaat, kun je beter RC5-72 blijven doen.
- PrimeGrids PPS sieve draait een factor 2 of 3 sneller op NVidia en is dus eigenlijk niet zo interessant.

Interessante BOINC projecten

Even kort wat info over de projecten die overblijven (info grotendeels uit OP van DC-Vault en eigen ervaring)

Collatz Conjecture (Wiskundig, DC-Vault)
GPU load: Maxed (99%), CPU load: <1%
Wetenschappelijke/Maatschappelijke relevantie: gemiddeld

Collatz Conjecture is ook bekend onder de naam 3x+1 of HOTPO (Half Or Triple Plus One). De conjecture (wiskudig onbevestigd vermoeden) is dat alle getallen uiteindelijk in het getal één resulteren door telkens een simpel trucje te doen. Bij een 'even' getal halveren bij 'oneven' vermenigvuldigen met 3 en er dan één bij op te tellen. Een voorbeeld, beginnend bij het getal 13 --> oneven --> (13*3)+1=40
40 --> even --> 40/2=20
20 --> even --> 20/2=10
10 --> even --> 10/2=5
5 --> oneven --> (5*3)+1=16
16/2=8 --> 8/2=4 --> 4/2=2 --> 2/2=1
Collatz doet precies hetzelfde, maar dan met gigantisch grote getallen.

DistrRTgen (Cryptologie)
GPU load: Maxed (99%), CPU load: ??%
Wetenschappelijke/Maatschappelijke relevantie: laag
Lijkt in zeker zin op RC5-72. Het project maakt gigantische rainbow tables om MD5, NTLM, SHA1 hashes mee te kraken. Die rainbow tables zijn vervolgens gratis te downloaden.

Milkyway@home (Natuurkundig, DC-Vault)
GPU load: Maxed (99%), CPU load: <1%
Wetenschappelijke/Maatschappelijke relevantie: hoog!
Project dat onderzoek doet in het modelleren en determineren van de evolutie van ons melkwegstelsel. Één van mijn persoonlijke favorieten .http://milkyway.cs.rpi.edu/milkyway/

POEM@home (Biologisch, DC-Vault)
GPU load: (50%), CPU load: 1 CPU core!
Wetenschappelijke/Maatschappelijke relevantie: hoog!

POEM@home bestudeert de signaalverwerkingsmechanisme wanneer eiwitten interactie met elkaar hebben en de relatie van slecht/niet-functionele eiwitten met ziekten.

Eventueel mogelijk om meerdere taken tegelijk op één GPU te doen, maar dan zijn er ook meer CPU resources nodig.

BOINC

Wat betreft BOINC ben ik het voor een deel met je eens. Ik heb ook ervaring met RC5-72 en die client is gewoon instellen en daarna hoef je er eigenlijk nooit meer iets aan te doen. Bij BOINC is het bijvoorbeeld nodig om eens in het half jaar te upgraden. BOINC maakt een map in programData aan die in de loop van de tijd toch aardig volloopt. Ik krijg dagelijks wel meldingen in het berichtenscherm van BOINC, maar als BOINC verkleint is naar de taakbalk heb je daar geen last van. De taskscheduler van BOINC wil nog wel eens falen, al is dat meestal doordat de user bepaalde wensen heeft. Maar verder is het een mooi programma, projecten toevoegen is een eitje, je kunt er meerdere projecten naast elkaar draaien. Nog een voordeel als je een paar projecten naast elkaar draait is dat er niets aan de hand is, als er één project tijdelijk geen werk heeft of onderhoud heeft aan de server.

Edit:
Overigens kun je op de projectpagina's bij <my account> <projectpreferenties> instellen/aanvinken of je voor dat project werk wilt ontvangen voor:
- CPU
- ATI/AMD GPU
- NVidia GPU

[ Voor 2% gewijzigd door VictordeHolland op 31-08-2012 14:57 . Reden: Project Voorkeuren ]

[x-RaY99]

Wat een hoop informatie! Dank!

Ben zojuist even met Primegrid aan het stoeien gegaan.
Voor zover ik kan uitzoeken kan ik enkel de Boinc variant draaien (Sieven), het WWWW via PRPnet ondersteunt enkel CUDA.

Van het lijstje van Victor worden eigenlijk alleen Primegrid en F@H dagelijkse stats gepost hier op GoT, en ja dat is ook een pré

Het is wel jammer zoals ook door Victor aangehaald dat Primegrid een behoorlijk stuk langzamer draait dan op CUDA kaarten. En echt goed voor de snelheid van je systeem is het ook niet

[Pyrus]

x-RaY99 schreef op vrijdag 31 augustus 2012 @ 15:19:
Wat een hoop informatie! Dank!

Ben zojuist even met Primegrid aan het stoeien gegaan.
Voor zover ik kan uitzoeken kan ik enkel de Boinc variant draaien (Sieven), het WWWW via PRPnet ondersteunt enkel CUDA.

Van het lijstje van Victor worden eigenlijk alleen Primegrid en F@H dagelijkse stats gepost hier op GoT, en ja dat is ook een pré

Het is wel jammer zoals ook door Victor aangehaald dat Primegrid een behoorlijk stuk langzamer draait dan op CUDA kaarten. En echt goed voor de snelheid van je systeem is het ook niet

Nee, WWWW ondersteunt zeker weten ook Ati. Het is namelijk gemaakt in openCL.

Edit:
Aanname: in je (master_)prpclient.ini staat nog ergens de volgende regel:

code:

geneferexe=./genefercuda

Die kan best wel eens roet in het eten gooien. Dat moet je even weg commenten (// ervoor) en iets verderop moet je deze regel:

code:

//wwwwexe=./wwwwcl

veranderen in:

code:

wwwwexe=wwwwcl.exe

[ Voor 18% gewijzigd door Pyrus op 31-08-2012 15:33 ]

[x-RaY99]

Dan gaan we nog even verder stoeien om de PRPclient aan de praat te krijgen. Zo te zien moet er ook een C++ Redistributable package geïnstralleerd worden. Voorlopig krijg ik enkel kort een command schermpje te zien zonder dat er iets draait.

[Cow_tipping]

Haha, bij ons op het werk zouden we dit vrijdagmiddag experimentjes noemen.

Mocht je Boinc geinstalleerd krijgen op je machines dan zou je in oktober nog mee kunnen doen aan de GPU stampede. (als deze doorgaat) Het hoogst scorende kandidaatproject daarbij is momenteel Poem@Home.
Mocht jij Poem gaan draaien houden we voor jou wel een week-DPCH in de lucht.

[x-RaY99]

Goed, hij doet nu 'iets'. (overal de ./ weg gehaald en .exe erachter gezet)

Al gebruikt hij de GPU nog niet voor zover ik kan zien.

[2012-08-31 16:20:07 W(] PPSElow: 8181*2^408493+1 is not prime. Residue 1378C8A
5BA026F21
Starting Proth prime test of 4147*2^408494+1
Using all-complex AVX FFT length 32K, Pass1=128, Pass2=256, a = 3
4147*2^408494+1, bit: 190000 / 408506 [46.51%]. Time per bit: 0.141 ms.

[Pyrus]

Err, nee dat klopt. Want je moet ook nog aangeven aan welk project je deel wilt nemen.

Nu staat er ergens in je .ini dit:

code:

server=PPSElow:100:5:prpnet.mine.nu:12000

Dat moet je weer wegcommenten en dan een (of beide) van deze twee uncommenten:

code:

//server=WIEFERICH:0:1:prpnet.mine.nu:13000
//server=WALLSUNSUN:0:1:prpnet.mine.nu:13001

Hierbij is de syntax Naam:Percentage van het totale werk:hoeveel units in 1x fetchen:url:poort.
Van alle actieve (niet weggecommente) servers moet het totaal percentage persé 100% zijn, anders gaat de client op z'n snuit. Dus je kunt kiezen om Wieferich (WFS) óf WallSunSun (WSS) te doen of beiden door de percentages in te vullen zoals je wilt. Bijvoorbeeld zo:

code:

server=WIEFERICH:50:25:prpnet.mine.nu:13000
server=WALLSUNSUN:50:25:prpnet.mine.nu:13001

Geeft je de helft van de tijd WFS en de andere helft WSS units en haaltie van beide telkens 25 units per keer op.

Wat je ook kunt doen is één van de twee op 100% zetten en de ander op 0%. Dan haaltie altijd werk op van die die op 100 staat, maar mochtie daar niks kunnen krijgen (want er is geen verbinding, het werk is op of wat dan ook) dan haaltie één unit van de server die op 0% staat.

Edit En nu ik het zelf weer even loop te testen kom ik er achter dat ze blijkbaar nog niet de werkende prpclient in de package gestopt hebben Ik zoek ff wel werkende...

Edit 2: Gevonden! uit deze rar file kun je de prpclient.exe nemen, die werkt wel fatsoenlijk met WWWW.

[ Voor 11% gewijzigd door Pyrus op 31-08-2012 17:54 ]

[Stef42]

Van de WWWW client heb je versie 2.1.9 nodig. Neem je een oudere versie krijg je vaak crashes.

[Arjant2]

het lekkere is ook dat prpnet credit ook wordt omgezet naar boinc credit toch voor primegrid?
Dus ook voor ons PG team is dat erg lekker!

[Pyrus]

Ja inderdaad, die punten worden omgezet. Bij alles behalve () WWWW is de verhouding prpnet:pg 20:1. Wat het bij wwww is weet ik niet. Dit gebeurt overigens niet automagisch, maar soort van handmatig. 1x per 1 tot 4 weken (als Michael Goetz tijd heeft) verrekent die de credits en worden ze bijgeschreven met ongeveer dezelfde snelheid als je RAC op boinc. Dus je krijgt ook niet alles op 1 dag als je heel veel hebt.

[Cow_tipping]

Is het gelukt met WWWW?
Ik neem aan dat de PPS-sieve punten alleen een testje waren.

[Pyrus]

Er zijn op het moment wat probleempjes met *.mine.nu. Iemand was daar vergeten het domein te verlengen waardoor ze het kwijt geraakt waren, maar als het goed is is dat ergens binnen 48h weer verholpen.

[FreezeXJ]

Kleine aanvulling voor Milkyway: project vereist double precision support van je GPU, wat betekent dat vooral high-end kaarten geschikt zijn. Lijstje uit m'n hoofd:

AMD :
- 4770 (hoewel traagjes), 48X0 (1/5 van SP power)
- 58X0, 5970 (1/5 van SP power)
- 69X0 (1/4 van SP power)
- 79X0 (1/4), en mindere mate 78X0 en 77X0 (1/16e van SP power)

NVidia:
- 480,470 (1/4) , mindere mate 460 (1/12 van SP power)
- 590, 580, 570 (1/8) en 560 (1/12e van SP power)
- 680, 670, 660 beperkt (1/24e van SP power)

De verhouding met Single Precision power geeft ongeveer aan hoe ie presteert ten opzichte van wat de kaarten in games etc doen. Gegevens vooral gejat van Anandtech en een beetje van wiki

[Theadalus]

Paar puntjes betreffende BOINC:
1. Wanneer je een "custom" installatie uitvoert, kun je data-directorie aanpassen (ik gebruik altijd {BOINC install-dir}\Data, zodat alles mooi bijelkaar staat)
2. Tijdens BOINC-installatie worden er een paar BOINC-users en usergroups aangemaakt, ik verwijder dezen altijd en draai BOINC onder een reeds bestaande user (dit hangt er vanaf in hoeverre je dit wilt beveiligen)
3. Met de BOINC-Manager kun je handige project-beheer uitvoeren op een remote machine, de toegang tot de remote machine kun je op IP-basis beveiligen.

Vergeleken bij bv. een DPAD/SoB/of DNET-client, blijft BOINC een "log" systeem, maar het toevoegen van/overstappen naar een ander project is wel lekker makkelijk; je hoeft geen nieuwe software te installeren.

[x-RaY99]

De WWWW client draait nu op 1 GPU, 2 stuks zal zo simpel zijn als een tweede mapje aanmaken.
Performance is nu wel om te huilen, met maar 1 GPU belast is zelfs iets typen hier op GoT ongelofelijk laggie.

Sieve started: 48657000000000000 <= p < 48657100000000000
p=48657067265312123, 23.38M p/sec, 1.15 CPU cores, 67.3% done. ETA 03 Sep 11:22
Sieve complete: 48657000000000001 <= p < 48657100000000000 2602589079 primes tested
[2012-09-03 11:22:59 W(] Total Time: 0:01:58 Total Work Units: 1 Special Results Found: 0

[edit]
2 GPU's laten gebruiken lukt niet (met de gpuaffinity= setting). Ene directory op 1 andere op 2. Beide op -1 werkt eveneens niet.

[ Voor 11% gewijzigd door x-RaY99 op 03-09-2012 11:36 ]

[Pyrus]

De performance kun je tweaken x-RaY99.

Als het goed is staat er in die map ook een bestandje wwww.ini met ongeveer deze inhoud:

code:

// The settings in this file are used to set various values that cannot be set via command line
// switches.  Except where noted, the command line switches will override values specified here.

// platform and device specify the platform and device to run on
//platform=0
//device=0

// blocks is a multiplier used to set workgroup size
//blocks=1000

// threads is the number of concurrent threads to execute
//threads=2

// minprime and maxprime set the range to be searched
//minprime=
//maxprime=

// These settings will override the default settings for blocks and threads and they will
// also override the command line switches
wallsunsun_threads=1
wallsunsun_blocks=2000
wieferich_threads=4
wieferich_blocks=10000

Dit zijn de settings die ik gebruik op het moment en waarmee ik tegelijkertijd vloeiend video kan kijken op mijn GTX 570. Deze settings gebruiken iets meer dan 3 van mijn 4 cores, fyi.

Daarbij is wieferich overigens ook minder dramatisch voor je performance.

[x-RaY99]

Standaard stond hij op 1 thread en 2000 blocks (voor beide projecten).
Ook met jou settings is het horten en stoten met applicaties minimaliseren/maximaliseren, tekst typen etc. Dit geld voor zowel Wieferich als Wallsunsun.

En dan draait het nu nog maar op 1 van de 2 kaarten.
CPU gebruik komt nooit boven de 20% (i7-3960X).

Qua distribueren lijkt het wel de makkelijkste client, punten toegekend krijgen 1x per 1-4 weken is dan wel weer jammer

[Pyrus]

Hmm ja, nouja ik heb zelf geen ATi (sorry, AMD) videokaart dus over wat voor jou goede waarden zijn kan ik je verder niet adviseren anders dan "Speel er een beetje mee". Die waardes worden opnieuw ingelezen bij elke wu die gestart wordt, dus je kunt zonder je client steeds te stoppen/starten elke paar minuten nieuwe settings testen.

[VictordeHolland]

@x-RaY99
Heb je je al aangemeld voor een GoT videorapportage voor leden met een bijzondere verzameling/hobby? Wat jij daar allemaal hebt staan is echt bizar .

[x-RaY99]

Het spelen met de waardes brengt inderdaad verbetering in de schermopbouw. Maar nog steeds slechts 1 GPU in gebruik.
En logischerwijs moet er dan voor iedere CPU/GPU combinatie een ideale setting gevonden worden. (helaas heb ik niet allemaal dezelfde configuraties staan)

Ondanks dat het PPS sieven niet de beste prestaties heeft op mijn kaarten lijkt het vooralsnog de makkelijkste weg te zijn. Ook milkyway/poem zal ik eens proberen.

@Victor, nee nog niet, maar het staat gelukkig ook niet bij mij thuis

[VictordeHolland]

BOINC werkt overigens niet geweldig i.c.m. windows remote desktop, misschien wel handig om te weten . Heb ergens wel eens gelezen dat het GPU werk stopt/errors geeft op het moment dat er verbinding wordt gemaakt met de PC. Weet niet of dit nog steeds het geval is, maar Teamviewer vertoont dit mankement in ieder geval niet.

[Qazwaplol]

[knip]

[ Voor 131% gewijzigd door Qazwaplol op 03-09-2012 20:41 ]

[VictordeHolland]

FreezeXJ schreef op zondag 02 september 2012 @ 21:34:
NVidia:
- 480,470 (1/4)

GTX480 en GTX470 doen ook beide Double Precision (DP of FP64) op 1/8 van Single Precision (SP of FP32)(net als de GTX580, 570).

Nog wat achtergrond informatie:
2 CUDA cores in de Fermi architectuur werken samen om een (64 bits) DP getal te berekenen (= 1/2 van SP performance) en daarnaast heeft NVIDIA ervoor gekozen om de consumentenkaarten in de drivers/firmware te limiteren (met een factor 1/4) om hun Tesla kaarten interessant te houden voor de 'professionals' . Helaas werkt een BIOS van een Tesla niet op een Geforce kaart (ondanks dat het exact dezelfde kaart is).

Bij de 6xx serie kan maar één van de 24 clusters FP64 doen, voornamelijk om transistors te besparen (maar dan wel op dezelfde snelheid als SP). Games gebruiken vrijwel alleen SP, soms een klein beetje DP voor physics, maar dat kan ook de CPU doen.

Bij AMD is DP anders geïmplementeerd:
Op de 48xx, 58xx en 5970 zitten de SIMD cores per 5 geclusterd. Waarvan 4 enkel SP kunnen doen. De 5e kan SP doen òf DP op volle snelheid.
Op de 69xx is het weer anders, daar zitten de SIMD cores per 4 geclusterd, die 4 SP getallen tegelijkertijd kunnen berekenen, of met z'n 4e samen één DP getal.
Grote kans dat AMD hetzelfde truukje heeft uitgehaald als NVIDIA bij de 78xx en 77x serie (en in mindere mate de 79xx) om hun Firestream kaarten te beschermen, maar ik kan helaas nergens de FP64 snelheden van die kaarten vinden en kan dus niet bevestigen dat 2 GCN cores samen één FP64 getal kunnen doen

[FreezeXJ]

Op het risico af de boel te derailen: mijn info kwam van Anandtech in dezen, en idd, ook de 480s lijken 1/8 te doen, gek genoeg. Ik dacht zelf dat ze sneller waren, maar goed. Dit overzichtje vertelt me dat moderne AMDs 1/4 doen, wat ik redelijk vlotjes vind. Als ik dit mag geloven zijn de firepros niet sneller, maar hebben ze wel dubbel zoveel geheugen, en ECC.
Ook de nieuwe Kepler-based Quadros doen overigens 1/24 dus zijn beroerd voor GPGPU, tenzij. Ouwetjes deden 1/2 as expected (zie hier)

[x-RaY99]

Het tooltje van Digikoz zal ik ook eens gaan proberen. Nu hopen dat deze overweg kan met de nieuwste Boinc client.