Excel: Hoe hogere precisie (meer cijfers na de komma)

[quizzical]

Hallo,
Ik heb het volgende probleem voor mijn thesis:
Ik moet allerlei getallen zoals 0,0007073843179874473 analyseren in spreadsheetsoftware.
Het probleem is dat zowel Excel als Calc van OpenOffice niet met zoveel cijfers na de komma kunnen werken.
Er zijn opties waarmee ik kan spelen (o.a. "precisie instellen als weergegeven") om de precisie te verhogen maar die lijken niet te werken, er gebeurt namelijk het volgende:
ik heb een tekstbestand met duizenden lijnen zoals deze: 1 0,0007073843179874473 15,335405243919501 21679,029141541745 0,296875
De cijfers zijn dus gescheiden door spatie. wanneer ik deze importeer laat hij meteen de laatste paar getallen vallen.
Wanneer ik de getallen importeer als tekst behoudt hij ze wel allemaal, maar wanneer ik ze dan omzet naar een getal ben ik er weer een aantal kwijt.
Is er een manier om dit op te lossen? Ik dacht bijvoorbeeld aan het tekstbestand eerst in iets anders te importeren en de getallen te vermenigvuldigen met 10 miljard. Vervolgens reken ik dan met deze getallen. Alleen weet ik niet welk programma dit voor mekaar krijgt.

Alvast bedankt voor de hulp!
Esben

[jvo]

Ik ben bang dat je tegen het limiet van 64 bit floating points aanloopt waarmee dit soort programma's rekenen. Daar valt weinig aan te doen. Als de precisie echt zo belangrijk is zal je andere software moeten gebruiken. Iets als matlab of mathematica zal wel met hogere precisie kunnen rekenen, maar een spreadsheet programma zal over het algemeen gewoon 64 bit floating point getallen gebruiken.

[Verwijderd]

moet het persé met excel, ga dan op zoek naar zoiets als xlprecision.

tussen haakjes : deze toepassing is verpakt in een administrator-only setupbestand. met bv. 7zip kan je de invoegtoepassing (het xla-bestand) uitpakken en in de desbetreffende map plaatsen om zo te gebruiken.

[quizzical]

bedankt voor de tips,
ik had dat xlprecision al gevonden maar het lijkt me niet dat dat men prbleem oplost aangezien deze wel de berekeningen heel precies doet maar de getallen waarmee ik de berekeningen wil doen krijg ik al niet juist in excel.

Matlab en mathematica ziet er nogal ingewikkeld uit en moeilijk om te gaan leren.

Ik heb de data ingelezen dmv AMPL (taal waarin ik werk om problemen op te lossen) en de data vermenigvuldigt met 100000000000000.
Het vreemde is dat dit niet helpt:
deze 3 getallen: 0,0007073843179874473 15,335405243919501 21679,029141541745
worden dan wanneer ik het naar een tekstbestand exporteer: 70738431798,74472 1533540524391950 2167902914154174500
De 2 eerste zijn zoals je ziet fout.
In excel geimporteert wordt het: 70738431798,7447 1533540524391950 2167902914154170000 waarbij vooral het laatste getal vreemd is.
Irritant allemaal

[jvo]

esben schreef op vrijdag 20 maart 2009 @ 12:12:
Ik heb de data ingelezen dmv AMPL (taal waarin ik werk om problemen op te lossen) en de data vermenigvuldigt met 100000000000000.
Het vreemde is dat dit niet helpt:

Dat is niet zo vreemd hoor. Een floating point getal heeft zoals de naam al aangeeft een zwevende punt. De precisie wordt dus niet hoger als je de punt ergens anders zet. Blijft gewoon hetzelfde.

Matlab en mathematica zijn wel wat anders dan excel, maar zijn wel gemaakt om met die precisie te rekenen. Een excel plugin is een wat toegankelijkere oplossing, maar dat zal wellicht het import proces niet verbeteren. Standaard cellen in excel zullen niet meer dan een 64 bit floating point getal kunnen bevatten.

[Verwijderd]

esben schreef op vrijdag 20 maart 2009 @ 12:12:
bedankt voor de tips,
ik had dat xlprecision al gevonden maar het lijkt me niet dat dat men prbleem oplost aangezien deze wel de berekeningen heel precies doet maar de getallen waarmee ik de berekeningen wil doen krijg ik al niet juist in excel.

de originele getallen zet je in excel met behulp van een van de nieuwe precisiefuncties, bv.

code:

=xlpADD("15.335405243919501";0)

gaat het echt over massa's getallen kan je een importscriptje schrijven dat bovenstaand rechtstreeks vanuit het tekstbestand doet.

Ik moet allerlei getallen ... analyseren in spreadsheetsoftware.

er zijn een aantal statistische precisiefuncties beschikbaar.

[quizzical]

Bedankt,
Ik heb het product gekocht, hopelijk ontvang ik het snel.
Ik kan simpelweg alles importeren als tekst en daarmee kan hij dan blijkbaar rekenen.
Probleem is dat die gratis versie natuurlijk niet werkt al je 10.000 en berekeningen moet doen en je bij elke berekening een getal moet invullen.
€2.25 kan er nog net af