[JAVA]beginnersvraag: vreemde afronding aftrekken doubles ?

[ErikRo]

Hoi ik merkte gisteren iets bijzonders, we moesten een klein programma maken als lesmateriaal. Niets bijzonders en dat testen.

Getallen betroffen allen double's.

Kwam op volgende neer, method pkate getal en telde die bij aanwezige saldo:

1.00 + 100.01 - 20.00 (dus in 2 stappen, 1.00 toekennen en dan 2 x optellen) gaf 81.01, is logisch

1.00 + 100.01 - 120.00 (dus in 2 stappen, 1.00 toekennen en dan 2 x optellen) gaf 18.989999999999995 en geen 18.99 (zoals ik verwachte).

Dat vond ik erg vreemd, maar niemand daar kon me uitleggen hoe dat nu kwam. Aangezien ik erg nieuwsgierig ben, iemand hier die dat misschien kan verklaren?

[whoami]

Een double is gewoon niet zo precies. Dat komt door de interne representatie van floats.
Als je echt precisie wilt, moet je decimal gebruiken.

[Verwijderd]

Ik verwacht bij die 2e eerlijk gezegd een negatief getal...
Maar het blijft wel raar
Whoami heeft weer de simpele oplossing

[ Voor 21% gewijzigd door Verwijderd op 15-02-2006 15:11 ]

[Nick_S]

Het is helemaal niet raar, als je gaat kijken hoe een double intern wordt opgeslagen (als bits).

linkje voor informatie: [uml=http://www.coolpython.nl/tutorials/tut/node15.html]Floating-point berekeningen: Problemen en beperkingen[/uml]

[kenneth]

offtopic:
Het meervoud is doubles, zonder apostrof

[ErikRo]

Verwijderd schreef op woensdag 15 februari 2006 @ 15:11:
Ik verwacht bij die 2e eerlijk gezegd een negatief getal...
Maar het blijft wel raar
Whoami heeft weer de simpele oplossing

Ik zie nu pas wat je bedoelde die 18 is natuurlijk negatief, heb ik verkeerd gekopieerd.

[Verwijderd]

java.math.BigDecimal gebruiken

[MSalters]

Nee, BigDecimal is geen oplossing voor niet weten wat je aan het doen bent.
Gelukkig is er een standaard verhaal: What Every Computer Scientist Should Know About Floating-Point Arithmetic.

De conclusie van whoami is overigens fout. Een double is wel zo precies, wel beter dan 10^-4 Het resultaat is 18.99. Het enige probleem is dat de TS meer dan 16 cijfers probeert te printen. De precisie van een double is niet beter dan 10^-16, maar dat heeft de TS helemaal niet nodig.