[C++] Zeer inaccurate float

[Iska]

Hey allemaal,

Ik was bezig met wat berekenen totdat ik erachter kwam dat C++ hele afwijkende waarden gaf voor bepaalde getallen! -1/3 is bij mij -0.33333334326744 !!! Zowel als ik het bereken op mij CPU als op mij GPU (beiden@stock)!

Hoe kan dit en hoe kan ik dit oplossen? Ik heb namelijk wel de volledige nauwkeurigheid nodig en niet een foutmarge van 3 * 10^-6%

[MLM]

het is een standaard floating point (32bits). Je kan in plaats daarvan double precision floating point nummers gebruiken (64bit), maar "volledige" nauwkeurigheid is niet iets wat computers uit hun zelf doen

[Matis]

Daar zijn toch doubles voor uitgevonden? Maar 1/3 is nooit nauwkeurig te schrijven in een decimaal. Net als pi en sqrt(2)

edit; spuit 0x0B

[ Voor 7% gewijzigd door Matis op 12-01-2010 19:53 ]

[Guru Evi]

http://www.nongnu.org/hpalib/

Het is ook afhankelijk van je compiler, je CPU (en een hoopje andere hardware) en je variabele type - een float is precies tot ~6 cijfers na de komma, een double tot ~15.

[CoolGamer]

Je zou een Arbitrary-precision arithmetic library kunnen gebruiken. Die werken niet met een floating point en zijn veel preciezer.

[NMe]

Met andere woorden: zoekt en gij zult vinden. Je bent niet bepaald de eerste met dit probleem en je zal ongetwijfeld niet de laatste zijn.

[RobIII]

NMe schreef op dinsdag 12 januari 2010 @ 19:55:
Met andere woorden: zoekt en gij zult vinden. Je bent niet bepaald de eerste met dit probleem en je zal ongetwijfeld niet de laatste zijn.

EY!
Je vergeet de FAQ: Floats en afronding