[c++] static_cast<int> vraagje

[Postie]

als ik de volgende code heb :

code:

float f = 9.98;
int i = static_cast<int>(f*100);

dan geeft i de waarde 997. i wordt dus 1 kleiner.

Dit gebeurt bij verschillende waarden van f.
Heeft het iets met afronding te maken wellicht? Wat is
het probleem en hoe los ik het op?

[Verwijderd]

maak van de float een double. In Visual C++ geeft ie bij mij een warning als ik die float gebruik:

Warning C4305: 'initializing' : truncation from 'const double' to 'float'

[Postie]

Thnx, dat loste het op. egcs-2.91.66 gaf geen warning.

[Postie]

Double van gemaakt, leek het op te lossen, maar nu geeft ie bij f=2.30 de waarde 229. Ik snap er niks meer van. Iemand een idee?

[Verwijderd]

tja rottig... eigenlijk is dit niet een gebied waar ik veel kennis van heb. Een vriend van me gebruikt wel een afrond functie:

code:

int d2i(double value) 
{ 
     int num; 

     __asm 
     { 
        fld     value //load float value to the stack 
        fistp num  // round it off to a int 
        mov eax, num // make it return the rounded value 
     } 
} 

// ergens anders in de code
double f = 2.30;
int i = d2i(f*100);

dit lijkt beter te werken bij mij.... geen idee of het netjes of het gewenste resultaat heeft bij jou.

[Verwijderd]

Vond dit ergens:

The cout function that prints a double rounds.

static_cast<int>(some_double) truncates.

Floating point arithetic is *not* exact; in particular, some constants (such as 2.03) cannot be exactly represented in the 64 bit IEEE double precision floating point standard, which gcc uses to represent doubles.

This is due to the fact that 2.03 is a base 10 floating point value, while doubles are represented as base 2 floating point values.

So you start with an imprecise value for 2.03, and this imprecision gets larger each time you multiply by 10.

Eventually, you end up with a value that is just a tiny bit smaller (say, by 2^-50 or so) than 2030.

static_cast<int> truncates this to 2029, since that is the next int lower than 2030 minus a small epsilon.

The operator<<() that cout uses, however, rounds - and rounds it up because the fraction is >=0.5 .

[Postie]

tja rottig... eigenlijk is dit niet een gebied waar ik veel kennis van heb. Een vriend van me gebruikt wel een afrond functie:

Tis op een linux systeem, dat gaat dan vast niet werken (toch?)

[Verwijderd]

Op vrijdag 11 januari 2002 00:13 schreef Postie het volgende:

[..]

Tis op een linux systeem, dat gaat dan vast niet werken (toch?)

__asm is Microsoft specific

misschien kun je een alternatief vinden voor linux...

[Sjonny]

waarom niet normaal met rint() ?

code:

double d = 2.30;
int i = rint(d*100);

en je hebt je 230.
check met `man rint` en `man floor` enzo voor varianties.
vergeet math.h niet te includen en -lm erbij te linken.

[Orphix]

rint() is geen standaard C++. VC++ herkent het iig niet.
Bij mij voldoet het volgende

code:

#include <cmath>
double f = 2.30;
int i = static_cast<int>(ceil(f*100));

[Postie]

rint() is geen standaard C++. VC++ herkent het iig niet.
Bij mij voldoet het volgende

code:

#include <cmath>
double f = 2.30;
int i = static_cast<int>(ceil(f*100));

Bedankt. Dat lijkt het op te lossen. rint() is idd geen C++ standaard en dat moet het wel zijn. Ik zal nog wat proberen enkele doubles te testen, maar voorlopig ziet het er goed uit.

[MSalters]

Op donderdag 10 januari 2002 22:38 schreef Postie het volgende:
als ik de volgende code heb :

code:

float f = 9.98;
int i = static_cast<int>(f*100);

dan geeft i de waarde 997. i wordt dus 1 kleiner.

Dit gebeurt bij verschillende waarden van f.
Heeft het iets met afronding te maken wellicht? Wat is
het probleem en hoe los ik het op?

Het probleem is dat float(9.98) < 9.98000...
Als je inderdaad 998/1000 bedoelt, dan heb je geen
float nodig, maar een rational. Omdat die nog niet in standaard C++ zit, moet je even de boost math library downloaden van www.boost.org

boost::rational(998,100)*100 is namelijk wel 998, en heeft geen last van afrondingen e.d.

[PrinsEdje80]

Ah, nou snap ik waar dat ontzettend leuke mailtje van de c/c++ maillinglist vandaan kwam

[MSalters]

Op vrijdag 11 januari 2002 10:58 schreef PrinsEdje80 het volgende:
Ah, nou snap ik waar dat ontzettend leuke mailtje van de c/c++ maillinglist vandaan kwam

[Postie]

Ah, nou snap ik waar dat ontzettend leuke mailtje van de c/c++ maillinglist vandaan kwam

LOL