[MSSQL] Simpele functie

[BlackHawkDesign]

Tweakers,

Ik staar nu al een uur naar dit stomme stukje code, maar ik kom er maar niet uit

SQL:

declare @num float;
declare @diff float;

set @num    = 3.2
set @diff = @num - 3.0;

if(@diff > 0.2)
begin
    print @diff;
    print 'HET VERSCHIL IS GROTER DAN 0.2';
end

Maar hij doet het gewoon niet. In dit voorbeeld blijft hij gewoon uitprinten, terwijl het verschil (0,2) niet groter is dan 0,2

Wat doe ik verkeerd??

[Janoz]

Je vertrouwt teveel op het floating point datatype. Dit is redelijk bekend gedrag van floating point getallen (wiki linkje).

[TeeDee]

0.2 != 0.2 als het als float gedeclared is. Een int is in dit specifieke geval beter.

[ Voor 53% gewijzigd door TeeDee op 08-06-2009 16:53 ]

[BlackHawkDesign]

Ik was er al een klein beetje bang voor, maar ik dacht met zon klein getal 3.0 - 3.2 moet dat weinig uitmaken.

Welke ander datatype kan ik dan gebruiken? mssql schijnt geen double te kennen..

[Janoz]

Bij double zou je hetzelfde probleem hebben.
dit:

code:

public class Float {
    public static void main (String[] args) {
        System.out.println(3.2 - 3.0);
        System.out.println(3.2f - 3f);
    }
}

geeft

0.20000000000000018
0.20000005

Voor floats en doubles wordt het een ietsje pietsje groter dan 0.2 . De standaard oplossing bij het vergelijken van floats is om een epsilon te gebruiken. Meer hierover staat wel op de eerder aangehaalde wiki.

[BCC]

Vermenigvuldingen met 10 en afronden op gehele getallen.

[cowgirl]

BlackHawkDesign schreef op maandag 08 juni 2009 @ 16:53:
Welke ander datatype kan ik dan gebruiken? mssql schijnt geen double te kennen..

Decimal?

SQL:

declare @num decimal(18,3);
declare @diff decimal(18,3);

set @num    = 3.2
set @diff = @num - 3.0;

if(@diff > 0.2)
begin
    print @diff;
    print 'HET VERSCHIL IS GROTER DAN 0.2';
end

[cariolive23]

Gebruik een decimal (numeric)

[BlackHawkDesign]

Dat delen door 10 heeft perfect gewerkt.

Toch zal ik even kijken of ik decimal gewoon kan gebruiken, want dat is veel logischer.

Allen bedankt voor de hulp!!