[JS] Bizarre Floating point errors - Softwareontwikkeling

maandag 17 juni 2002 13:01

Acties:

Verwijderd

Topicstarter

Ehhh...ik wist wel dat JavaScript loosely typed was...maar dan wil ik toch eigenlijk wel dat 'ie redelijk nauwkeurig met floating points om gaat...niet dus

code:

<html>
<head>
    <title>JavaScript floating point error</title>
</head>
<script type="text/javascript">
<!--

var the_float = 0;  // Start bij 0
//--------------------------------------------------
function updateFloat() {
//--------------------------------------------------
    if(the_float >= 1) alert(the_float + ' != 1');
    else {
        document.write(the_float + '<br>');
        the_float += 0.1;   // Tel er 0.1 bij op
        updateFloat();
    }   
}
updateFloat();

//-->
</script>
<body>


</body>
</html>

Ik daag jullie uit om deze code te draaien. Als er iemand van jullie een fatsoenlijk lijstje uit krijgt zou ik graag willen weten met welke browser/OS. Het is mij nog niet gelukt

/me vind JavaScript plotseling iets te loosely typed

maandag 17 juni 2002 13:06

Acties:

Limhes

Dit komt toch voort uit de binaire representaties van de floats die nooit precies zijn. Is bij meerdere talen een probleem als ik me niet vergis.

maandag 17 juni 2002 13:48

Acties:

Verwijderd

Denk dat het met Konqueror het beste gaat.

tot 0.7 gaat ie goed en dan krijg je:

0.7999999999999999
0.8999999999999999
0.9999999999999999

en dan de window.alert.

Bij Mozilla en IE 5.1 Mac gaat het al sneller fout:

0
0.1
0.2
0.30000000000000004
0.4
0.5
0.6
0.7
0.7999999999999999
0.8999999999999999
0.9999999999999999

maandag 17 juni 2002 13:56

Acties:

Janoz

Moderator Devschuur®

!litemod

Dit komt idd doordat floats binair worden opgeslagen.. Bedenk wel dat de afwijking slechts 0.000000000000001 is en in vergelijking met je 0.1 behoorlijk buiten de significantie valt.

Om ff aan te geven hoe klein dit getal is:

Als dit een kans was dat je in 1 jaar de hoofdprijs in een loterij zou winnen, dan zou waneer iedereen op de wereld mee zou doen, 1x in de 20.000 jaar de hoofdprijs vallen.

Ken Thompson's famous line from V6 UNIX is equaly applicable to this post:
'You are not expected to understand this'

maandag 17 juni 2002 14:01

Acties:

Willem

code:

0
0.1
0.2
0.30000000000000004
0.4
0.5
0.6
0.7
0.7999999999999999
0.8999999999999999
0.9999999999999999

En dan een alert met een waarde van 1. ?? xx

dus

_{/edit

WinXP, IE6

Is this any helpful ?}

Motor (of auto) onderhoud bijhouden

maandag 17 juni 2002 14:20

Acties:

Pelle

🚴‍♂️

Heb ik ook wel eens gehad; is te omzeilen door the_float eerst met 10 te vermenigvuldigen, er 1 bij op te tellen (0.1 * 10) en daarna weer te delen door 10.

code:

code:

<html>
<head>
    <title>JS floating point workaround</title>
</head>
<script type="text/javascript">
<!--
var the_float = 0;  // Start bij 0
//--------------------------------------------------
function updateFloat() {
//--------------------------------------------------
    if(the_float >= 1) alert(the_float + ' != 1');
    else {
        document.write(the_float + '<br>');
        the_float = (the_float * 10) + 1;
        the_float = the_float / 10; 
        updateFloat();
    }   
}
updateFloat();

//-->
</script>
<body>


</body>
</html>

output:

code:

0
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9

vrijdag 19 juli 2002 15:51

Acties:

Morrar

Mmmz, als het met bitwise te maken had zou je toch verwachten dat bitwise operators het goed deden maar:

the_float = 0; // Start bij 0
//--------------------------------------------------
function updateFloat() {
//--------------------------------------------------
//XOR met zichzelf, moet altijd 0 geven right?
if(the_float^the_float == 0)
alert("Hey the_float now is: " + the_float);
if(the_float <= 1)
{
document.write(the_float + '<br>');
the_float += 0.1; // Tel er 0.1 bij op
updateFloat();
}
}
updateFloat();

geeft nog steeds kromme resultaten...

Blijft vaag.

vrijdag 19 juli 2002 16:01

Acties:

cutter

Wannabe i7 fanboy

Vanwaar deze kick?? Ik waarschuw maar even dat jullie niet gaan reageren op berichten van een maand oud. Reageer maar op de kicker.