[javascript] kan niet aftrekken??? - Softwareontwikkeling

woensdag 6 augustus 2003 17:20

Acties:

Topicstarter

Ik zat zojuist in javascript 2 waardes van elkaar af te trekken en er kwam maar niet uit wat ik dacht.

zie het volgende stukje code

code:

<!DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 4.0 Transitional//EN">
<HTML>
<HEAD>
<TITLE> New Document </TITLE>
</HEAD>

<script language="javascript">
var num1 = 1.2;
var num2 = 0.1;
alert(num1 - num2);
</script>

<script language="javascript">
var num3 = 1.3;
var num4 = 0.1;
alert(num3 - num4);
</script>

<BODY>
</BODY>
</HTML>

nu verwacht ik bij de 1ste alert 1.1 te krijgen en bij de 2de 1.2
Maar die 1ste geeft dus 1.099999999998 ???

de 2de alert geeft wel 1.2

Wat gaat er fout? Is dit een of andere vage bug?
verder maakt het mij niet echt uit, maar ik vond het wel geinig

[ Voor 11% gewijzigd door Gremen op 06-08-2003 17:21 ]

woensdag 6 augustus 2003 17:22

Acties:

crisp

Devver

Pixelated

hij is geinig ja, de floating point precisie laat idd nog wel eens te wensen over en dat is bekent

Intentionally left blank

woensdag 6 augustus 2003 17:25

Acties:

André

Analytics dude

Je kunt als je bijvoorbeeld 2 achter de komma wil het getal eerst met 100 vermenigvuldigen om na de berekening het getal weer te delen door 100.

woensdag 6 augustus 2003 17:25

Acties:

Bosmonster

*zucht*

Wat je eventueel kunt doen als het echt belangrijk is.. het even vermenigvuldigen met met 1000000.... (kies zelf aantal nullen

), bewerking doen en dan weer delen.

Edit: Spuit 10

[ Voor 6% gewijzigd door Bosmonster op 06-08-2003 17:26 ]

woensdag 6 augustus 2003 17:35

Acties:

Gremen

Topicstarter

ok, zo iets moet dan maar.
wel slecht dat dit fout zomaar fout gaat.

woensdag 6 augustus 2003 18:34

Acties:

Verwijderd

Als je niet kan aftrekken moet je even kijken of het lukt met wat glijmiddel.

Modbreak!
leuk zijn doe je maar in de HK!

[ Voor 35% gewijzigd door crisp op 06-08-2003 21:37 ]

woensdag 6 augustus 2003 18:38

Acties:

Verwijderd

moet je wel je broek uit doen he

Modbreak!
leuk zijn doe je maar in de HK!

[ Voor 58% gewijzigd door crisp op 06-08-2003 21:38 ]

woensdag 6 augustus 2003 18:44

Acties:

André

Analytics dude

ultrasupreme en Jorikjet doe niet zo verscrikkelijk kinderachtig.....

Als je geen nuttige dingen te melden hebt, meld dan niets.

woensdag 6 augustus 2003 20:16

Acties:

[eNeRGy]

het verschil is dat jij bij 2.00000 + 2.00000 het verschil uit je hoofd kan uitrekenen, en bij 2.149553 - 1.658442 niet ziet of er 6 cijfers achter de komma misschien 1 cijfers er naast zit.

Voor de computer zijn deze getallen echter hetzelfde.

woensdag 6 augustus 2003 21:37

Acties:

crisp

Devver

Pixelated

Slotje uit voorzorg; dit is geen HK

btw, niet alleen javascript heeft dit soort afrondingsfoutjes bij het rekenen met floating point getallen

Intentionally left blank