[Python 3.4.2] 3*10**-1 = 0.30000000000000001 (ipv 0.3)

[Dukdalf]

Bedankt voor het topic openen.

Heeft iemand een idee waarom dit zo is? En hoe ik de berekening wel goed kan krijgen?

Ik wil dus eigenlijk dit uitrekenen:

3 * 10^-1

Wie kan licht in mijn python tunnel geven.

[begintmeta]

Zou What Every Computer Scientist Should Know About Floating-Point Arithmetic, door David Goldberg daarover meer info bevatten?

Python heeft zo te zien ook wat documentatie online gezet.

[ Voor 64% gewijzigd door begintmeta op 30-10-2014 23:23 ]

[Caelorum]

Of de de Programming FAQ van dit forum: Programming FAQ - Getallen en talstelsels

[Dukdalf]

Zeer verhelderend, en hartstikke bedankt. Nu bedenken of dit complicaties voor het doel van mijn programma gaat opleveren.. Hmmz

OF toch maar met digital in python gaan werken.

solved!

[armageddon_2k1]

Dukdalf schreef op zaterdag 01 november 2014 @ 00:02:
OF toch maar met digital in python gaan werken.

Wat bedoel je hier precies mee?

[Caelorum]

Ik gok even dat hij decimal bedoelde in plaats van digital.

[dada]

Als je meer precisie nodig hebt kun je de decimal module gebruiken:

>>> from decimal import *
>>> b = Decimal(0)
>>> for a in range(10):
... b += Decimal('0.1')
...
>>> b
Decimal('1.0')

[Sthomkop]

Ook een leuk filmpje over dit onderwerp, voor mensen die niet van lezen houden: Tom Scott bij Computerphile op YouTube

[RobIII]

Sthomkop schreef op zaterdag 01 november 2014 @ 14:55:
Ook een leuk filmpje over dit onderwerp, voor mensen die niet van lezen houden: Tom Scott bij Computerphile op YouTube

Psst: die staat ook in

Caelorum schreef op vrijdag 31 oktober 2014 @ 18:25:
Of de de Programming FAQ van dit forum: Programming FAQ - Getallen en talstelsels

(Net als

begintmeta schreef op donderdag 30 oktober 2014 @ 23:14:
Zou What Every Computer Scientist Should Know About Floating-Point Arithmetic, door David Goldberg daarover meer info bevatten?

trouwens)

[ Voor 23% gewijzigd door RobIII op 01-11-2014 15:01 ]

[Sthomkop]

RobIII schreef op zaterdag 01 november 2014 @ 14:59:
Psst: die staat ook in

[...]

Oepsie, betrapt, haha, die had ik (nog!) niet gelezen. Zal ik meteen even doen, dank je voor het erop attenderen ;-)