[AS3] 53-bits number

[ormagon]

Goedemorgen Tweakers,

Voor mijn opleiding moet ik momenteel een verslag maken met daarin onder andere de uitleg van het verschil tussen int, uint en Number. De eerste twee gegevenstypes zijn 32-bits. Wat inhoud dat ze 4.294.967.295 getallen kunnen weergeven. Number is echter een 53-bits gegevenstype, en ik zou graag willen weten hoeveel getallen Number kan weergeven met 53-bits.

Het boek levert helaas niets op, net als mijn zoekwerk in google. Weet iemand een makkelijke manier om dit te berekenen (of nog beter, weet iemand het antwoord).

m.v.g.
Ormagon

[CyBeR]

2^(53-1) voor signed, 2^53 unsigned.

53 is wel een raar getal. bedoel je niet 64? Dit staat overigens /echt/ wel in je boek, en al zeker op google.

[ Voor 28% gewijzigd door CyBeR op 04-12-2008 20:54 ]

[Twazerty]

2^53 = 9007199254740992 ???

[ormagon]

Dank Twazerty,

2^53 staat er niet eens (!!!) bij. En daarnaast had ik ook nog eens geen flauw benul gehad hoe dat uit te rekenen. Ben totaal niet van de exacte vakken! Maar beiden bedankt .

[RobIII]

Getallen en talstelsels FAQ

ormagon schreef op donderdag 04 december 2008 @ 20:52:
Wat inhoud dat ze 4.294.967.295 getallen kunnen weergeven.

Euh, 4.294.967.296 getallen weergeven (0 is ook een getal); de maximum waarde is echter 4.294.967.295 (en dan ook nog alleen in de unsigned variant, anders is de max. waarde 2.147.483.647, maar de min. waarde 2.147.483.648 itt tot 0 en kun je dus nog steeds 4.294.967.296 getallen weergeven).

ormagon schreef op donderdag 04 december 2008 @ 21:01:
2^53 staat er niet eens (!!!) bij.

Start je windows calculator; zet 'm op 'wetenschappelijk' in het beeld menu. Type "2", klik op "x^y", type "53", druk enter.

CyBeR schreef op donderdag 04 december 2008 @ 20:53:
53 is wel een raar getal. bedoel je niet 64?

Klinkt me als een Double in de oren, maar dan hebben die bits wel een hele andere betekenis (dan zijn ze de mantisse).

Edit: ah; even googlen leverde dit op. En dat kon je zelf niet vinden TS?

[ Voor 122% gewijzigd door RobIII op 04-12-2008 21:27 ]

[MSalters]

RobIII schreef op donderdag 04 december 2008 @ 21:05:
Getallen en talstelsels FAQ

Euh, 4.294.967.296 getallen weergeven (0 is ook een getal); de maximum waarde is echter 4.294.967.295 (en dan ook nog alleen in de unsigned variant, anders is de max. waarde 2.147.483.647 en kun je dus 2.147.483.648 getallen weergeven).

Signed integers hebben ook nog 2.147.483.648 negatieve waarden, dus het totaal aantal waarden is zowel voor signed als unsigned 4.294.967.296

[RobIII]

MSalters schreef op donderdag 04 december 2008 @ 21:24:
[...]

Signed integers hebben ook nog 2.147.483.648 negatieve waarden, dus het totaal aantal waarden is zowel voor signed als unsigned 4.294.967.296

Euh; duh... Corrected Het is al laat My bad

[MLM]

Als enigzins intressante sidenote, 53 bits integer is stiekum een 64 bits double, waarvan enkel de mantissa gebruikt wordt (die 53 bits is, inclusief sign-bit).
Waarom er niet gewoon een 64 bits integer gebruikt word begrijp ik niet

[ Voor 26% gewijzigd door MLM op 05-12-2008 17:02 . Reden: oeps ]

[.oisyn]

Interessant. Want de sign bit zit niet namelijk niet in de mantissa van een double. Wel heeft de mantissa een impliciete most significant bit die altijd 1 is en niet wordt opgeslagen, wat de mantissa van een double dus effectief 53 bits maakt (ipv de 52 die daadwerkelijk worden opgeslagen). Samen met de sign bit uit de double komt dat dus overeen met een bereik van een 54 bits sign-and-magnitude signed int, oftewel van -2⁵³+1 t/m 2⁵³-1, waarbij de 0 twee verschillende representaties heeft (+0 en -0). Tevens kun je niet zomaar het mantissa-gedeelde gebruiken om er een int in op te slaan - je zult daarbij de msb eraf moeten hakken en de exponent juist in moeten stellen, om 'm te compatible te houden met een double.

Hier staat overigens dat Number gewoon een double is, dus ik snap de hele commotie eigenlijk niet . 't Is gewoon geen int.

[ Voor 47% gewijzigd door .oisyn op 05-12-2008 17:57 ]