[C] Meneer van dale wacht op antwoord

[jvaneijk]

Hoi allemaal,

Ten eerste wil ik alle tweakers even een gelukkig nieuwjaar wensen.

Nou daar komt ie dan.
Ik heb een te simpel probleem maar heb geen idee hoe het kan.
Ik moet een getal berekenen maar gaat erg vreemd

C:

memSizeAlphaX = (prefixed_sum_x+prefixed_sum_x2) * sizeof(int);

als ik dit bereken komt er hetvolgende uit

code:

memSizeAlphaX: -2147413328

let wel prefix_sum_x en prefix_sum_x2 zijn beide positief.
Nu zou je zeggen dat als hetgene tussen haakjes staat positief is het antwoord ook positief moet zijn. dit is niet het geval. Haal ik echter de haakjes weg dan krijg ik er wel een positief antwoord van terug.

Zou iemand mij kunnen vertellen wat het probleem zou kunnen zijn.
Lijkt mij toch een simpel iets maar ik kan het momenteel nog niet verklaren. Misschien ligt het aan het overmatig alcoholgebruik afgelopen dagen

[Voutloos]

Tja, dat zit in de buurt van -2³¹, dus dan zou als je de basiskennis van ints weet al een lampje moeten gaan branden.

[grizzlybear]

Waarschijnlijk is het een overflow, wat is het type van prefix_sum_x en prefix_sum_x2? Het kan zijn dat bij de berekening een te klein type wordt gekozen voor de tussen variabele.

[Dido]

Wat zijn de waardes van prefix_sum_x en prefix_sum_x2? Ik neem aan dat je die weet als je weet dat ze positief zijn?

Dat je een ander resultaat krijgt zonder haakjes is niet zo heel gek, natuurlijk

[jvaneijk]

prefix_sum_x = 545277100,
prefix_sum_x2 = 1065353216

En het zijn unsigned ints.

[Voutloos]

Grof afgerond 1.55 Mrd * sizeof(int) dus en dat kan je wel uit je hoofd en dan weet je hoe laat het is.

[Brainstorm]

Het zijn dan wel unsigned ints, maar van welk type zijn 'memSizeAlphaX' en 'sizeof(int)'?

[edit]

En grotere getallen? C is voor mij al een tijdje geleden, maar kan misschien zoiets als ulong?

[ Voor 37% gewijzigd door Brainstorm op 02-01-2008 10:06 ]

[jvaneijk]

Ja idd het was afgelopen dagen ook laat. En waarom zijn er nou geen grotere getallen mogelijk dan unsigned ints

[MisterData]

Waarschijnlijk op te lossen door voor memSizeAlphaX een groter type te kiezen (bijvoorbeeld een __int64 in VC++)

[Cpt.Morgan]

Maak van 'memSizeAlphaX' ook een unsigned int... mits sizeof(int) 2 is, lukt het dan wel....

[jvaneijk]

Ja dat had ik ook in gedachten, maar probleem is ik heb alleen de beschikking over unsigned ints als grootste geheel getal.
Omdat dit GP-berekeningen zijn op de grafische kaart via CUDA.

[Dido]

Dan kun je kennelijk niet genoeg geheugen aanspreken

[jvaneijk]

Nee, Ik ben idd nog niet helemaal wakker. Ik kan dus alleen unsigned ints gebruiken als grootste getal. Dus als ik het wil oplossen moet ik even mijn code herschrijven. Helaas heb ik daar nu geen tijd meer voor aangezien ik 12 jan moet afstuderen. Nou ja mooi resultaat voor future work