Pentium maakt rekenfout

[deepbass909]

Ik ben op mijn stage bezig wat data te verwerken, en bij toeval kwamen mijn begeleidster en ik er achter dat mijn pc dingen anders berekend dan haar pc (bij mij wordt een test significant verworpen, terwijl haar pc aangeeft dat de test significant goed, en het is geen twijfel gevalletje, in beide gevallen laten de cijfer geen onduidelijkheid bestaan.... )
We gebruiken allebei een programma dat Graphpad heet (dezelfde versie) en dezelfde data. Er zit echter wel een groot verschil tussen de pc's.
Mijn werk pc is een Pentium 2 233Mhz, terwijl die van haar een P3 is.
Nu heb ik net lopen zoeken op de floating point bug van Intel, en zo ver ik na kan gaan heeft mijn cpu die.
Zou dit zo'n grote rekenfout veroorzaken???

[_nethack]

Die floating point bug zat toch alleen in de allereerste pentiums? (De pentium 60 en 66 dus)
Ik heb ooit een Pentium 90 gehad, en voor zover ik me kan herinneren zat daar die bug al niet meer in.

[roelio]

De bekende Pentium bug zit alleen in de eerste series, snelheden 60/66/90/100, dus daar zou een P2 of P3 geen last van mogen hebben Of het is een nieuwe bug natuurlijk... Of een bug in de software, ook mogelijk

[deepbass909]

mijn cpu maakt rekenfouten. Bij een simpel testje met de calculator die ik op internet vond bevestigt dat er een bug in de cpu zit.
Daarnaast zijn er sites die bevestigen dat de P2 samen met de P Pro wel een bug hebben...

[Verwijderd]

Of verschil in de software;
misschien wordt er geen rekening gehouden met de rounding-mode van de FPU,
(Is geloof ik niet gedefinieerd, dus kan best zijn dat de ene naar boven afrond terwijl de andere naar beneden afrond),
of misschien wordt er geen rekening gehouden met FPU-precision (dat 't op de ene in full-precision gaat en op de andere niet)

[Wekkel]

Ik begreep dat de fout zo weinig aan bod zou komen, dat dit in de praktijk geen probleem zou vormen. Blijkbaar heb je de toepassing gevonden waarbij het wel mis gaat met deze fout

[dion_b]

Geen CPU is perfect, zeker niet bij complexe berekeningen. Gelukkig worden er fixes uitgebracht in de microcode. Probeer bij jullie beiden microcode in BIOS aan te zetten en kijk of dat scheelt.

Maar goed, naast CPU zijn er ook andere factoren (OS bijvoorbeeld) die mee kunnen spelen. Hoe zit het daarmee op jullie PCs?

[deepbass909]

We hebben de belangrijkste veroorzaker gevonden... instellingsfoutje van de analyse software
Maar er blijft een afrondingfout aanwezig van 0.0002...
Ik gebruik trouwens windows 98 en zij 98se.

en tja, als je veel floating point berekeningen maak (en dat doe je met statistiek) dan kan je donder op zeggen dat die fout een keer komt boven drijven...

[Verwijderd]

this niet de floating point bug want die heeft intel destijds redelijk recht gezet en kwam inderdaad niet meer bij deze pro's voor (hoewel ze officeel beweerden dat er geen bug was)
echter destijd kon je je proc gratis ruilen als hij uit de betrefende generatie was.

[dion_b]

Dit is zeker niet 'de' FP bug (heb nog een P60 liggen die daar 'last' van heeft), die is bij de tweede stepping P54C al verholpen. Maar er zijn sindsdien ook talrijke gevonden.

Hier heeft een Rus een paar van de bugs tot 1998 opgesomd, Heise meldt issues bji 4-way SMP met de P2 Xeon en The Register heeft een artikel over P4/Xeon bugs.

Maar idd, software is een veel waarschijnlijkere oorzaak van dit soort zaken