Beste mensen,
Ik heb een vaag probleem met Delphi6. De volgende code:
a := (creep[bladePoint, right, 0] - creep[bladePoint, left, 0]) / (fireTemps[right] - fireTemps[left]);
b := (-a * fireTemps[right]) + creep[bladePoint, right, 0];
creepA := (a * firingTemperature) + b;
Levert vage resultaten op, het tussenresultaat 'a' hoort zeg maar een stuk of 12 cijfers achter de komma te hebben, dat heeft ie ook, alleen hetvolgende:
0,0019045454545455
Het vreemde is dat het getal vanaf 904 niet meer klopt, en er een reeks herhalende cijfers staan. Door deze fout krijg ik in latere berekeningen een verschil van 3-5 tienden ... dat is niet leuk
Delphi verzint zelf een resultaat, zo lijkt het iig ... alle waarden zijn Extended trouwens.
Hebben jullie dit ooit gezien? Wat zou ik hieraan kunnen doen? Is er misschien een andere functie voor delen die ik kan gebruiken?
Alvast bedankt,
Sem
Ik heb een vaag probleem met Delphi6. De volgende code:
a := (creep[bladePoint, right, 0] - creep[bladePoint, left, 0]) / (fireTemps[right] - fireTemps[left]);
b := (-a * fireTemps[right]) + creep[bladePoint, right, 0];
creepA := (a * firingTemperature) + b;
Levert vage resultaten op, het tussenresultaat 'a' hoort zeg maar een stuk of 12 cijfers achter de komma te hebben, dat heeft ie ook, alleen hetvolgende:
0,0019045454545455
Het vreemde is dat het getal vanaf 904 niet meer klopt, en er een reeks herhalende cijfers staan. Door deze fout krijg ik in latere berekeningen een verschil van 3-5 tienden ... dat is niet leuk
Delphi verzint zelf een resultaat, zo lijkt het iig ... alle waarden zijn Extended trouwens.
Hebben jullie dit ooit gezien? Wat zou ik hieraan kunnen doen? Is er misschien een andere functie voor delen die ik kan gebruiken?
Alvast bedankt,
Sem