ginglese Posted January 10, 2005 Posted January 10, 2005 salut, j'ai un pbroblème sous visual c++6. sur ce code double lFloatWidth = (lNECorner[lXIndex] - lSWCorner[lXIndex]) / lStepX; double lFloatHeight = (lNECorner[lYIndex] - lSWCorner[lYIndex]) / lStepY; long lWidth = lFloatWidth long lHeight = lFloatHeight lorsque que j'évalue la valeur de (lNECorner[lXIndex] - lSWCorner[lXIndex])/lstepX au niveau du watch de visual j'ai une valeur de 14400. la valeur lFloatWidth = 14400. par contre la valeur de lWidth vaut 14399. une idée ? merci. guillaume
SyGEN Posted January 11, 2005 Posted January 11, 2005 Si tu divises deux entiers dans une var double (ou float) tu dois caster au moins une des deux variables. double lFloatWidth = (double)(lNECorner[lXIndex] - lSWCorner[lXIndex]) / lStepX; ou double lFloatWidth = (lNECorner[lXIndex] - lSWCorner[lXIndex]) / (double)lStepX;
ginglese Posted January 19, 2005 Author Posted January 19, 2005 en fait toutes mes variables sont en doubles. donc le cast n'est pas utile
Recommended Posts
Archived
This topic is now archived and is closed to further replies.