Jump to content

pb cast double -- > int visual c++ 6


Recommended Posts

salut,

j'ai un pbroblème sous visual c++6.

sur ce code

	
double	lFloatWidth	= (lNECorner[lXIndex] - lSWCorner[lXIndex]) / lStepX;
double	lFloatHeight = (lNECorner[lYIndex] - lSWCorner[lYIndex]) / lStepY;
long	lWidth	= lFloatWidth
long	lHeight	= lFloatHeight

lorsque que j'évalue la valeur de (lNECorner[lXIndex] - lSWCorner[lXIndex])/lstepX au niveau du watch de visual j'ai une valeur de 14400.

la valeur lFloatWidth = 14400.

par contre la valeur de lWidth vaut 14399.

une idée ?

merci.

guillaume

Link to comment
Share on other sites

Si tu divises deux entiers dans une var double (ou float) tu dois caster au moins une des deux variables.

double lFloatWidth = (double)(lNECorner[lXIndex] - lSWCorner[lXIndex]) / lStepX;

ou

double lFloatWidth = (lNECorner[lXIndex] - lSWCorner[lXIndex]) / (double)lStepX;

Link to comment
Share on other sites

Archived

This topic is now archived and is closed to further replies.

×
×
  • Create New...