Aller au contenu

pb cast double -- > int visual c++ 6


ginglese

Messages recommandés

salut,

j'ai un pbroblème sous visual c++6.

sur ce code

	
double	lFloatWidth	= (lNECorner[lXIndex] - lSWCorner[lXIndex]) / lStepX;
double	lFloatHeight = (lNECorner[lYIndex] - lSWCorner[lYIndex]) / lStepY;
long	lWidth	= lFloatWidth
long	lHeight	= lFloatHeight

lorsque que j'évalue la valeur de (lNECorner[lXIndex] - lSWCorner[lXIndex])/lstepX au niveau du watch de visual j'ai une valeur de 14400.

la valeur lFloatWidth = 14400.

par contre la valeur de lWidth vaut 14399.

une idée ?

merci.

guillaume

Lien vers le commentaire
Partager sur d’autres sites

Si tu divises deux entiers dans une var double (ou float) tu dois caster au moins une des deux variables.

double lFloatWidth = (double)(lNECorner[lXIndex] - lSWCorner[lXIndex]) / lStepX;

ou

double lFloatWidth = (lNECorner[lXIndex] - lSWCorner[lXIndex]) / (double)lStepX;

Lien vers le commentaire
Partager sur d’autres sites

Archivé

Ce sujet est désormais archivé et ne peut plus recevoir de nouvelles réponses.

×
×
  • Créer...