Aller au contenu

pb cast double -- > int visual c++ 6

Par ginglese
dans Programmation et Lignes de code

Featured Replies

Posté(e)

salut,

j'ai un pbroblème sous visual c++6.

sur ce code

	
double	lFloatWidth	= (lNECorner[lXIndex] - lSWCorner[lXIndex]) / lStepX;
double	lFloatHeight = (lNECorner[lYIndex] - lSWCorner[lYIndex]) / lStepY;
long	lWidth	= lFloatWidth
long	lHeight	= lFloatHeight

lorsque que j'évalue la valeur de (lNECorner[lXIndex] - lSWCorner[lXIndex])/lstepX au niveau du watch de visual j'ai une valeur de 14400.

la valeur lFloatWidth = 14400.

par contre la valeur de lWidth vaut 14399.

une idée ?

merci.

guillaume

  • Citer
    • Posté(e)

    Si tu divises deux entiers dans une var double (ou float) tu dois caster au moins une des deux variables.

    double lFloatWidth = (double)(lNECorner[lXIndex] - lSWCorner[lXIndex]) / lStepX;

    ou

    double lFloatWidth = (lNECorner[lXIndex] - lSWCorner[lXIndex]) / (double)lStepX;

  • Citer

    • Archivé

    Ce sujet est désormais archivé et ne peut plus recevoir de nouvelles réponses.

    Aller sur la liste des sujets