ginglese Posté(e) le 10 janvier 2005 Partager Posté(e) le 10 janvier 2005 salut, j'ai un pbroblème sous visual c++6. sur ce code double lFloatWidth = (lNECorner[lXIndex] - lSWCorner[lXIndex]) / lStepX; double lFloatHeight = (lNECorner[lYIndex] - lSWCorner[lYIndex]) / lStepY; long lWidth = lFloatWidth long lHeight = lFloatHeight lorsque que j'évalue la valeur de (lNECorner[lXIndex] - lSWCorner[lXIndex])/lstepX au niveau du watch de visual j'ai une valeur de 14400. la valeur lFloatWidth = 14400. par contre la valeur de lWidth vaut 14399. une idée ? merci. guillaume Lien vers le commentaire Partager sur d’autres sites More sharing options...
SyGEN Posté(e) le 11 janvier 2005 Partager Posté(e) le 11 janvier 2005 Si tu divises deux entiers dans une var double (ou float) tu dois caster au moins une des deux variables. double lFloatWidth = (double)(lNECorner[lXIndex] - lSWCorner[lXIndex]) / lStepX; ou double lFloatWidth = (lNECorner[lXIndex] - lSWCorner[lXIndex]) / (double)lStepX; Lien vers le commentaire Partager sur d’autres sites More sharing options...
ginglese Posté(e) le 19 janvier 2005 Auteur Partager Posté(e) le 19 janvier 2005 en fait toutes mes variables sont en doubles. donc le cast n'est pas utile Lien vers le commentaire Partager sur d’autres sites More sharing options...
Messages recommandés
Archivé
Ce sujet est désormais archivé et ne peut plus recevoir de nouvelles réponses.