Sujet Précédent Sujet Suivant

Calcul EXCEL erroné pour la 10iéme décimale

Résolu/Fermé
charpeau - 15 janv. 2015 à 22:03
 charpeau - 16 janv. 2015 à 12:12
Bonjour,

Dans un fichier de comptabilité avec des chiffres à 2 décimales, une fonction de test m'indiquait que 2 valeurs étaient différentes alors qu'elles étaient affichées identiques.

En fait il y avait une différence sur la 10ième décimale.
J'ai pu isoler un cas où EXCEL calcule :
1145.100000000000 - 646,370000000000 = 498.7299999999000

J'ai trouvé quelques questions sur ce problème mais pas de réponse claire.

Merci à qui pourra m'éclairer.

Bien cordialement.

Jean
A voir également:

1 réponse

Réponse 1 / 1
Zephirr Messages postés 317 Date d'inscription mardi 30 décembre 2014 Statut Membre Dernière intervention 6 novembre 2015 100
Modifié par Zephirr le 15/01/2015 à 22:39
J'ai déjà rencontré cela sur plusieurs logiciels. C'est dû au fonctionnement d'un ordinateur.
1
Zephirr Messages postés 317 Date d'inscription mardi 30 décembre 2014 Statut Membre Dernière intervention 6 novembre 2015 100
15 janv. 2015 à 22:38
Plus de détails :
https://support.microsoft.com/en-us/office/set-rounding-precision-e5d707e3-07a8-4df2-810c-218c531eb06a?ui=en-us&rs=en-us&ad=us
0
charpeau
16 janv. 2015 à 12:12
@ Zephirr : merci de votre réponse.
C'est probablement dû aux conversions décimal <-> hexa.
Quand une cellule affiche "-0.00" c'est qu'il y a des décimales plus loin.
Avant un test "=0" il faut donc faire "=arrondi(...;2).
0