Décimales importunes
Résolu/Fermé
danielc0
Messages postés
1331
Date d'inscription
mardi 5 juin 2018
Statut
Membre
Dernière intervention
16 décembre 2024
-
Modifié le 29 juin 2019 à 12:35
danielc0 Messages postés 1331 Date d'inscription mardi 5 juin 2018 Statut Membre Dernière intervention 16 décembre 2024 - 29 juin 2019 à 18:41
danielc0 Messages postés 1331 Date d'inscription mardi 5 juin 2018 Statut Membre Dernière intervention 16 décembre 2024 - 29 juin 2019 à 18:41
A voir également:
- Décimales importunes
- 2 décimales après la virgule excel ✓ - Forum Excel
- Javascript arrondir à 2 décimales ✓ - Forum Javascript
- Excel : Arrondir ou tronquer à 3 chiffres après la virgule ✓ - Forum Excel
- Mergefield 2 décimales ✓ - Forum Excel
- Javacript, 2 chiffres après la virgule - Forum Webmastering
2 réponses
eriiic
Messages postés
24603
Date d'inscription
mardi 11 septembre 2007
Statut
Contributeur
Dernière intervention
15 décembre 2024
7 247
29 juin 2019 à 12:36
29 juin 2019 à 12:36
Bonjour,
tu lis 20520.99 mais le résultat calculé est peut-être avec une différence à la 12e ou 15e décimale, que tu ne vois pas.
Fait =C10 - 20520.99 - 0 pour la visualiser (important le - 0 !)
C'est dû aux erreurs de conversion les nombres étant stockés en binaire.
eric
tu lis 20520.99 mais le résultat calculé est peut-être avec une différence à la 12e ou 15e décimale, que tu ne vois pas.
Fait =C10 - 20520.99 - 0 pour la visualiser (important le - 0 !)
C'est dû aux erreurs de conversion les nombres étant stockés en binaire.
eric
danielc0
Messages postés
1331
Date d'inscription
mardi 5 juin 2018
Statut
Membre
Dernière intervention
16 décembre 2024
155
29 juin 2019 à 12:49
29 juin 2019 à 12:49
eriiic
Messages postés
24603
Date d'inscription
mardi 11 septembre 2007
Statut
Contributeur
Dernière intervention
15 décembre 2024
7 247
Modifié le 29 juin 2019 à 14:04
Modifié le 29 juin 2019 à 14:04
copie-colle la formule, tu n'as mis que la moitié... :
Un peu de lecture : https://fr.wikipedia.org/wiki/IEEE_754
eric
=C10-20520.99-0
Un peu de lecture : https://fr.wikipedia.org/wiki/IEEE_754
eric
danielc0
Messages postés
1331
Date d'inscription
mardi 5 juin 2018
Statut
Membre
Dernière intervention
16 décembre 2024
155
>
eriiic
Messages postés
24603
Date d'inscription
mardi 11 septembre 2007
Statut
Contributeur
Dernière intervention
15 décembre 2024
29 juin 2019 à 17:12
29 juin 2019 à 17:12
Non, c'est bien ce que j'ai fait. Ce que je ne comprends pas, c'est le rôle du "-0".
Sinon, je connais le problème de conversion des nombres en virgule flottante. C'est ces nombres que je piste dans mon classeur.
Daniel
Sinon, je connais le problème de conversion des nombres en virgule flottante. C'est ces nombres que je piste dans mon classeur.
Daniel
eriiic
Messages postés
24603
Date d'inscription
mardi 11 septembre 2007
Statut
Contributeur
Dernière intervention
15 décembre 2024
7 247
Modifié le 29 juin 2019 à 18:13
Modifié le 29 juin 2019 à 18:13
C'est pour forcer l'apparition du pouième 1E-13 (par exemple)
Tu soustrais au résultat un vrai 0 pour ne plus avoir l'arrondi d'affichage =0 tout rond
Teste avec et sans, tu verras qu'il est souvent nécessaire pour bien visualiser cette anomalie de conversion (qui n'est pas une anomalie d'ailleurs).
Tu soustrais au résultat un vrai 0 pour ne plus avoir l'arrondi d'affichage =0 tout rond
Teste avec et sans, tu verras qu'il est souvent nécessaire pour bien visualiser cette anomalie de conversion (qui n'est pas une anomalie d'ailleurs).
danielc0
Messages postés
1331
Date d'inscription
mardi 5 juin 2018
Statut
Membre
Dernière intervention
16 décembre 2024
155
>
eriiic
Messages postés
24603
Date d'inscription
mardi 11 septembre 2007
Statut
Contributeur
Dernière intervention
15 décembre 2024
29 juin 2019 à 18:41
29 juin 2019 à 18:41
Merci, je note le truc.
Daniel
Daniel