Décimales importunes
Résolu/Fermé
danielc0
Messages postés
1663
Date d'inscription
mardi 5 juin 2018
Statut
Membre
Dernière intervention
21 mars 2025
-
Modifié le 29 juin 2019 à 12:35
danielc0 Messages postés 1663 Date d'inscription mardi 5 juin 2018 Statut Membre Dernière intervention 21 mars 2025 - 29 juin 2019 à 18:41
danielc0 Messages postés 1663 Date d'inscription mardi 5 juin 2018 Statut Membre Dernière intervention 21 mars 2025 - 29 juin 2019 à 18:41
A voir également:
- Décimales importunes
- Publipostage montant avec 2 décimales - Forum Word
- 2 décimales après la virgule excel ✓ - Forum Excel
- Nombre de chiffres après la virgule sur la feuille de calcul. - Forum Excel
- Javascript arrondir à 2 décimales ✓ - Forum Javascript
- Javascript arrondi après la virgule ✓ - Forum Windows
2 réponses
eriiic
Messages postés
24603
Date d'inscription
mardi 11 septembre 2007
Statut
Contributeur
Dernière intervention
15 décembre 2024
7 256
29 juin 2019 à 12:36
29 juin 2019 à 12:36
Bonjour,
tu lis 20520.99 mais le résultat calculé est peut-être avec une différence à la 12e ou 15e décimale, que tu ne vois pas.
Fait =C10 - 20520.99 - 0 pour la visualiser (important le - 0 !)
C'est dû aux erreurs de conversion les nombres étant stockés en binaire.
eric
tu lis 20520.99 mais le résultat calculé est peut-être avec une différence à la 12e ou 15e décimale, que tu ne vois pas.
Fait =C10 - 20520.99 - 0 pour la visualiser (important le - 0 !)
C'est dû aux erreurs de conversion les nombres étant stockés en binaire.
eric
danielc0
Messages postés
1663
Date d'inscription
mardi 5 juin 2018
Statut
Membre
Dernière intervention
21 mars 2025
195
29 juin 2019 à 12:49
29 juin 2019 à 12:49
eriiic
Messages postés
24603
Date d'inscription
mardi 11 septembre 2007
Statut
Contributeur
Dernière intervention
15 décembre 2024
7 256
Modifié le 29 juin 2019 à 14:04
Modifié le 29 juin 2019 à 14:04
copie-colle la formule, tu n'as mis que la moitié... :
Un peu de lecture : https://fr.wikipedia.org/wiki/IEEE_754
eric
=C10-20520.99-0
Un peu de lecture : https://fr.wikipedia.org/wiki/IEEE_754
eric
danielc0
Messages postés
1663
Date d'inscription
mardi 5 juin 2018
Statut
Membre
Dernière intervention
21 mars 2025
195
>
eriiic
Messages postés
24603
Date d'inscription
mardi 11 septembre 2007
Statut
Contributeur
Dernière intervention
15 décembre 2024
29 juin 2019 à 17:12
29 juin 2019 à 17:12
Non, c'est bien ce que j'ai fait. Ce que je ne comprends pas, c'est le rôle du "-0".
Sinon, je connais le problème de conversion des nombres en virgule flottante. C'est ces nombres que je piste dans mon classeur.
Daniel
Sinon, je connais le problème de conversion des nombres en virgule flottante. C'est ces nombres que je piste dans mon classeur.
Daniel
eriiic
Messages postés
24603
Date d'inscription
mardi 11 septembre 2007
Statut
Contributeur
Dernière intervention
15 décembre 2024
7 256
Modifié le 29 juin 2019 à 18:13
Modifié le 29 juin 2019 à 18:13
C'est pour forcer l'apparition du pouième 1E-13 (par exemple)
Tu soustrais au résultat un vrai 0 pour ne plus avoir l'arrondi d'affichage =0 tout rond
Teste avec et sans, tu verras qu'il est souvent nécessaire pour bien visualiser cette anomalie de conversion (qui n'est pas une anomalie d'ailleurs).
Tu soustrais au résultat un vrai 0 pour ne plus avoir l'arrondi d'affichage =0 tout rond
Teste avec et sans, tu verras qu'il est souvent nécessaire pour bien visualiser cette anomalie de conversion (qui n'est pas une anomalie d'ailleurs).
danielc0
Messages postés
1663
Date d'inscription
mardi 5 juin 2018
Statut
Membre
Dernière intervention
21 mars 2025
195
>
eriiic
Messages postés
24603
Date d'inscription
mardi 11 septembre 2007
Statut
Contributeur
Dernière intervention
15 décembre 2024
29 juin 2019 à 18:41
29 juin 2019 à 18:41
Merci, je note le truc.
Daniel
Daniel