Décimales importunes
Résolu/Fermé
danielc0
Messages postés
838
Date d'inscription
mardi 5 juin 2018
Statut
Membre
Dernière intervention
23 avril 2024
-
Modifié le 29 juin 2019 à 12:35
danielc0 Messages postés 838 Date d'inscription mardi 5 juin 2018 Statut Membre Dernière intervention 23 avril 2024 - 29 juin 2019 à 18:41
danielc0 Messages postés 838 Date d'inscription mardi 5 juin 2018 Statut Membre Dernière intervention 23 avril 2024 - 29 juin 2019 à 18:41
A voir également:
- Décimales importunes
- Mergefield 2 décimales ✓ - Forum Excel
- Supprimer les décimales excel ✓ - Forum Excel
- Excel tronquer 2 décimales ✓ - Forum Excel
- 2 décimales après la virgule excel ✓ - Forum Excel
- Vba arrondi 2 décimales - Forum VB / VBA
2 réponses
eriiic
Messages postés
24570
Date d'inscription
mardi 11 septembre 2007
Statut
Contributeur
Dernière intervention
23 avril 2024
7 213
29 juin 2019 à 12:36
29 juin 2019 à 12:36
Bonjour,
tu lis 20520.99 mais le résultat calculé est peut-être avec une différence à la 12e ou 15e décimale, que tu ne vois pas.
Fait =C10 - 20520.99 - 0 pour la visualiser (important le - 0 !)
C'est dû aux erreurs de conversion les nombres étant stockés en binaire.
eric
tu lis 20520.99 mais le résultat calculé est peut-être avec une différence à la 12e ou 15e décimale, que tu ne vois pas.
Fait =C10 - 20520.99 - 0 pour la visualiser (important le - 0 !)
C'est dû aux erreurs de conversion les nombres étant stockés en binaire.
eric
danielc0
Messages postés
838
Date d'inscription
mardi 5 juin 2018
Statut
Membre
Dernière intervention
23 avril 2024
74
29 juin 2019 à 12:49
29 juin 2019 à 12:49
eriiic
Messages postés
24570
Date d'inscription
mardi 11 septembre 2007
Statut
Contributeur
Dernière intervention
23 avril 2024
7 213
Modifié le 29 juin 2019 à 14:04
Modifié le 29 juin 2019 à 14:04
copie-colle la formule, tu n'as mis que la moitié... :
Un peu de lecture : https://fr.wikipedia.org/wiki/IEEE_754
eric
=C10-20520.99-0
Un peu de lecture : https://fr.wikipedia.org/wiki/IEEE_754
eric
danielc0
Messages postés
838
Date d'inscription
mardi 5 juin 2018
Statut
Membre
Dernière intervention
23 avril 2024
74
>
eriiic
Messages postés
24570
Date d'inscription
mardi 11 septembre 2007
Statut
Contributeur
Dernière intervention
23 avril 2024
29 juin 2019 à 17:12
29 juin 2019 à 17:12
Non, c'est bien ce que j'ai fait. Ce que je ne comprends pas, c'est le rôle du "-0".
Sinon, je connais le problème de conversion des nombres en virgule flottante. C'est ces nombres que je piste dans mon classeur.
Daniel
Sinon, je connais le problème de conversion des nombres en virgule flottante. C'est ces nombres que je piste dans mon classeur.
Daniel
eriiic
Messages postés
24570
Date d'inscription
mardi 11 septembre 2007
Statut
Contributeur
Dernière intervention
23 avril 2024
7 213
Modifié le 29 juin 2019 à 18:13
Modifié le 29 juin 2019 à 18:13
C'est pour forcer l'apparition du pouième 1E-13 (par exemple)
Tu soustrais au résultat un vrai 0 pour ne plus avoir l'arrondi d'affichage =0 tout rond
Teste avec et sans, tu verras qu'il est souvent nécessaire pour bien visualiser cette anomalie de conversion (qui n'est pas une anomalie d'ailleurs).
Tu soustrais au résultat un vrai 0 pour ne plus avoir l'arrondi d'affichage =0 tout rond
Teste avec et sans, tu verras qu'il est souvent nécessaire pour bien visualiser cette anomalie de conversion (qui n'est pas une anomalie d'ailleurs).
danielc0
Messages postés
838
Date d'inscription
mardi 5 juin 2018
Statut
Membre
Dernière intervention
23 avril 2024
74
>
eriiic
Messages postés
24570
Date d'inscription
mardi 11 septembre 2007
Statut
Contributeur
Dernière intervention
23 avril 2024
29 juin 2019 à 18:41
29 juin 2019 à 18:41
Merci, je note le truc.
Daniel
Daniel