Erreur de la soustraction de deux nombre à l'ordre 10^11.

Fermé
krimo - 22 oct. 2017 à 21:23
luckydu43 Messages postés 3484 Date d'inscription vendredi 9 janvier 2015 Statut Membre Dernière intervention 30 juin 2022 - 22 oct. 2017 à 22:26
Bonjour,
J'ai essayé de calculer (999699979998-999399949995) a l'aide d'une calculatrice "CASIO fx-82MS", j'ai trouvé 300030000, ce qui est l'absurde, car si on effectuer manuellement la soustraction, on va trouver 300030003, alors il est claire qu'on a 3 qui manque.
comment peut-on expliquer le défaut commit sur la soustraction effectuée par la calculatrice? Et merci d'avance.


A voir également:

1 réponse

luckydu43 Messages postés 3484 Date d'inscription vendredi 9 janvier 2015 Statut Membre Dernière intervention 30 juin 2022 815
Modifié le 22 oct. 2017 à 22:30
Bonsoir !

Là, tu découvres ce qu'on appelle la limite de précision ;-)

Une calculatrice graphique commune monte à 15 digits en précision, visiblement la tienne monte à 10.
En clair... la calculatrice va pouvoir sauvegarder les 10 plus gros chiffres et l'exposant (visiblement, elle supporte 2 digits sur l'exposant, rien n'indique qu'elle ne peut pas monter à n x10^99... à toi d'essayer ^_^)
Mais vu que ton nombre fait 11 digits, la calculatrice ne retiendra que les 10 premiers et l'exposant (en l'occurrence 11), d'où la perte en précision.
Tu notera que ce n'est pas une erreur flagrante de calcul : elle t'affiche le résultat sous le même ordre de grandeur que le résultat attendu.

EDIT = j'avais oublié la valeur absolue ;-)
La marge d'erreur, calculée ainsi si mes souvenirs sont bons :
valeur absolue de (nb obtenu / nb attendu * 100 - 100)
étant donc, dans ton cas, de 9.999000000009999 x 10 ^-7, on peut appeler ça... négligeable. Certainement pas pour un mathématicien, mais largement pour un physicien :-D

Bonne soirée ;-)

Luc

La vie quotidienne peut vite vous rendre accro et vous faire perdre aux jeux-vidéos ! 
Un peuple sacrifiant sa liberté pour plus de sécurité perd les deux.
0