Augmenter la précision
Résolu
th.deudon
Messages postés
449
Statut
Membre
-
th.deudon Messages postés 449 Statut Membre -
th.deudon Messages postés 449 Statut Membre -
Salut , c'est encore moi
J'ai un petit soucis, ma précision qui devrait être à un poil près se trouve être plutôt à 100m près... ( je travaille avec des valeurs plutôt grande ) , j'ai compris d'ou vient l'erreur, de la précision de mes calculs, quand je met print Var1/Var2, j'ai une précision de merde ( et en plus elle est sous le format 5222E34 .. ) est possible de la faire tourner au régime 64 bit ( il me semble que c'est ca ) ?
J'ai un petit soucis, ma précision qui devrait être à un poil près se trouve être plutôt à 100m près... ( je travaille avec des valeurs plutôt grande ) , j'ai compris d'ou vient l'erreur, de la précision de mes calculs, quand je met print Var1/Var2, j'ai une précision de merde ( et en plus elle est sous le format 5222E34 .. ) est possible de la faire tourner au régime 64 bit ( il me semble que c'est ca ) ?
5 réponses
-
les 15 prémières décimales sont correctes
$ echo | awk '{printf "%42.38lf\n", sqrt(2.0)}' 1.41421356237309514547462185873882845044 -
Dans quel langage et/ou avec quel outil ?
Bonne chance -
hrello
c'est un problème de calcul ou juste d'impression ? -
Bon finalement je sais pas pourquoi mais printf ( "%.12g\n" , X ) a finit par marché ^^
-
Vous n’avez pas trouvé la réponse que vous recherchez ?
Posez votre question -
Comment puis je faire
Variable2= $Variable1*$Pi/180 sans avoir d'erreur?
il me dit "error is ".14159265/180"
Ouai sauf que si j'enleve les virgule, j'ai pas de précision.... ^^
en gros faut que je transforme Variable2 en Radian :p
