Augmenter la précision
Résolu
th.deudon
Messages postés
399
Date d'inscription
Statut
Membre
Dernière intervention
-
th.deudon Messages postés 399 Date d'inscription Statut Membre Dernière intervention -
th.deudon Messages postés 399 Date d'inscription Statut Membre Dernière intervention -
Salut , c'est encore moi
J'ai un petit soucis, ma précision qui devrait être à un poil près se trouve être plutôt à 100m près... ( je travaille avec des valeurs plutôt grande ) , j'ai compris d'ou vient l'erreur, de la précision de mes calculs, quand je met print Var1/Var2, j'ai une précision de merde ( et en plus elle est sous le format 5222E34 .. ) est possible de la faire tourner au régime 64 bit ( il me semble que c'est ca ) ?
J'ai un petit soucis, ma précision qui devrait être à un poil près se trouve être plutôt à 100m près... ( je travaille avec des valeurs plutôt grande ) , j'ai compris d'ou vient l'erreur, de la précision de mes calculs, quand je met print Var1/Var2, j'ai une précision de merde ( et en plus elle est sous le format 5222E34 .. ) est possible de la faire tourner au régime 64 bit ( il me semble que c'est ca ) ?
A voir également:
- Augmenter la précision
- Augmenter la luminosité pc - Guide
- Augmenter vitesse pc windows 10 - Guide
- Augmenter gamma minecraft - Forum Minecraft
- Score snap qui augmente la nuit - Forum Snapchat
- Comment augmenter l'espace de stockage de son téléphone - Guide
5 réponses
les 15 prémières décimales sont correctes
$ echo | awk '{printf "%42.38lf\n", sqrt(2.0)}'
1.41421356237309514547462185873882845044
th.deudon
Messages postés
399
Date d'inscription
Statut
Membre
Dernière intervention
15
En fait 12 me suffisent, j'avais du oublier un truc, je sais pas ou car j'en avais max 6 ^^
Vous n’avez pas trouvé la réponse que vous recherchez ?
Posez votre question