Précision

fant -  
 fant -
Bonjour,
Je voudrais savoir quelle est la précision du ''double'' sous linux et sous matlab? Est ce qu'il y a une différence?
Merci, d'avance !

2 réponses

durock Messages postés 22093 Date d'inscription   Statut Contributeur Dernière intervention   2 620
 
Bonjour
en ce qui me concerne, c'est plutot très énigmatique comme question !
0
fant
 
Voilà, j'utilise matlab depuis pas longtemps. En effet, dans le cadre de mon stage de DUT je suis amenée à modéliser à l'aide de matlab une fonction de filtrage programmée en C sous linux pour ensuite la comparer avec mon modèle.
Au niveau de mes résultats, j'obtiens une différence de l'ordre de 10^(-14), c'est pourquoi je pense qu'il pourrait s'agir d'une erreur de précision dans la manière dont les calculs sont faits sous matlab et sous linux.
Est ce que vous pouvez m'éclairer là dessus?
0