Duplication possible: Pourquoi je ne peux pas retourner un double à partir de deux pouces étant divisé Mon programme C ++ tronque la sortie de ma définition d’entier même lorsque j’essaie de placer la sortie dans un flottant. Comment puis-je empêcher cela tout en gardant ces variables (a & b) comme des entiers? user@box:~/c/precision$ cat […]
Existe-t-il une bibliothèque OCaml pour tirer parti du type à virgule flottante de précision étendue 80 bits des architectures IA-32 et x86-64? Je connais les liaisons MPFR mais ma bibliothèque idéale serait plus légère. Profiter des instructions historiques à virgule flottante serait idéal.
Je cherche la meilleure façon de convertir un nombre en un BigDecimal. Est-ce suffisant? Number number; BigDecimal big = new BigDecimal(number.toSsortingng()); Peut-on perdre de la précision avec la toSsortingng() ?
Ma question est de savoir si toutes les valeurs entières sont garanties pour avoir une double représentation parfaite. Considérez l’exemple de code suivant qui affiche “Same”: // Example program #include #include int main() { int a = 3; int b = 4; double d_a(a); double d_b(b); double int_sum = a + b; double d_sum = […]
Il est presque impossible (*) de fournir une sémantique IEEE 754 ssortingcte à un coût raisonnable lorsque les seules instructions à virgule flottante autorisées sont les 387. Cela est particulièrement difficile lorsque l’on souhaite que la FPU continue de travailler sur le significande 64 bits complet afin que le long double type long double soit […]
Ces lignes en C # decimal a = 2m; decimal b = 2.0m; decimal c = 2.00000000m; decimal d = 2.000000000000000000000000000m; Console.WriteLine(a); Console.WriteLine(b); Console.WriteLine(c); Console.WriteLine(d); Génère cette sortie: 2 2.0 2.00000000 2.000000000000000000000000000 Donc, je peux voir que la création d’une variable décimale à partir d’un littéral me permet de contrôler la précision. Puis-je ajuster la […]
Je viens de rencontrer un comportement inattendu avec DateTime.UtcNow lors de certains tests unitaires. Il semble que lorsque vous appelez DateTime.Now/UtcNow dans une succession rapide, il semble vous redonner la même valeur pour un intervalle de temps plus long que prévu, plutôt que de saisir des incréments de millisecondes plus précis. Je sais qu’il existe […]
J’ai des clients qui reçoivent des factures étranges. J’ai pu isoler le problème principal: SELECT 199.96 – (0.0 * FLOOR(CAST(1.0 AS DECIMAL(19, 4)) * CAST(199.96 AS DECIMAL(19, 4)))) — 200 what the? SELECT 199.96 – (0.0 * FLOOR(1.0 * CAST(199.96 AS DECIMAL(19, 4)))) — 199.96 SELECT 199.96 – (0.0 * FLOOR(CAST(1.0 AS DECIMAL(19, 4)) * […]
Il y a une option dans R pour contrôler l’affichage des chiffres. Par exemple: options(digits=10) est censé donner les résultats du calcul à 10 chiffres jusqu’à la fin de la session R. Dans le fichier d’aide de R, le paramètre définition des chiffres est le suivant: digits: contrôle le nombre de chiffres à imprimer lors […]
C’est quelque chose qui me préoccupe depuis des années, mais je n’ai jamais pris le temps de demander avant. De nombreux générateurs de nombres aléatoires (pseudo) génèrent un nombre aléatoire compris entre 0,0 et 1,0. Mathématiquement, il y a des nombres infinis dans cette plage, mais le double est un nombre à virgule flottante et […]