.
. centre de ressources dilemmes et doutes le visage humain de mathématiques Qui sommes-nous Problème de mois activités de promotion babillard
Centrale des maths - centraledesmaths.uregina.ca
Dilemmes & doutes
« D & D »
. .
topic card  

Sujet:

floating point arithmetic

liste de
sujets
. .
nouvelle recherche

Un article trouvé pour ce sujet.
 
Page
1/1
Why does 10x10x10 give 1,000.0000000000001? 2017-04-12
Randolph pose la question :
Hi, On your calculator I found that a box 10 by 10 by 10 inches has a volume of 1,000.0000000000001 cubic inches. Can you explain the numeral 1 thirteen places past the decimal? Thanks, Randy
Penny Nom lui répond.
 
Page
1/1

 

 


Centrale des maths reçoit une aide financière de l’Université de Regina et de The Pacific Institute for the Mathematical Sciences.

CMS
.

 

accueil centre de ressources accueil Société mathématique du Canada l'Université de Regina PIMS