I'm failing 1st grade math

[Aloha_Shooter]

2/3 = 0.666666666666666666666666666666666666666666666666 66666666666666666666666666666666666666666666666666 66666666666666666666666666666666666666666666666666 66666666666666666666666666666666666666666666666666 66666666666666666666666666666666666666666666666666 66666666666666666666666666666666666666666666666666 66666666666666666666666666666666666666666666666666 66666666666666666666666666666666666666666666666666 66666666666666666666666666666666666666666666666666 66666666666666666666666666666666666666666666666666 6666667

Now take that extend it to the binary digital representation.

2/3 = 1/2 + 1/8 + 1/32 + 1/128 + 1/512 + ...

= 0.1010101 ...

In actual single precision floating point, the 32 bits of a computer word are split using the first bit for the sign (positive or negative), 8 bits for the exponent, and 23 bits for the mantissa.

You can see how this works at https://www.exploringbinary.com/floa...int-converter/ . Enter a decimal number, specify output in binary and click convert. Now for some real fun, specify decimal output as well and you can see what that binary representation really translates to. In the case of 2/3 at double precision, it's 0.666666666666666662965923241249478198587494439697 2656 .... that's generally "good enough for government work" but the errors pile up with each multiplication or division. A mechanical or electronical engineer (much less a general contractor) should never have to worry about that. Someone calculating the gravity boosts for an interplanetary probe using a radioactive thermal generator that needs to swing by the Earth a couple of times at altitudes of 1/20-1/10 the radius of the Earth does ...

[RblDiver]

that's generally "good enough for government work" but the errors pile up with each multiplication or division. A mechanical or electronical engineer (much less a general contractor) should never have to worry about that. Someone calculating the gravity boosts for an interplanetary probe using a radioactive thermal generator that needs to swing by the Earth a couple of times at altitudes of 1/20-1/10 the radius of the Earth does ...

https://www.youtube.com/watch?v=9z3JYb7VkFc
2:37
"An equation with a result of 1.33382 returns as 1.33381. This changes the results of all higher processes. We will reach different conclusions."
"So the reason they worship the Reapers is...a math error?"

[BladesNBarrels]

Genetic DNA evolution

Aren't we all the result of math errors?

[JohnnyDrama]

This is a fun thread. The discussion regarding fractions vs. decimals brought to mind a lecture in one of my calculus classes. The instructor commented that while "we" had math for a long time, when engineers started to use it, math was found to be too precise. They needed math that moved. So calculus was invented.

[BladesNBarrels]

Had a flashback memory of the Hal and Charley Morning Radio Show on KHOW.
They would play this every once in a while:

[encorehunter]

My wife won't let me send this back to the school. It is my son's report card that I graded for them.

[00tec]

My wife won't let me send this back to the school. It is my son's report card that I graded for them.

I would do it anyway. Totally worth it.

[MrPrena]

My wife won't let me send this back to the school. It is my son's report card that I graded for them.

If you have a friend who is principal or superintendent in same district, I would do it!

[Duman]

That's too funny!

[MrPrena]

I ve heard that teachers has to take praxis and continuing education?