![]() |
|
Archives of the TeradataForumMessage Posted: Mon, 05 May 2003 @ 19:21:22 GMT
IEEE 64-bit floats (8 bytes) have 15-17 decimal digits of accuracy. IEEE 32-bit floats (4 bytes) only have around 5-6 digits of accuracy.
| ||||||||||||||||||||||||||||||||||||||||||||||||
| | ||||||||||||||||||||||||||||||||||||||||||||||||
| ||||||||||||||||||||||||||||||||||||||||||||||||
![]() | ||||||||||||||||||||||||||||||||||||||||||||||||
| Last Modified: 30 Jun 2008 | ||||||||||||||||||||||||||||||||||||||||||||||||