浮点数表示方法-更优圈

浮点数表示方法

2026-04-15 18:47:31 9424次阅读

双精度浮点数,如IEEE 754标准,8字节,支持15-17位十进制数。这是坑,别用浮点数做精确计算。

这就是坑,浮点数不能精确表示所有数字,如 0.1 无法精确表示。2012 年,Python 3.0 引入 Decimal 类解决这个问题。别信浮点数精度,用整数或 Decimal 处理金融计算。

说到浮点数表示方法,我以前还真不太懂,现在想想,2022年那会儿,我在某个城市参加培训,老师讲得挺详细的。浮点数啊,它主要就是用科学记数法来表示的,就像这样:1.23e4,这个e4就表示1.23乘以10的4次方。,当时我也有点懵,觉得挺复杂的。
然后,我还记得那个城市有个大项目,需要处理的数据量特别大,得用浮点数来表示。那时候,我算了一下,大概需要处理的数据量得有几百万条,每条数据大概要花多少钱来计算,,那可是一大笔开销呢。
后来,我慢慢反应过来,原来浮点数还有这么多种表示方法,比如IEEE 754标准,它规定了浮点数的表示方式,包括符号位、指数位和尾数位。,当时我偏激地觉得,这玩意儿太复杂了,得好好消化消化。现在想想,还是得学,毕竟这是计算机科学里的一项基础技能嘛。

相关推荐

热门文章

推荐阅读