浮点变量与零值比较:和浮点比较有关的几个问题

=a14c id=zoom>注释:以下部分主要和DOUBLE和FLOAT列相关原因在于浮点数不准确本质MySQL使用64位十进制数值精度执行DECIMAL操作当处理DECIMAL列时应能解决大多数常见不准确问题



浮点数有时会导致混淆这是它们无法以准确值保存在计算机体系结构中你在屏幕上所看到值通常不是数值准确值对于FLOAT和DOUBLE列类型情况就是如此DECIMAL列能保存具有准确精度这是它们是由串表示





在下面举例中介绍了使用DOUBLE时问题:



mysql> CREATE TABLE t1 (i INT, d1 DOUBLE, d2 DOUBLE); mysql> INSERT INTO t1 VALUES (1, 101.40, 21.40), (1, -80.00, 0.00), -> (2, 0.00, 0.00), (2, -13.20, 0.00), (2, 59.60, 46.40), -> (2, 30.40, 30.40), (3, 37.00, 7.40), (3, -29.60, 0.00), -> (4, 60.00, 15.40), (4, -10.60, 0.00), (4, -34.00, 0.00), -> (5, 33.00, 0.00), (5, -25.80, 0.00), (5, 0.00, 7.20), -> (6, 0.00, 0.00), (6, -51.40, 0.00); mysql> SELECT i, SUM(d1) AS a, SUM(d2) AS b -> FROM t1 GROUP BY i HAVING a <> b; +------+-------+------+ | i | a | b | +------+-------+------+ | 1 | 21.4 | 21.4 | | 2 | 76.8 | 76.8 | | 3 | 7.4 | 7.4 | | 4 | 15.4 | 15.4 | | 5 | 7.2 | 7.2 | | 6 | -51.4 | 0 | +------+-------+------+



结果是正确尽管前5个记录看上去不应能进行比较测试(a和b值看上去没有什么区别)但它们能进行比较这是显示数值间差异在十分位左右具体情况取决于计算机体系结构





如果列d1和d2定义为DECIMAL而不是DOUBLESELECT查询结果仅包含1行即上面显示最后1行


Tags:  double是双精度浮点 浮点运算 浮点变量与零值比较

延伸阅读

最新评论

发表评论