摘要:在中,函数用于对查询结果进行四舍五入,不过最近使用函数四舍五入时意外发现并没有预期的那样,本文将这一问题记录下来,以免大家跟我一样犯同样的错误。从和执行函数的结果可以明确的看确实是转换为了最近的偶数。
在MySQL中,ROUND函数用于对查询结果进行四舍五入,不过最近使用ROUND函数四舍五入时意外发现并没有预期的那样,本文将这一问题记录下来,以免大家跟我一样犯同样的错误。
问题描述假如我们有如下一个数据表test,建表语句如下
CREATE TABLE test ( id int(11) NOT NULL AUTO_INCREMENT, field1 bigint(10) DEFAULT NULL, field2 decimal(10,0) DEFAULT NULL, field3 int(10) DEFAULT NULL, field4 float(15,4) DEFAULT NULL, field5 float(15,4) DEFAULT NULL, field6 float(15,4) DEFAULT NULL, PRIMARY KEY (id) ) ENGINE=InnoDB DEFAULT CHARSET=utf8;
我们创建了一个名为test的表,出了id字段之外还包含了多个字段,拥有这不同的数据类型。我们向这个表中插入一条数据
INSERT INTO test (field1, field2, field3, field4, field5, field6) VALUE (100, 100, 100, 1.005, 3.5, 2.5);
插入之后表中的数据是这样的
mysql> select * from test; +----+--------+--------+--------+--------+--------+--------+ | id | field1 | field2 | field3 | field4 | field5 | field6 | +----+--------+--------+--------+--------+--------+--------+ | 1 | 100 | 100 | 100 | 1.0050 | 3.5000 | 2.5000 | +----+--------+--------+--------+--------+--------+--------+ 1 row in set (0.00 sec)
如果现在我们执行下面这个SQL,你觉得结果会是什么样的呢?
SELECT round(field1 * field4), round(field2 * field4), round(field3 * field4), round(field1 * 1.005), round(field2 * 1.005), round(field3 * 1.005), round(field5), round(field6) FROM test;
最初一直以为这样的结果肯定是都是101,因为上面这六个取值结果都是对100 * 1.005进行四舍五入,结果肯定都是101才对,而后面两个肯定是4和3才对,但是最终的结果却是与设想的大相径庭
*************************** 1. row *************************** round(field1 * field4): 100 round(field2 * field4): 100 round(field3 * field4): 100 round(field1 * 1.005): 101 round(field2 * 1.005): 101 round(field3 * 1.005): 101 round(field5): 4 round(field6): 2 1 row in set (0.00 sec)为什么会这样?
同样是100*1.005,为什么从数据库中的字段相乘得到的结果和直接字段与小数相乘得到的不一样呢?
对这个问题百思不得其解,各种百度谷歌无果。。。没办法,还得靠自己,这个时候最有用的就是官网文档了,于是查询了mysql官方文档中关于ROUND函数的部分,其中包含下面两条规则
For exact-value numbers, ROUND() uses the “round half up” rule(对于精确的数值,ROUND函数使用四舍五入)
For approximate-value numbers, the result depends on the C library. On many systems, this means that ROUND() uses the “round to nearest even” rule: A value with any fractional part is rounded to the nearest even integer. (对于近似值,则依赖于底层的C函数库,在很多系统中ROUND函数会使用“取最近的偶数”的规则)
通过这两条规则,我们可以看出,由于我们在使用两个字段相乘的时候,最终的结果是按照float类型处理的,而在计算机中float类型不是精确的数,因此处理结果会按照第二条来,而直接整数字段与1.005这样的小数运算的结果是因为两个参与运算的值都是精确数,因此按照第一条规则计算。从field5和field6执行ROUND函数的结果可以明确的看确实是转换为了最近的偶数。
总结从这个例子中可以看到,在MySQL中使用ROUND还是要非常需要注意的,特别是当参与计算的字段中包含浮点数的时候,这个时候计算结果是不准确的。
本文将会持续修正和更新,最新内容请参考我的 GITHUB 上的 程序猿成长计划 项目,欢迎 Star,另外,求follow?。
文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以联系管理员删除。
转载请注明本文地址:https://www.ucloud.cn/yun/46944.html
摘要:浮点数类型包括单精度浮点数和双精度浮点数。小结通过浮点数精度的问题,了解到浮点数的小数用二进制的表示。以后,在使用浮点数运算的时候,一定要慎之又慎,细节决定成败。 概述 记录下,工作中遇到的坑 ... 关于 PHP 浮点数运算,特别是金融行业、电子商务订单管理、数据报表等相关业务,利用浮点数进行加减乘除时,稍不留神运算结果就会出现偏差,轻则损失几十万,重则会有信誉损失,甚至吃上官司,我...
摘要:在使用短信验证码注册或者登录就可以看到这样的设计点击发送验证码的按钮之后,按钮上就会出现倒计时一般为秒,倒计时结束之后,按钮的文字就会变成重新发送。 等待总是让人感到焦急和厌烦的,特别是看不到进展的等待。所以为了不让用户痴痴地等,我们在进行某些耗时操作时,一般都要设计一个进度条或者倒计时器,让进度可视化,告诉用户等待之后更精彩。在使用短信验证码注册或者登录App就可以看到这样的设计:点...
摘要:字符函数返回字符串变为小写字母返回字符串变为大写字母返回结果为连接参数产生的字符串的月薪是字符串长度我今年岁字符串长度单位为字节我今年岁一个英文字母,数字占一个字节,一个中文占三个字节左填充,具体看例子,注意不同,结果不同右填充左边空格被掉 字符函数 [ lower(str) ]:返回字符串str变为小写字母 select lower(HelloWorld); [ upper(str)...
摘要:但是在转化中,浮点数转化为二进制后,不会精确等于十进制的。一般情况下,只要简单地将最终显示的结果用四舍五入到所期望的十进制位数,就会得到期望的最终结果。四舍五入内建函数。在中的第二个数,表示要保留的小数位数,返回值是一个四舍五入之后的数值。 数字 基本类型 首先,进入Python交互模式中: //整数 >>> 3 3 //长整数 >>> 3333333333333333333333...
摘要:所以像和或是其它的诸如此类的函数都不会开启查询缓存,因为这些函数的返回是会不定的易变的。所以,你所需要的就是用一个变量来代替的函数,从而开启缓存。附录查询缓存打开设置参数查询性能变量 1.常用语句 1.1 concat格式化语句 SELECT concat( 失败笔数: , count(*), 笔 ), conca...
阅读 2468·2021-11-22 09:34
阅读 4125·2021-11-15 18:13
阅读 3001·2021-09-24 10:24
阅读 1151·2021-09-22 16:01
阅读 2497·2021-09-06 15:02
阅读 892·2019-08-30 13:01
阅读 841·2019-08-30 10:52
阅读 517·2019-08-29 16:36