问题
今天在写项目功能的时候,有一个统计金额的情况,然后需要进行单位转换,所以写下了大概如下功能的语句,但得到的数据为小数点后4位精度,正常我们只需要2位就足够。
select total_fee / 100 from orders
继续排查寻找资料,进行精度转换,找了一圈的资料都不太满意,继续进行测试
测试
测试bug和未知情况,我们一定要 最小复现,精简测试 ,防止其他语句对结果产生干扰。
select 1 / 100;
// 得到 0.0100
select 1 * 0.01;
// 得到 0.01
并且在3/4台设备上运行,不同mysql版本环境都是这样子的结果。
所以初步得知 Mysql中,乘法和除法对小数点后的精度不一致
在国内的论坛中没有找到合适的资料,于是到国外论坛寻找,提问,交流。
答案
首先感谢其他前辈对问题的解答和指点,我们也将尽量详细地记录问题的排查。
文明之所以能延续,是因为它们有记忆。希望文章也能帮到更多的朋友。
- 除法的精度默认是小数点后4位
- 乘法的精度使用 操作数的精度和 的方式来判断,如例子中的 1*0.01 精度分别是小数点后0位和2位,那么就是 0+2 =2 结果也将使用2位精度
测试
select 1.00 * 0.01;
// 结果 0.0100
符合上诉结论。感谢国外前辈指教。
除法使用2位精度
那么我们的问题 如果是要坚持用除法解决,我们可以使用函数来进行转换精度,
CAST( @x / @y AS DECIMAL(m,n) )
DECIMAL的参数可以百度看这个,基本创建过表结构的都能明白。
@x和@y就是除数和被除数。
同时我还提出疑问,是否能在mysql里设置默认除法精度,我们就可以不用每次sql都使用函数计算了。
前辈回复:如果你不想有时候出现出乎意料的情况,那么需要每次都强制使用类型转换。
mysql相关说明文献
https://dev.mysql.com/doc/refman/8.0/en/arithmetic-functions.html
In division performed with /, the scale of the result when using two exact-value operands is the scale of the first operand plus the value of the div_precision_increment system variable (which is 4 by default). For example, the result of the expression 5.05 / 0.014 has a scale of six decimal places (360.714286).
除法的精度规则
由上面引用的文献可知:当使用两个数值进行计算时,结果的精度由 第一个操作数的精度 + 系统变量div_precision_increment的值决定 ,如我们例子中的1 精度是0,系统变量精度是4位默认,所以得到的结果是4位精度
set div_precision_increment = 2;
// 再运行select 1 / 100; 得到 0.01 符合想要的结果
所以我们还可以通过修改默认变量,来改变除法的默认精度。
此时我们再测试
select 1.0 / 100;
// 结果 0.010 符合上文所述结论
总结
RTX 5090要首发 性能要翻倍!三星展示GDDR7显存
三星在GTC上展示了专为下一代游戏GPU设计的GDDR7内存。
首次推出的GDDR7内存模块密度为16GB,每个模块容量为2GB。其速度预设为32 Gbps(PAM3),但也可以降至28 Gbps,以提高产量和初始阶段的整体性能和成本效益。
据三星表示,GDDR7内存的能效将提高20%,同时工作电压仅为1.1V,低于标准的1.2V。通过采用更新的封装材料和优化的电路设计,使得在高速运行时的发热量降低,GDDR7的热阻比GDDR6降低了70%。
更新日志
- 小骆驼-《草原狼2(蓝光CD)》[原抓WAV+CUE]
- 群星《欢迎来到我身边 电影原声专辑》[320K/MP3][105.02MB]
- 群星《欢迎来到我身边 电影原声专辑》[FLAC/分轨][480.9MB]
- 雷婷《梦里蓝天HQⅡ》 2023头版限量编号低速原抓[WAV+CUE][463M]
- 群星《2024好听新歌42》AI调整音效【WAV分轨】
- 王思雨-《思念陪着鸿雁飞》WAV
- 王思雨《喜马拉雅HQ》头版限量编号[WAV+CUE]
- 李健《无时无刻》[WAV+CUE][590M]
- 陈奕迅《酝酿》[WAV分轨][502M]
- 卓依婷《化蝶》2CD[WAV+CUE][1.1G]
- 群星《吉他王(黑胶CD)》[WAV+CUE]
- 齐秦《穿乐(穿越)》[WAV+CUE]
- 发烧珍品《数位CD音响测试-动向效果(九)》【WAV+CUE】
- 邝美云《邝美云精装歌集》[DSF][1.6G]
- 吕方《爱一回伤一回》[WAV+CUE][454M]