Jquery中文网 www.jquerycn.cn
Jquery中文网 >  后端编程  >  Go语言  >  正文 Golang小数精度问题

Golang小数精度问题

发布时间:2021-05-20   编辑:www.jquerycn.cn
jquery中文网为您提供Golang小数精度问题等资源,欢迎您收藏本站,我们将为您提供最新的Golang小数精度问题资源

一,Golang浮点数存在一些问题

1,两个浮点数相加减,可能不准确

(1)相减

x := 74.96
y := 20.48
b := x - y
fmt.Println(b) //output: 54.47999999999999

(2)相加

var a = 0.6
fmt.Println(a   0.7) //output: 1.2999999999999998

· 出现浮点数不精确的原因是,浮点数储存至内存中时,2的-1、-2……-n次方不能精确的表示小数部分,所以再把这个数从地址中取出来进行计算就出现了偏差

· 不是所有的float相加减乘除都一定出现偏差,具体要根据golang实现IEEE 754的情况定(这里还需要细看一下,在另外一篇文章中细说)。

2,float32和float64直接互转会精度丢失, 四舍五入后错误

3,int64转float64在数值很大的时候出现偏差

4,两位小数乘100强转int, 比期望值少了1

	// case: float32==>float64
	// 从数据库中取出80.45, 历史代码用float32接收
	var a float32 = 80.45
	var b float64
	// 有些函数只能接收float64, 只能强转
	b = float64(a)
	// 打印出值, 强转后出现偏差
	fmt.Println(a) //output:80.45
	fmt.Println(b) //output:80.44999694824219
	// ... 四舍五入保留小数点后1位, 期望80.5, 结果是80.4

	// case: int64==>float64
	var c int64 = 987654321098765432
	fmt.Printf("%.f\n", float64(c)) //output:987654321098765440

	// case: int(float64(xx.xx*100))
	var d float64 = 1129.6
	var e int64 = int64(d * 100)
	fmt.Println(e) //output:112959

二,解决的方法

· 利用取近似值的方法解决这个问题。

(1)利用fmt.Sprintf()

func Round2(f float64, n int) float64 {
	floatStr := fmt.Sprintf("%." strconv.Itoa(n) "f", f)
	inst, _ := strconv.ParseFloat(floatStr, 64)
	return inst
}

(2)利用math.Trunc()

func Round(f float64, n int) float64 {
	n10 := math.Pow10(n)
	return math.Trunc((f 0.5/n10)*n10) / n10
}


· 函数文件地址:点击打开链接





到此这篇关于“Golang小数精度问题”的文章就介绍到这了,更多文章或继续浏览下面的相关文章,希望大家以后多多支持JQ教程网!

您可能感兴趣的文章:
PHP浮点精度问题
Golang小数精度问题
golang json.Unmarshal 处理长整型变成float64
学习golang开始前的准备工作
golang 反射_golang 内存管理分析
Golang 高频面试题七问
golang float32转float64精度丢失_golang 混合写屏障原理深入剖析,这篇文章给你梳理的明明白白!...
PHP浮点数精度丢失问题解决方案
php浮点相减不等于0
「golang系列」浅谈Go语言

[关闭]