扫一扫
分享文章到微信
扫一扫
关注官方公众号
至顶头条
如何解决float类型的2.3 插入到数据库时就成2.29999999999999这个问题?
1. 在SQL语句里,值已经发生变化,这种问题可以通过程序控制
2. SQL语句执行后,值发生变化,这个部分属于系统问题了
float本就是近似值,它不是精確值。
通俗點講float是有兩個值的,一個是Text,就是你在DB中看到的數字,如2.3,另一個則是Value,就是它真實的值,也就是2.299999999999.
所以在做四舍五入、精確的Report、比較(只能用 <、>而不能用=)時請盡量避免使用float類型。建議使用Decimal類型或者Numeric類型。
如果不想改變類型可以嘗試這樣,select convert(num as decimal(10,3)) from tb
我从来不用 float和double 来存储数据。我们平时说的整数,它是离散的值,数量可以确定。比如说1~ 100之间,一共有100个整数,因此用一个字节就可以精确表示。而小数是连续的值,从纯数学角度看,仅仅是1~2之间就有无穷多个小数。因此,无论计算机内有多大的内存,都是不可能精确表示一个小数的。所以,计算机表示的小数都是近似值。
如果您非常迫切的想了解IT领域最新产品与技术信息,那么订阅至顶网技术邮件将是您的最佳途径之一。
现场直击|2021世界人工智能大会
直击5G创新地带,就在2021MWC上海
5G已至 转型当时——服务提供商如何把握转型的绝佳时机
寻找自己的Flag
华为开发者大会2020(Cloud)- 科技行者