日韩黑丝制服一区视频播放|日韩欧美人妻丝袜视频在线观看|九九影院一级蜜桃|亚洲中文在线导航|青草草视频在线观看|婷婷五月色伊人网站|日本一区二区在线|国产AV一二三四区毛片|正在播放久草视频|亚洲色图精品一区

分享

mysql下float類型使用一些誤差詳解

 bleach尸魂界 2014-12-17
引自:
mysql下float類型使用一些誤差詳解_Mysql_腳本之家
http://www.jb51.net/article/31723.htm
---------------------------------------------------------------------------------------------------------

我想很多朋友都不怎么會(huì)在mysql中使用float類型,
特別是用到金錢時(shí)我們可能會(huì)用雙精度來(lái)做,
我們知道m(xù)ysql的float類型是單精度浮點(diǎn)類型不小心就會(huì)導(dǎo)致數(shù)據(jù)誤差

單精度浮點(diǎn)數(shù)用4字節(jié)(32bit)表示浮點(diǎn)數(shù)
采用IEEE754標(biāo)準(zhǔn)的計(jì)算機(jī)浮點(diǎn)數(shù),在內(nèi)部是用二進(jìn)制表示的
如:7.22用32位二進(jìn)制是表示不下的。
所以就不精確了。

mysql中float數(shù)據(jù)類型的問(wèn)題總結(jié) 

對(duì)于單精度浮點(diǎn)數(shù)Float:  當(dāng)數(shù)據(jù)范圍在±131072(65536×2)以內(nèi)的時(shí)候,float數(shù)據(jù)精度是正確的,但是超出這個(gè)范圍的數(shù)據(jù)就不穩(wěn)定,沒(méi)有發(fā)現(xiàn)有相關(guān)的參數(shù)設(shè)置建議:將float改成double或者decimal,兩者的差別是double是浮點(diǎn)計(jì)算,decimal是定點(diǎn)計(jì)算,會(huì)得到更精確的數(shù)據(jù)。

1.float類型
float列類型默認(rèn)長(zhǎng)度查不到結(jié)果,必須指定精度,
比如 num  float,  insert into  table (num) values (0.12); select  * from table where num=0.12的話,empty set。

復(fù)制代碼 代碼如下:

num float(9,7),  insert into  table (num) values (0.12); select  * from table where num=0.12的話會(huì)查到這條記錄。

mysql> create table tt
    -> (  
    -> num  float(9,3)
    -> );
Query OK, 0 rows affected (0.03 sec)

mysql> insert into tt(num)values(1234567.8);
ERROR 1264 (22003): Out of range value for column 'num' at row 1

注:超出字段范圍,無(wú)法插入
 

 代碼如下 復(fù)制代碼
mysql> insert into tt(num)values(123456.8);
Query OK, 1 row affected (0.00 sec)

mysql> select  * from  tt;
+------------+
| num        |
+------------+
| 123456.797 |
+------------+
1 row in set (0.00 sec) 

注:小數(shù)位數(shù)不夠,自動(dòng)補(bǔ)齊,但是存在一個(gè)問(wèn)題就是如上的近似值。
 

復(fù)制代碼 代碼如下:
mysql> insert into tt(num)values(123456.867);
Query OK, 1 row affected (0.04 sec)

mysql> select * from   tt;
+------------+ 
| num        |
+------------+
| 123456.797 |
| 123456.797 |
| 123456.867 |
+------------+
3 rows in set (0.00 sec)

mysql> select  * from tt where  num=123456.867;
+------------+
| num        |
+------------+
| 123456.867 |
+------------+
1 row in set (0.00 sec)

mysql> insert into tt(num)values(2.8);
Query OK, 1 row affected (0.04 sec)

mysql> select * from   tt;
+------------+
| num        |
+------------+
| 123456.797 |
| 123456.797 |
| 123456.867 |
|      2.800 |
+------------+
4 rows in set (0.00 sec)

mysql> select  * from tt where  num=2.8;
+-------+ 
| num   |
+-------+
| 2.800 |
+-------+
1 row in set (0.00 sec)

mysql> insert into tt(num)values(2.888888);
Query OK, 1 row affected (0.00 sec)

mysql> select  * from  tt;
+------------+
| num        |
+------------+
| 123456.797 |
| 123456.797 |
| 123456.867 |
|      2.800 |
|      2.889 |
+------------+
5 rows in set (0.00 sec)

注:小數(shù)位數(shù)超了,自動(dòng)取近似值。

一、浮點(diǎn)數(shù)的概念及誤差問(wèn)題

浮點(diǎn)數(shù)是用來(lái)表示實(shí)數(shù)的一種方法,它用 M(尾數(shù)) * B( 基數(shù))的E(指數(shù))次方來(lái)表示實(shí)數(shù),相對(duì)于定點(diǎn)數(shù)來(lái)說(shuō),在長(zhǎng)度一定的情況下,具有表示數(shù)據(jù)范圍大的特點(diǎn)。但同時(shí)也存在誤差問(wèn)題,這就是著名的浮點(diǎn)數(shù)精度問(wèn)題!浮點(diǎn)數(shù)有多種實(shí)現(xiàn)方法,計(jì)算機(jī)中浮點(diǎn)數(shù)的實(shí)現(xiàn)大都遵從 IEEE754 標(biāo)準(zhǔn),IEEE754 規(guī)定了單精度浮點(diǎn)數(shù)和雙精度浮點(diǎn)數(shù)兩種規(guī)格,單精度浮點(diǎn)數(shù)用4字節(jié)(32bit)表示浮點(diǎn)數(shù),格式是:1位符號(hào)位 8位表示指數(shù) 23位表示尾數(shù)    雙精度浮點(diǎn)數(shù)8字節(jié)(64bit)表示實(shí)數(shù),格式是:1位符號(hào)位 11位表示指數(shù) 52位表示尾數(shù)    同時(shí),IEEE754標(biāo)準(zhǔn)還對(duì)尾數(shù)的格式做了規(guī)范:d.dddddd...,小數(shù)點(diǎn)左面只有1位且不能為零,計(jì)算機(jī)內(nèi)部是二進(jìn)制,因此,尾數(shù)小數(shù)點(diǎn)左面部分總是1。顯然,這個(gè)1可以省去,以提高尾數(shù)的精度。由上可知,單精度浮點(diǎn)數(shù)的尾數(shù)是用24bit表示的,雙精度浮點(diǎn)數(shù)的尾數(shù)是用53bit表示的,轉(zhuǎn)換成十進(jìn)制:
2^24 - 1 = 16777215;  2^53 - 1 = 9007199254740991
由上可見(jiàn),IEEE754單精度浮點(diǎn)數(shù)有效數(shù)字二進(jìn)制24位,按十進(jìn)制來(lái)說(shuō),是8位;雙精度浮點(diǎn)數(shù)有效數(shù)字二進(jìn)制53位按十進(jìn)制來(lái)說(shuō),是16 位。顯然,如果一個(gè)實(shí)數(shù)的有效數(shù)字超過(guò)8位,用單精度浮點(diǎn)數(shù)來(lái)表示的話,就會(huì)產(chǎn)生誤差!同樣,如果一個(gè)實(shí)數(shù)的有效數(shù)字超過(guò)16位,用雙精度浮點(diǎn)數(shù)來(lái)表示,也會(huì)產(chǎn)生誤差!對(duì)于 1310720000000000000000.66 這個(gè)數(shù),有效數(shù)字是24位,用單精度或雙精度浮點(diǎn)數(shù)表示都會(huì)產(chǎn)生誤差,只是程度不同:   

單精度浮點(diǎn)數(shù):1310720040000000000000.00;雙精度浮點(diǎn)數(shù): 1310720000000000000000.00
可見(jiàn),雙精度差了 0.66 ,單精度差了近4萬(wàn)億!
以上說(shuō)明了因長(zhǎng)度限制而造成的誤差,但這還不是全部!采用IEEE754標(biāo)準(zhǔn)的計(jì)算機(jī)浮點(diǎn)數(shù),在內(nèi)部是用二進(jìn)制表示的,但在將一個(gè)十進(jìn)制數(shù)轉(zhuǎn)換為二進(jìn)制浮點(diǎn)數(shù)時(shí),也會(huì)造成誤差,原因是不是所有的數(shù)都能轉(zhuǎn)換成有限長(zhǎng)度的二進(jìn)制數(shù)。對(duì)于131072.32 這個(gè)數(shù),其有效數(shù)字是8位,按理應(yīng)該能用單精度浮點(diǎn)數(shù)準(zhǔn)確表示,為什么會(huì)出現(xiàn)偏差呢?看一下這個(gè)數(shù)據(jù)二進(jìn)制尾數(shù)就明白了 10000000000000000001010001......     顯然,其尾數(shù)超過(guò)了24bit,根據(jù)舍入規(guī)則,尾數(shù)只取 100000000000000000010100,結(jié)果就造成測(cè)試中遇到的“奇怪”現(xiàn)象!131072.68 用單精度浮點(diǎn)數(shù)表示變成 131072.69 ,原因與此類似。實(shí)際上有效數(shù)字小于8位的數(shù),浮點(diǎn)數(shù)也不一定能精確表示,7.22這個(gè)數(shù)的尾數(shù)就無(wú)法用24bit二進(jìn)制表示,當(dāng)然在數(shù)據(jù)庫(kù)中測(cè)試不會(huì)有問(wèn)題(舍入以后還是7.22),但如果參與一些計(jì)算,誤差積累后,就可能產(chǎn)生較大的偏差。

二、mysql 和 oracle中的數(shù)值類型

問(wèn)題是不是只有 mysql 存在呢?顯然不是,只要是符合IEEE754標(biāo)準(zhǔn)的浮點(diǎn)數(shù)實(shí)現(xiàn),都存在相同的問(wèn)題。
mysql中的數(shù)值類型(不包括整型):
IEEE754浮點(diǎn)數(shù):float(單精度),double或real(雙精度)  
定點(diǎn)數(shù):decimal或numeric
oracle中的數(shù)值類型:
oracle 浮點(diǎn)數(shù) :number(注意不指定精度)  
IEEE754浮點(diǎn)數(shù):BINARY_FLOAT(單精度),BINARY_DOUBLE(雙精度)FLOAT,F(xiàn)LOAT(n) (ansi要求的數(shù)據(jù)類型)
定點(diǎn)數(shù):number(p,s)
如果在oracle中,用BINARY_FLOAT等來(lái)做測(cè)試,結(jié)果是一樣的。因此,在數(shù)據(jù)庫(kù)中,對(duì)于涉及貨幣或其他精度敏感的數(shù)據(jù),應(yīng)使用定點(diǎn)數(shù)來(lái)存儲(chǔ),對(duì)mysql來(lái)說(shuō)是 decimal,對(duì)oracle來(lái)說(shuō)就是number(p,s)。雙精度浮點(diǎn)數(shù),對(duì)于比較大的數(shù)據(jù)同樣存在問(wèn)題!

三、編程中也存在浮點(diǎn)數(shù)問(wèn)題

不光數(shù)據(jù)庫(kù)中存在浮點(diǎn)數(shù)問(wèn)題,編程中也同樣存在,甚至可以說(shuō)更值得引起注意!
通過(guò)上面的介紹,浮點(diǎn)數(shù)的誤差問(wèn)題應(yīng)該比較清楚了。如果在程序中做復(fù)雜的浮點(diǎn)數(shù)運(yùn)算,誤差還會(huì)進(jìn)一步放大。因此,在程序設(shè)計(jì)中,如果用到浮點(diǎn)數(shù),一定要意識(shí)到可能產(chǎn)生的誤差問(wèn)題。不僅如此,浮點(diǎn)數(shù)如果處理不好,還會(huì)導(dǎo)致程序BUG!看下面的語(yǔ)句:if (x != y) { z = 1 / (x -y);}這個(gè)語(yǔ)句看起來(lái)沒(méi)有問(wèn)題,但如果是浮點(diǎn)數(shù),就可能存在問(wèn)題!再看下面的語(yǔ)句會(huì)輸出什么結(jié)果: public class Test { public static void main(String[]args) throws Exception { System.out.print("7.22-7.0=" + (7.22f-7.0f)); } }     我們可能會(huì)想當(dāng)然地認(rèn)為輸出結(jié)果應(yīng)該是 0.22 ,實(shí)際結(jié)果卻是 0.21999979 !
 因此,在編程中應(yīng)盡量避免做浮點(diǎn)數(shù)的比較,否則可能會(huì)導(dǎo)致一些潛在的問(wèn)題!除了這些,還應(yīng)注意浮點(diǎn)數(shù)中的一些特殊值,如 NaN、+0、-0、+無(wú)窮、-無(wú)窮等,IEEE754雖然對(duì)此做了一些約定,但各具體實(shí)現(xiàn)、不同的硬件結(jié)構(gòu),也會(huì)有一些差異,如果不注意也會(huì)造成錯(cuò)誤!

四、總結(jié):

從上面的分析,我們可以得出以下結(jié)論:

1、浮點(diǎn)數(shù)存在誤差問(wèn)題;
2、對(duì)貨幣等對(duì)精度敏感的數(shù)據(jù),應(yīng)該用定點(diǎn)數(shù)表示或存儲(chǔ);
3、編程中,如果用到浮點(diǎn)數(shù),要特別注意誤差問(wèn)題,并盡量避免做浮點(diǎn)數(shù)比較;
4、要注意浮點(diǎn)數(shù)中一些特殊值的處理

注意事項(xiàng)

MYSQL 5.022中,
如果某個(gè)字段 f是float類型,那么在查詢的時(shí)候,sql語(yǔ)句為:
select * from T where f = 2.2;
那么即使表中有2.2的數(shù)據(jù)也不能被查詢到.

此時(shí)解決方法有2種:
1.將float改為double類型,不會(huì)出現(xiàn)這種問(wèn)題.但是如果數(shù)據(jù)庫(kù)中數(shù)據(jù)量龐大,或者修改量太大,則不適合這個(gè)方法.這個(gè)方法只適合設(shè)計(jì)數(shù)據(jù)庫(kù)的初期階段.
2.設(shè)置float的精度然后進(jìn)行查詢就可以了.
如果要精確到3位,則:select * from T where format(f,3) = format(2.2,3);

但是,精度不能超過(guò)6.否則出錯(cuò).因?yàn)?span style="background-color: rgb(255, 204, 0);">float類型最多允許精確到小數(shù)點(diǎn)后6位.


    本站是提供個(gè)人知識(shí)管理的網(wǎng)絡(luò)存儲(chǔ)空間,所有內(nèi)容均由用戶發(fā)布,不代表本站觀點(diǎn)。請(qǐng)注意甄別內(nèi)容中的聯(lián)系方式、誘導(dǎo)購(gòu)買等信息,謹(jǐn)防詐騙。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容,請(qǐng)點(diǎn)擊一鍵舉報(bào)。
    轉(zhuǎn)藏 分享 獻(xiàn)花(0

    0條評(píng)論

    發(fā)表

    請(qǐng)遵守用戶 評(píng)論公約

    類似文章 更多