decimal是什么精度浮點類型 decimal是什么數(shù)據(jù)類型?
decimal是什么數(shù)據(jù)類型?十進(jìn)制精度高,無誤差。這是不對的。TA和浮點數(shù)非常不同。浮點數(shù)是將小數(shù)直接轉(zhuǎn)換成二進(jìn)制,而將兩個或兩個以上的小數(shù)轉(zhuǎn)換成二進(jìn)制則有誤差,即不能準(zhǔn)確表示。小數(shù)是數(shù)字?jǐn)?shù)據(jù)類型之
decimal是什么數(shù)據(jù)類型?
十進(jìn)制精度高,無誤差。這是不對的。TA和浮點數(shù)非常不同。浮點數(shù)是將小數(shù)直接轉(zhuǎn)換成二進(jìn)制,而將兩個或兩個以上的小數(shù)轉(zhuǎn)換成二進(jìn)制則有誤差,即不能準(zhǔn)確表示。小數(shù)是數(shù)字?jǐn)?shù)據(jù)類型之一,屬于定點數(shù)。它的標(biāo)準(zhǔn)格式是十進(jìn)制(m,d),其中m是長度,d是小數(shù)位數(shù)。其精度高于單浮點數(shù)和雙浮點數(shù)。對于銀行存款等有精度要求的項目,可以使用十進(jìn)制類型。當(dāng)然,這種類型的處理成本要比浮點數(shù)高。請注意,decimal將使用10位小數(shù)的默認(rèn)精度整數(shù),而不指定精度,即10位整數(shù)。