PLC模擬量的精確度和對(duì)應(yīng)數(shù)值有關(guān)系嗎？javascript避免數(shù)字計(jì)算精度誤差的方法詳解？我們需要計(jì)算出數(shù)字乘以10的n次方，轉(zhuǎn)換成計(jì)算機(jī)能準(zhǔn)確識(shí)別的整數(shù)，再除以10的n次方。例如，為了使0.1 0

PLC模擬量的精確度和對(duì)應(yīng)數(shù)值有關(guān)系嗎？

javascript避免數(shù)字計(jì)算精度誤差的方法詳解？

我們需要計(jì)算出數(shù)字乘以10的n次方，轉(zhuǎn)換成計(jì)算機(jī)能準(zhǔn)確識(shí)別的整數(shù)，再除以10的n次方。

例如，為了使0.1 0.2等于0.3，我們需要編寫如下代碼：

formatnum=function（F，digit）{

var M=數(shù)學(xué).pow（10，數(shù)字）

return parseInt（f*m，10）/m

}

var num1=0.1

var num2=0.2

警報(bào)（formatNum（num1 num2，1）==0.3）