第六下載站6down rounddown(7,0)=6，為啥？
rounddown(7,0)=6，為啥？如圖所示，0.65-0.7并不返回-0.05，而是-0.04999999。這是因?yàn)橛?jì)算機(jī)在處理十進(jìn)制計(jì)算時(shí)產(chǎn)生了不可避免的錯(cuò)誤。我們只能加一輪來(lái)處理。例如=向下
rounddown(7,0)=6，為啥？
如圖所示，0.65-0.7并不返回-0.05，而是-0.04999999。這是因?yàn)橛?jì)算機(jī)在處理十進(jìn)制計(jì)算時(shí)產(chǎn)生了不可避免的錯(cuò)誤。我們只能加一輪來(lái)處理。例如=向下取整（取整（0.65-0.7，2）*20，0）