浮點(diǎn)多項(xiàng)式運(yùn)算就死機(jī) 處理器浮點(diǎn)多項(xiàng)式運(yùn)算時(shí)死機(jī)?
處理器浮點(diǎn)多項(xiàng)式運(yùn)算時(shí)死機(jī)?IEEE754要求硬件上的加、減、乘、除、余數(shù)、平方根、整數(shù)類型轉(zhuǎn)換等操作都是“精確舍入”,也就是說在計(jì)算之后,二進(jìn)制浮點(diǎn)數(shù)的最后一位的精度要精確舍入,這就要求CPU使用比
處理器浮點(diǎn)多項(xiàng)式運(yùn)算時(shí)死機(jī)?
IEEE754要求硬件上的加、減、乘、除、余數(shù)、平方根、整數(shù)類型轉(zhuǎn)換等操作都是“精確舍入”,也就是說在計(jì)算之后,二進(jìn)制浮點(diǎn)數(shù)的最后一位的精度要精確舍入,這就要求CPU使用比浮點(diǎn)數(shù)更多的位來計(jì)算中間結(jié)果。
兩個(gè)多項(xiàng)式相加運(yùn)算(用c語言)?
實(shí)數(shù)=有理數(shù),無理數(shù)
無理數(shù)不能表示,只能有一個(gè)近似值,不管他是誰
有理數(shù)=整數(shù),非整數(shù)(十進(jìn)制)
對(duì)于C語言來說,它是int和float的差,double
1=2,這是整數(shù)加法
1.1=2.1,這是是實(shí)數(shù)加法(浮點(diǎn)數(shù)加法)
在計(jì)算整數(shù)和浮點(diǎn)數(shù)時(shí),很明顯在大多數(shù)情況下實(shí)數(shù)比整數(shù)更精確
例如,1.0 1=2.0,所以我可以確定第一個(gè)小數(shù)點(diǎn)是非零的(在計(jì)算機(jī)中會(huì)更精確)
所以當(dāng)計(jì)算機(jī)在各種情況下計(jì)算混合數(shù)時(shí),默認(rèn)返回值是最精確的