顯卡單精度浮點(diǎn)運(yùn)算能力怎么算？浮點(diǎn)是float， 比如1.323256256 12.54256 32bit長(zhǎng)度精度運(yùn)算顯卡最普遍精度是64bit/128bit，128bit略慢， 圖形trans

顯卡單精度浮點(diǎn)運(yùn)算能力怎么算？

浮點(diǎn)是float， 比如1.323256256 12.54256 32bit長(zhǎng)度精度運(yùn)算顯卡最普遍精度是64bit/128bit，128bit略慢， 圖形transform全是浮點(diǎn)運(yùn)算，GPU設(shè)計(jì)出來就是做浮點(diǎn)的這個(gè)很不好說，我正在計(jì)算浮點(diǎn)用人腦。很頭痛啊，二進(jìn)制實(shí)數(shù)，十進(jìn)制，指數(shù)，分?jǐn)?shù)，十進(jìn)制分?jǐn)?shù).都算然后來回轉(zhuǎn)換。這是單精度的，單精度是二進(jìn)制32位的，雙精度是二進(jìn)制64位的。浮點(diǎn)是float， 比如1.323256256 12.54256 32bit長(zhǎng)度精度運(yùn)算顯卡最普遍精度是64bit/128bit，128bit略慢， 圖形transform全是浮點(diǎn)運(yùn)算，GPU設(shè)計(jì)出來就是做浮點(diǎn)的你應(yīng)該可以想象了吧 A 卡略強(qiáng)些!