顯卡單精度浮點(diǎn)運(yùn)算能力怎么算？浮點(diǎn)是浮點(diǎn)數(shù)，比如1.323256256 12.54256 32位長的精度運(yùn)算，圖形卡最常見的精度是64位/128位，128位稍慢，圖形變換都是浮點(diǎn)運(yùn)算，GPU設(shè)計(jì)做浮點(diǎn)

顯卡單精度浮點(diǎn)運(yùn)算能力怎么算？

浮點(diǎn)是浮點(diǎn)數(shù)，比如1.323256256 12.54256 32位長的精度運(yùn)算，圖形卡最常見的精度是64位/128位，128位稍慢，圖形變換都是浮點(diǎn)運(yùn)算，GPU設(shè)計(jì)做浮點(diǎn)運(yùn)算，這很難說，我在用人腦計(jì)算浮點(diǎn)。很頭疼啊，二進(jìn)制實(shí)數(shù)，小數(shù)，索引，分?jǐn)?shù)，小數(shù)。計(jì)算，然后來回轉(zhuǎn)換。這是單精度，單精度是二進(jìn)制32位，雙精度是二進(jìn)制64位。浮點(diǎn)就是浮點(diǎn)數(shù)，比如1.323256256 12.54256 32位長的精度運(yùn)算，圖形卡最常見的精度是64位/128位，128位稍慢，圖形變換都是浮點(diǎn)運(yùn)算，GPU是專門做浮點(diǎn)運(yùn)算的，可以想象一張卡稍微好一點(diǎn)！