引用引用第2樓不小心遇見你于2025-08-10 09:32發(fā)表的 :浮點(diǎn)數(shù)存儲(chǔ)本來就是超出位忽略存儲(chǔ),加上R系列是新的硬件架構(gòu),存儲(chǔ)精度是存在差異。特別是尾數(shù)23位,新的架構(gòu)考慮了第24位是0還是1
引用引用第4樓zmrs163于2025-08-12 08:58發(fā)表的 :硬件架構(gòu)不一樣導(dǎo)致浮點(diǎn)數(shù)計(jì)算存在細(xì)微差別,雖然沒研究三菱的CPU,但是打個(gè)比方有的CPU浮點(diǎn)數(shù)中間計(jì)算精度不止float,結(jié)果只是截?cái)喑蒮loat,處理方法就是盡量避免這種大范圍數(shù)值相除。
主辦單位:上海明控機(jī)電科技有限公司
本站所有內(nèi)容均為網(wǎng)友自行發(fā)布,不代表網(wǎng)站立場,如有爭議請(qǐng)與管理員聯(lián)系
工控人家園是公益論壇,不銷售任何資料軟件,不銷售會(huì)員和積分
刪貼、投訴電話:13816792706
遵守法律,文明發(fā)言 滬ICP備10210768號(hào)-2 滬公網(wǎng)安備31010802001143號(hào)