Quantcast
Channel: 黑暗執行緒
Viewing all articles
Browse latest Browse all 2311

浮點數計算結果更接近正解?

$
0
0
讀者 Lina 問了一個有趣問題: 為什麼 float 計算 193.25*4/3*3 等於 773 跟手算結果相同(除 3 跟乘 3 可約分),用 decimal 計算 193.25*4/3*3 卻是 773.00000000000000000000000001 反而誤差更大? 依據黑大名言「... Read More

Viewing all articles
Browse latest Browse all 2311

Trending Articles