float精度丟失
在對兩個float類型的數(shù)據(jù)進行四則運算的時候,可能會導(dǎo)致出現(xiàn)xx.99999999或x.00000001等情況。 例 在上述例子中可以看到,0.55+0.02并不等于0.57,因為這個結(jié)果在內(nèi)存中其實是0.579999999或0.570000000001所以并不等于0.57。這個問題在底層為C的程序中基本都會出現(xiàn),例如js,python等等Js例子Python例子這種...
2023-03-24
相關(guān)Tag