小數(shù)

物理世界是連續(xù)的,人的認知是有限的,所以處理的數(shù)據(jù)都是有限的小數(shù)。

基于這個特點,絕大部分數(shù)字系統(tǒng)中的處理都是定點

定點的缺點在于表示的數(shù)據(jù)范圍有限,于是就有了浮點數(shù)

這樣一來,就出現(xiàn)了數(shù)據(jù)表示誤差(一半是天使,一般是惡魔)

特別是在和用戶交互過程中,如果沒有能有效處理用戶的輸入,惡魔就敲門了。例如用戶輸入一個數(shù),再讀取回來就發(fā)現(xiàn)和輸入的不一致(xxx99999)

歸根結(jié)底,系統(tǒng)中需要一個完善的定點系統(tǒng),放棄掉基本的整型/浮點數(shù)表示。

使用兩種方式來表示:指數(shù)形式,AAAAA+E,前面表示有限的數(shù)據(jù),后面的E表示實際的范圍或者單位

分數(shù)M/N的形式,進行計算時需要將M/N代入公式成為(M*X)/N的形式,在這個過程中需要防止(M*X)溢出。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

  • 定點小數(shù)運算 來自:http://www.eepw.com.cn/article/17893.htm 在DSP世界...
    郝宇峰閱讀 9,984評論 0 2
  • 今年一月四號,看到李笑來在公眾號里說每天不管多忙多累都要寫三千字,于是我冒出了“每天寫五百字”的念頭。 寒往暑來,...
    張永勝_永往直前閱讀 373評論 0 3
  • 1.溫泉賓館群鴨突中毒 今年立春早,春節(jié)未過,天氣就日漸暖和了。英華鴨集團董事長為了讓員工們休好春節(jié)假,養(yǎng)精蓄...
    米老爹閱讀 1,669評論 45 34
  • 疲倦、迷茫、無所適從。家里人的催促加上自己內(nèi)心的倦怠,真的覺得亞歷山大。我現(xiàn)在開始慢慢懷疑很多東西,愛情、職業(yè)、性...
    Scarlett_moon閱讀 169評論 0 0
  • 有的時候靜下來想想我總會很害怕,怕我會失去婚姻和愛情。因為家庭關(guān)系不和諧。很怕。 因為一直不太喜歡他爸媽有失水準的...
    又一彼岸花閱讀 391評論 0 0

友情鏈接更多精彩內(nèi)容