物理世界是連續(xù)的,人的認知是有限的,所以處理的數(shù)據(jù)都是有限的小數(shù)。
基于這個特點,絕大部分數(shù)字系統(tǒng)中的處理都是定點
定點的缺點在于表示的數(shù)據(jù)范圍有限,于是就有了浮點數(shù)
這樣一來,就出現(xiàn)了數(shù)據(jù)表示誤差(一半是天使,一般是惡魔)
特別是在和用戶交互過程中,如果沒有能有效處理用戶的輸入,惡魔就敲門了。例如用戶輸入一個數(shù),再讀取回來就發(fā)現(xiàn)和輸入的不一致(xxx99999)
歸根結(jié)底,系統(tǒng)中需要一個完善的定點系統(tǒng),放棄掉基本的整型/浮點數(shù)表示。
使用兩種方式來表示:指數(shù)形式,AAAAA+E,前面表示有限的數(shù)據(jù),后面的E表示實際的范圍或者單位
分數(shù)M/N的形式,進行計算時需要將M/N代入公式成為(M*X)/N的形式,在這個過程中需要防止(M*X)溢出。