Learn CS Visual

限られたビットで小数を保存する仕組み

限られたビット数では、コンピューターは数直線上の決まった値しか保存できず、あらゆる小数を表せるわけではありません。この保存できる値のことを近似値と呼びます。入力値がどの近似値とも一致しない場合は、一番近いものに丸められます。このとき生じる入力値との差を丸め誤差と呼びます。

近似値の数が少ないと、丸め誤差はどうなる?