限られたビットで小数を保存する仕組み
限られたビット数では、コンピューターは数直線上の決まった値しか保存できず、あらゆる小数を表せるわけではありません。この保存できる値のことを近似値と呼びます。入力値がどの近似値とも一致しない場合は、一番近いものに丸められます。このとき生じる入力値との差を丸め誤差と呼びます。
この課の目標
簡略モデルで、小数部分のビット数と丸め誤差の関係を説明できる。
近似値の数が少ないと、丸め誤差はどうなる?
限られたビット数では、コンピューターは数直線上の決まった値しか保存できず、あらゆる小数を表せるわけではありません。この保存できる値のことを近似値と呼びます。入力値がどの近似値とも一致しない場合は、一番近いものに丸められます。このとき生じる入力値との差を丸め誤差と呼びます。
簡略モデルで、小数部分のビット数と丸め誤差の関係を説明できる。
近似値の数が少ないと、丸め誤差はどうなる?