天文学辞典 | 天文、宇宙、天体に関する用語を3000語以上収録。専門家がわかりやすく解説します。

丸め誤差

高

よみ方

まるめごさ

英 語

round-off error

説 明

数値計算で発生する誤差の一つ。数学的な実数は無限の桁数をもつが、計算機での数値計算ではこれを有限桁数で表現するために発生する誤差のこと。現在の標準である IEEE-754 形式では、有効桁数は倍精度実数の場合 2 進数で 52 ビット、単精度実数では 23 ビットであり、10進数でそれぞれおよそ 16 桁、7桁に相当する。数値計算では、演算結果は常にこの桁数に丸められるため、演算ごとに誤差が発生する。これを丸め誤差という。

2018年03月06日更新

関連画像