天文学辞典 :ASJ glossary of astronomy | 天文、宇宙、天体に関する用語を3300語以上収録。随時追加・更新中!専門家がわかりやすく解説します。(すべて無料)

New

丸め誤差

高

よみ方

まるめごさ

英 語

round-off error

説 明

数値計算で発生する誤差の一つ。数学的な実数は無限の桁数をもつが、計算機での数値計算ではこれを有限桁数で表現するために発生する誤差のこと。現在の標準である IEEE-754 形式では、有効桁数は倍精度実数の場合 2 進数で 52 ビット、単精度実数では 23 ビットであり、10進数でそれぞれおよそ 16 桁、7桁に相当する。数値計算では、演算結果は常にこの桁数に丸められるため、演算ごとに誤差が発生する。これを丸め誤差という。

2018年03月06日更新

この用語の改善に向けてご意見をお寄せください。

受信確認メール以外、個別のお返事は原則いたしませんのでご了解ください。

    関連画像

    画像をクリックすると拡大されます