数値計算で発生する誤差の一つ。数学的な実数は無限の桁数をもつが、計算機での数値計算ではこれを有限桁数で表現するために発生する誤差のこと。現在の標準である IEEE-754 形式では、有効桁数は倍精度実数の場合 2 進数で 52 ビット、単精度実数では 23 ビットであり、10進数でそれぞれおよそ 16 桁、7桁に相当する。数値計算では、演算結果は常にこの桁数に丸められるため、演算ごとに誤差が発生する。これを丸め誤差という。