丸め誤差の絶対値を記述する用語はいくつかあります。実数定数または計算結果への浮動小数点近似は,最高で最後のけた (b P-1 ビット) の 1/2 単位で誤差を持つ可能性があります。ULP という略語は,"unit in the last place" (最後の桁の単位) という尺度を表しています。丸め誤差のもう 1 つの尺度は,正確な数値とその近似値の差を正確な数値で割った相対誤差を使用します。1/2 ULP に対応する相対誤差は,次の範囲にあります。
1/2 2 -P <= 1/2 ULP <= 2 -P
上限の EPS = 2 -P はマシン・イプシロンと呼ばれ,1.0 に足すと,1.0 に丸められない結果が得られる最も小さい浮動小数点数を表現していることから,丸め誤差の議論でよく使われます。
浮動小数点ハードウェアには,EPS のオーダーでの丸めを可能にするガード・ビットが追加されています。このため,1 つの浮動小数点演算結果の不正確さが許容可能だったとしても,伝播した数値に対してこの種の演算が多数行われると,合計の誤差が累積することは避けられません。