PRECISION

問合せ組込み関数 (総称):引数と同じ種別パラメタの実数を表現するモデルにおける有効けた数を返します。

形式

result = PRECISION (x)

x
(入力) 実数型または複素数型。これはスカラまたは配列値です。

結果

結果は基本整数型スカラです。結果の値は INT((DIGITS(x) - 1) * LOG10(RADIX(x))) です。RADIX(x) が 10 のべき乗である場合には,結果に 1 が加えられます。

互換性

CONSOLE STANDARD GRAPHICS QUICKWIN GRAPHICS WINDOWS DLL LIB

XREAL(4) の値である場合,PRECISION (X) の値は 6 になります。6 という値は,INT ((24-1) * LOG10 (2.)) = INT (6.92...) という計算から得られたものです。REAL(4) のモデルの詳細については,「実数データのモデル」を参照してください。