5件ヒット
[1-5件を表示]
(0.089秒)
種類
- 定数 (4)
- インスタンスメソッド (1)
ライブラリ
- ビルトイン (5)
キーワード
-
MAX
_ 10 _ EXP (1) -
MAX
_ EXP (1) -
MIN
_ 10 _ EXP (1) -
MIN
_ EXP (1) -
prev
_ float (1)
検索結果
先頭5件
-
Float
:: MAX _ 10 _ EXP -> Integer (18607.0) -
最大の 10 進の指数です。
...最大の 10 進の指数です。
通常はデフォルトで 308 です。
@see Float::MIN_10_EXP... -
Float
:: MAX _ EXP -> Integer (18607.0) -
最大の Float::RADIX 進の指数です。
...最大の Float::RADIX 進の指数です。
通常はデフォルトで 1024 です。
@see Float::MIN_EXP... -
Float
# prev _ float -> Float (18322.0) -
浮動小数点数で表現可能な self の前の値を返します。
...す。
(-Float::MAX).prev_float と (-Float::INFINITY).prev_float
は -Float::INFINITY を返します。Float::NAN.prev_float は
Float::NAN を返します。
//emlist[例][ruby]{
p 0.01.prev_float # => 0.009999999999999998
p 1.0.prev_float # => 0.9999999999999999
p 100.0.prev_float # => 99.9......9999999999999
p 0.01 - 0.01.prev_float # => 1.734723475976807e-18
p 1.0 - 1.0.prev_float # => 1.1102230246251565e-16
p 100.0 - 100.0.prev_float # => 1.4210854715202004e-14
f = 0.01; 20.times { printf "%-20a %s\n", f, f.to_s; f = f.prev_float }
# => 0x1.47ae147ae147bp-7 0.01
# 0x1.47ae147a......47ae147ae146dp-7 0.009999999999999976
# 0x1.47ae147ae146cp-7 0.009999999999999974
# 0x1.47ae147ae146bp-7 0.009999999999999972
# 0x1.47ae147ae146ap-7 0.00999999999999997
# 0x1.47ae147ae1469p-7 0.009999999999999969
# 0x1.47ae147ae1468p-7 0.009999999999999967
//}
@see Float#next_float... -
Float
:: MIN _ 10 _ EXP -> Integer (322.0) -
最小の 10 進の指数です。
...最小の 10 進の指数です。
通常はデフォルトで -307 です。
@see Float::MAX_10_EXP... -
Float
:: MIN _ EXP -> Integer (322.0) -
最小の Float::RADIX 進の指数です。
...最小の Float::RADIX 進の指数です。
通常はデフォルトで -1021 です。
@see Float::MAX_EXP...