137件ヒット
[101-137件を表示]
(0.135秒)
別のキーワード
ライブラリ
- ビルトイン (113)
-
bigdecimal
/ util (24)
キーワード
- infinite? (12)
- inspect (12)
- nan? (12)
-
next
_ float (11) - phase (12)
- positive? (10)
-
prev
_ float (11) - rationalize (12)
- round (9)
-
to
_ d (24) -
to
_ s (12)
検索結果
先頭4件
-
Float
# next _ float -> Float (98.0) -
浮動小数点数で表現可能な self の次の値を返します。
...します。
Float::MAX.next_float、Float::INFINITY.next_float は
Float::INFINITY を返します。Float::NAN.next_float は
Float::NAN を返します。
//emlist[例][ruby]{
p 0.01.next_float # => 0.010000000000000002
p 1.0.next_float # => 1.0000000000000002
p 100.0.next_float # => 100.000......0.01.next_float - 0.01 # => 1.734723475976807e-18
p 1.0.next_float - 1.0 # => 2.220446049250313e-16
p 100.0.next_float - 100.0 # => 1.4210854715202004e-14
f = 0.01; 20.times { printf "%-20a %s\n", f, f.to_s; f = f.next_float }
# => 0x1.47ae147ae147bp-7 0.01
# 0x1.47ae147ae147cp-7 0.010000......147ae147dp-7 0.010000000000000004
# 0x1.47ae147ae147ep-7 0.010000000000000005
# 0x1.47ae147ae147fp-7 0.010000000000000007
# 0x1.47ae147ae148p-7 0.010000000000000009
# 0x1.47ae147ae1481p-7 0.01000000000000001
# 0x1.47ae147ae1482p-7 0.010000000000000012
# 0x1.47ae147ae1483p-7 0.0100... -
Float
# infinite? -> 1 | -1 | nil (26.0) -
数値が +∞ のとき 1、-∞のとき -1 を返します。それ以外は nil を返 します。
...数値が +∞ のとき 1、-∞のとき -1 を返します。それ以外は nil を返
します。
//emlist[例][ruby]{
inf = 1.0/0
p inf # => Infinity
p inf.infinite? # => 1
inf = -1.0/0
p inf # => -Infinity
p inf.infinite? # => -1
//}... -
Float
# to _ d -> BigDecimal (26.0) -
自身を BigDecimal に変換します。
...換します。
@param prec 計算結果の精度。省略した場合は Float::DIG + 1 です。
@return BigDecimal に変換したオブジェクト
//emlist[][ruby]{
require 'bigdecimal'
require 'bigdecimal/util'
p 1.0.to_d # => 0.1e1
p (1.0 / 0).to_d # => Infinity
p (1.0 / 3).to_d /......(2.0 / 3).to_d # => 0.5e0
p ((1.0 / 3) / (2.0 / 3)).to_d # => 0.5e0
//}
@raise ArgumentError prec に負の数を指定した場合に発生します。... -
Float
# nan? -> bool (14.0) -
数値が NaN(Not a number)のとき真を返します。
...数値が NaN(Not a number)のとき真を返します。
//emlist[例][ruby]{
nan = 0.0/0.0
p nan # => NaN
p nan.nan? # => true
//}...