387件ヒット
[1-100件を表示]
（0.161秒）
:![[x]](/images/drop-condition-icon.png "条件を削除"){kind=icon}
:別のキーワード
ライブラリ
- ビルトイン (363)
-
bigdecimal
/ util (24)
キーワード
- % (12)
- * (12)
- ** (12)
- + (12)
- -@ (12)
-
/ (12) - < (12)
- <= (12)
- == (12)
- > (12)
- >= (12)
- ceil (12)
- denominator (12)
- divmod (12)
- eql? (12)
- floor (12)
- inspect (12)
- modulo (12)
- negative? (10)
-
next
_ float (11) - numerator (12)
- positive? (10)
-
prev
_ float (11) - rationalize (24)
- round (21)
-
to
_ d (24) -
to
_ i (12) -
to
_ s (12) - truncate (12)
検索結果
先頭5件
-
Float
# -(other) -> Float (21226.0) -
算術演算子。差を計算します。
...算術演算子。差を計算します。
@param other 二項演算の右側の引数(対象)
//emlist[例][ruby]{
# 差
4.5 - 1.3 # => 3.2
//}... -
Float
# -@ -> Float (15354.0) -
単項演算子の - です。 self の符号を反転させたものを返します。
...単項演算子の - です。
self の符号を反転させたものを返します。
//emlist[例][ruby]{
- 1.2 # => -1.2
- -1.2 # => 1.2
//}... -
Float
# prev _ float -> Float (6476.0) -
浮動小数点数で表現可能な self の前の値を返します。
...す。
(-Float::MAX).prev_float と (-Float::INFINITY).prev_float
は -Float::INFINITY を返します。Float::NAN.prev_float は
Float::NAN を返します。
//emlist[例][ruby]{
p 0.01.prev_float # => 0.009999999999999998
p 1.0.prev_float # => 0.9999999999999999
p 100.0.prev_float # => 99.9......p 0.01 - 0.01.prev_float # => 1.734723475976807e-18
p 1.0 - 1.0.prev_float # => 1.1102230246251565e-16
p 100.0 - 100.0.prev_float # => 1.4210854715202004e-14
f = 0.01; 20.times { printf "%-20a %s\n", f, f.to_s; f = f.prev_float }
# => 0x1.47ae147ae147bp-7 0.01
# 0x1.47ae147ae147ap-7 0.009......47ae1479p-7 0.009999999999999997
# 0x1.47ae147ae1478p-7 0.009999999999999995
# 0x1.47ae147ae1477p-7 0.009999999999999993
# 0x1.47ae147ae1476p-7 0.009999999999999992
# 0x1.47ae147ae1475p-7 0.00999999999999999
# 0x1.47ae147ae1474p-7 0.009999999999999988
# 0x1.47ae147ae1473p-7 0.00999... -
Float
# next _ float -> Float (6376.0) -
浮動小数点数で表現可能な self の次の値を返します。
...します。
Float::MAX.next_float、Float::INFINITY.next_float は
Float::INFINITY を返します。Float::NAN.next_float は
Float::NAN を返します。
//emlist[例][ruby]{
p 0.01.next_float # => 0.010000000000000002
p 1.0.next_float # => 1.0000000000000002
p 100.0.next_float # => 100.000......p 0.01.next_float - 0.01 # => 1.734723475976807e-18
p 1.0.next_float - 1.0 # => 2.220446049250313e-16
p 100.0.next_float - 100.0 # => 1.4210854715202004e-14
f = 0.01; 20.times { printf "%-20a %s\n", f, f.to_s; f = f.next_float }
# => 0x1.47ae147ae147bp-7 0.01
# 0x1.47ae147ae147cp-7 0.01000......47ae147dp-7 0.010000000000000004
# 0x1.47ae147ae147ep-7 0.010000000000000005
# 0x1.47ae147ae147fp-7 0.010000000000000007
# 0x1.47ae147ae148p-7 0.010000000000000009
# 0x1.47ae147ae1481p-7 0.01000000000000001
# 0x1.47ae147ae1482p-7 0.010000000000000012
# 0x1.47ae147ae1483p-7 0.01000... -
Float
# rationalize -> Rational (6320.0) -
自身から eps で指定した許容誤差の範囲に収まるような Rational を返 します。
...るような Rational を返
します。
eps を省略した場合は誤差が最も小さくなるような Rational を返しま
す。
@param eps 許容する誤差
//emlist[例][ruby]{
0.3.rationalize # => (3/10)
1.333.rationalize # => (1333/1000)
1.333.rationalize(0.01) # =... -
Float
# rationalize(eps) -> Rational (6320.0) -
自身から eps で指定した許容誤差の範囲に収まるような Rational を返 します。
...るような Rational を返
します。
eps を省略した場合は誤差が最も小さくなるような Rational を返しま
す。
@param eps 許容する誤差
//emlist[例][ruby]{
0.3.rationalize # => (3/10)
1.333.rationalize # => (1333/1000)
1.333.rationalize(0.01) # =... -
Float
# to _ d -> BigDecimal (6232.0) -
自身を BigDecimal に変換します。
...
@param prec 計算結果の精度。省略した場合は Float::DIG + 1 です。
@return BigDecimal に変換したオブジェクト
//emlist[][ruby]{
require 'bigdecimal'
require 'bigdecimal/util'
p 1.0.to_d # => 0.1e1
p (1.0 / 0).to_d # => Infinity
p (1.0 / 3).to_d / (2.0 / 3).to_d......# => 0.5e0
p ((1.0 / 3) / (2.0 / 3)).to_d # => 0.5e0
//}
@raise ArgumentError prec に負の数を指定した場合に発生します。... -
Float
# to _ d(prec) -> BigDecimal (6232.0) -
自身を BigDecimal に変換します。
...
@param prec 計算結果の精度。省略した場合は Float::DIG + 1 です。
@return BigDecimal に変換したオブジェクト
//emlist[][ruby]{
require 'bigdecimal'
require 'bigdecimal/util'
p 1.0.to_d # => 0.1e1
p (1.0 / 0).to_d # => Infinity
p (1.0 / 3).to_d / (2.0 / 3).to_d......# => 0.5e0
p ((1.0 / 3) / (2.0 / 3)).to_d # => 0.5e0
//}
@raise ArgumentError prec に負の数を指定した場合に発生します。... -
Float
# to _ i -> Integer (6232.0) -
小数点以下を切り捨てて値を整数に変換します。
...す。
@param ndigits 10進数での小数点以下の有効桁数を整数で指定します。
正の整数を指定した場合、Float を返します。
小数点以下を、最大 n 桁にします。
負の整数を指定した場合、Integer を......す。
小数点位置から左に少なくとも n 個の 0 が並びます。
//emlist[例][ruby]{
2.8.truncate # => 2
(-2.8).truncate # => -2
1.234567.truncate(2) # => 1.23
34567.89.truncate(-2) # => 34500
//}
@see Numeric#round, Numeric#ceil, Numeric#floor...