443件ヒット
[1-100件を表示]
(0.204秒)
種類
- インスタンスメソッド (359)
- 定数 (84)
ライブラリ
- ビルトイン (432)
-
bigdecimal
/ util (11)
キーワード
- % (11)
- * (11)
- ** (11)
- + (11)
-
/ (11) - < (11)
- <= (11)
- <=> (11)
- == (11)
- > (11)
- >= (11)
- DIG (11)
-
MANT
_ DIG (11) -
MAX
_ 10 _ EXP (11) -
MAX
_ EXP (11) -
MIN
_ 10 _ EXP (11) -
MIN
_ EXP (11) - RADIX (11)
- ROUNDS (7)
- arg (11)
- ceil (11)
- denominator (11)
- divmod (11)
- eql? (11)
- floor (11)
- hash (11)
- inspect (11)
- modulo (11)
- numerator (11)
-
prev
_ float (10) - rationalize (22)
- round (19)
-
to
_ d (11) -
to
_ i (11) -
to
_ r (11) -
to
_ s (11) - truncate (11)
- zero? (11)
検索結果
先頭5件
-
Float
# -(other) -> Float (21307.0) -
算術演算子。差を計算します。
...算術演算子。差を計算します。
@param other 二項演算の右側の引数(対象)
//emlist[例][ruby]{
# 差
4.5 - 1.3 # => 3.2
//}... -
Float
# prev _ float -> Float (15563.0) -
浮動小数点数で表現可能な self の前の値を返します。
...す。
(-Float::MAX).prev_float と (-Float::INFINITY).prev_float
は -Float::INFINITY を返します。Float::NAN.prev_float は
Float::NAN を返します。
//emlist[例][ruby]{
p 0.01.prev_float # => 0.009999999999999998
p 1.0.prev_float # => 0.9999999999999999
p 100.0.prev_float # => 99.9......p 0.01 - 0.01.prev_float # => 1.734723475976807e-18
p 1.0 - 1.0.prev_float # => 1.1102230246251565e-16
p 100.0 - 100.0.prev_float # => 1.4210854715202004e-14
f = 0.01; 20.times { printf "%-20a %s\n", f, f.to_s; f = f.prev_float }
# => 0x1.47ae147ae147bp-7 0.01
# 0x1.47ae147ae147ap-7 0.009.......47ae147ae1479p-7 0.009999999999999997
# 0x1.47ae147ae1478p-7 0.009999999999999995
# 0x1.47ae147ae1477p-7 0.009999999999999993
# 0x1.47ae147ae1476p-7 0.009999999999999992
# 0x1.47ae147ae1475p-7 0.00999999999999999
# 0x1.47ae147ae1474p-7 0.009999999999999988
# 0x1.47ae147ae1473p-7 0... -
Float
# rationalize -> Rational (15501.0) -
自身から eps で指定した許容誤差の範囲に収まるような Rational を返 します。
...るような Rational を返
します。
eps を省略した場合は誤差が最も小さくなるような Rational を返しま
す。
@param eps 許容する誤差
//emlist[例][ruby]{
0.3.rationalize # => (3/10)
1.333.rationalize # => (1333/1000)
1.333.rationalize(0.01) # =... -
Float
# rationalize(eps) -> Rational (15501.0) -
自身から eps で指定した許容誤差の範囲に収まるような Rational を返 します。
...るような Rational を返
します。
eps を省略した場合は誤差が最も小さくなるような Rational を返しま
す。
@param eps 許容する誤差
//emlist[例][ruby]{
0.3.rationalize # => (3/10)
1.333.rationalize # => (1333/1000)
1.333.rationalize(0.01) # =... -
Float
# denominator -> Integer (15401.0) -
自身を Rational に変換した時の分母を返します。
...自身を Rational に変換した時の分母を返します。
@return 分母を返します。
//emlist[例][ruby]{
2.0.denominator # => 1
0.5.denominator # => 2
//}
@see Float#numerator... -
Float
# numerator -> Integer (15301.0) -
自身を Rational に変換した時の分子を返します。
...自身を Rational に変換した時の分子を返します。
@return 分子を返します。
//emlist[例][ruby]{
2.0.numerator # => 2
0.5.numerator # => 1
//}
@see Float#denominator... -
Float
:: RADIX -> Integer (12301.0) -
指数表現の基数です。
指数表現の基数です。 -
Float
# truncate(ndigits = 0) -> Integer | Float (9407.0) -
小数点以下を切り捨てて値を整数に変換します。
...。
@param ndigits 10進数での小数点以下の有効桁数を整数で指定します。
正の整数を指定した場合、Float を返します。
小数点以下を、最大 n 桁にします。
負の整数を指定した場合、Integer を返......す。
小数点位置から左に少なくとも n 個の 0 が並びます。
//emlist[例][ruby]{
2.8.truncate # => 2
(-2.8).truncate # => -2
1.234567.truncate(2) # => 1.23
34567.89.truncate(-2) # => 34500
//}
@see Numeric#round, Numeric#ceil, Numeric#floor... -
Float
# round(ndigits = 0) -> Integer | Float (9319.0) -
自身ともっとも近い整数もしくは実数を返します。
...身ともっとも近い整数もしくは実数を返します。
中央値 0.5, -0.5 はそれぞれ 1,-1 に切り上げされます。
いわゆる四捨五入ですが、偶数丸めではありません。
@param ndigits 丸める位を指定します。
ndigitsが0ならば、小数......@return 指定された引数に応じて、整数もしくは実数を返します。
ndigitsが0ならば、整数を返します。
ndigitsが0より大きいならば、実数を返します。
ndigitsが0より小さいならば、整数を返します。
@raise TypeError.......round # => -2
t = Math::PI # => 3.141592653589793
t.round(3) # => 3.142
t.round(0) # => 3
t.round(1) # => 3.1
t = t**10 # => 93648.04747608298
t.round(-0) # => 93648
t.round(-1) # => 93650
t.round(-2) # => 93600
t.round(-3) # => 94000
t.round(-100) # => 0
//}
@see Float......aram half ちょうど半分の値の丸め方を指定します。
サポートされている値は以下の通りです。
* :up or nil: 0から遠い方に丸められます。
* :even: もっとも近い偶数に丸められます。
* :down: 0に近い方に丸められます。
@r......t.round(-1) # => 93650
t.round(-2) # => 93600
t.round(-3) # => 94000
t.round(-100) # => 0
2.5.round(half: :up) # => 3
2.5.round(half: :even) # => 2
2.5.round(half: :down) # => 2
3.5.round(half: :up) # => 4
3.5.round(half: :even) # => 4
3.5.round(half: :down) # => 3
//}
@see Float#ce... -
Float
# round(ndigits = 0 , half: :up) -> Integer | Float (9319.0) -
自身ともっとも近い整数もしくは実数を返します。
...身ともっとも近い整数もしくは実数を返します。
中央値 0.5, -0.5 はそれぞれ 1,-1 に切り上げされます。
いわゆる四捨五入ですが、偶数丸めではありません。
@param ndigits 丸める位を指定します。
ndigitsが0ならば、小数......aram half ちょうど半分の値の丸め方を指定します。
サポートされている値は以下の通りです。
* :up or nil: 0から遠い方に丸められます。
* :even: もっとも近い偶数に丸められます。
* :down: 0に近い方に丸められます。
@r......t.round(-1) # => 93650
t.round(-2) # => 93600
t.round(-3) # => 94000
t.round(-100) # => 0
2.5.round(half: :up) # => 3
2.5.round(half: :even) # => 2
2.5.round(half: :down) # => 2
3.5.round(half: :up) # => 4
3.5.round(half: :even) # => 4
3.5.round(half: :down) # => 3
//}
@see Float#ce...