検索結果

Bignum#to_f -> Float (63307.0)

• 2.3.0

• インスタンスメソッド

値を浮動小数点数(Float)に変換します。

値を浮動小数点数(Float)に変換します。

• Bignum
• Float

Fixnum#to_f -> Float (63307.0)

• 2.3.0

• インスタンスメソッド

値を浮動小数点数(Float)に変換します。

値を浮動小数点数(Float)に変換します。

• Fixnum
• Float

BigDecimal#round -> Integer (18376.0)

• 2.3.0

• インスタンスメソッド

クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した BigDecimal::ROUND_MODE に従って丸め操作を実行します。

クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した
BigDecimal::ROUND_MODE に従って丸め操作を実行します。

@param n 小数点以下の桁数を整数で指定します。

@param b 丸め処理の方式として、BigDecimal.mode の第 1 引数と同じ
値を指定します。

BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で何も指定せず、
かつ、引数を指定しない場合は
「小数点以下第一位の数を四捨五入して整数(BigDecimal 値)」に...

• BigDecimal

BigDecimal#round(n) -> BigDecimal (18376.0)

• 2.3.0

• インスタンスメソッド

クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した BigDecimal::ROUND_MODE に従って丸め操作を実行します。

クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した
BigDecimal::ROUND_MODE に従って丸め操作を実行します。

@param n 小数点以下の桁数を整数で指定します。

@param b 丸め処理の方式として、BigDecimal.mode の第 1 引数と同じ
値を指定します。

BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で何も指定せず、
かつ、引数を指定しない場合は
「小数点以下第一位の数を四捨五入して整数(BigDecimal 値)」に...

• BigDecimal

BigDecimal#round(n, b) -> BigDecimal (18376.0)

• 2.3.0

• インスタンスメソッド

クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した BigDecimal::ROUND_MODE に従って丸め操作を実行します。

クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した
BigDecimal::ROUND_MODE に従って丸め操作を実行します。

@param n 小数点以下の桁数を整数で指定します。

@param b 丸め処理の方式として、BigDecimal.mode の第 1 引数と同じ
値を指定します。

BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で何も指定せず、
かつ、引数を指定しない場合は
「小数点以下第一位の数を四捨五入して整数(BigDecimal 値)」に...

• BigDecimal

絞り込み条件を変える

BigDecimal#truncate -> Integer (18340.0)

• 2.3.0

• インスタンスメソッド

小数点以下の数を切り捨てて整数にします。

小数点以下の数を切り捨てて整数にします。

@param n 小数点以下の桁数を整数で指定します。

以下のように引数を与えて、小数点以下 n+1 位の数字を操作することもできます。
n が正の時は、小数点以下 n+1 位の数字を切り捨てます
(小数点以下を、最大 n 桁にします)。
n が負のときは小数点以上 n 桁目を操作します
(小数点位置から左に少なくとも n 個の 0 が並びます)。

//emlist[][ruby]{
require "bigdecimal"
BigDecimal("1.23456").truncate(4).to_f # => 1.2345
BigDec...

• BigDecimal

BigDecimal#truncate(n) -> BigDecimal (18340.0)

• 2.3.0

• インスタンスメソッド

小数点以下の数を切り捨てて整数にします。

小数点以下の数を切り捨てて整数にします。

@param n 小数点以下の桁数を整数で指定します。

以下のように引数を与えて、小数点以下 n+1 位の数字を操作することもできます。
n が正の時は、小数点以下 n+1 位の数字を切り捨てます
(小数点以下を、最大 n 桁にします)。
n が負のときは小数点以上 n 桁目を操作します
(小数点位置から左に少なくとも n 個の 0 が並びます)。

//emlist[][ruby]{
require "bigdecimal"
BigDecimal("1.23456").truncate(4).to_f # => 1.2345
BigDec...

• BigDecimal

Time#subsec -> Integer | Rational (18340.0)

• 2.3.0

• インスタンスメソッド

時刻を表す分数を返します。

時刻を表す分数を返します。

Rational を返す場合があります。

//emlist[][ruby]{
t = Time.local(2000,1,2,3,4,5,6)
p "%10.9f" % t.to_f # => "946749845.000005960"
p t.subsec #=> (3/500000)
//}

to_f の値と subsec の値の下のほうの桁の値は異なる場合があります。
というのは IEEE 754 double はそれを表すのに十分な精度を
持たないからです。subsec で得られる値が正確です。

• Rational
• Time

Rational#round(precision = 0) -> Integer | Rational (18322.0)

• 2.3.0

• インスタンスメソッド

自身ともっとも近い整数を返します。

自身ともっとも近い整数を返します。

中央値 0.5, -0.5 はそれぞれ 1,-1 に切り上げされます。

@param precision 計算結果の精度

@raise TypeError precision に整数以外のものを指定すると発生します。

//emlist[例][ruby]{
Rational(3).round # => 3
Rational(2, 3).round # => 1
Rational(-3, 2).round # => -2
//}

precision を指定した場合は指定した桁数の数値と、上述の性質に最も近い整
数か Rational を返し...

• Rational

Time#tv_usec -> Integer (18322.0)

• 2.3.0

• インスタンスメソッド

時刻のマイクロ秒の部分を整数で返します。

時刻のマイクロ秒の部分を整数で返します。

//emlist[][ruby]{
t = Time.local(2000,1,2,3,4,5,6)
p "%10.6f" % t.to_f #=> "946749845.000006"
p t.usec #=> 6
//}

• Time

絞り込み条件を変える

Time#usec -> Integer (18322.0)

• 2.3.0

• インスタンスメソッド

時刻のマイクロ秒の部分を整数で返します。

時刻のマイクロ秒の部分を整数で返します。

//emlist[][ruby]{
t = Time.local(2000,1,2,3,4,5,6)
p "%10.6f" % t.to_f #=> "946749845.000006"
p t.usec #=> 6
//}

• Time

Numeric#coerce(other) -> [Numeric] (9322.0)

• 2.3.0

• インスタンスメソッド

自身と other が同じクラスになるよう、自身か other を変換し [other, self] という配列にして返します。

自身と other が同じクラスになるよう、自身か other を変換し [other, self] という配列にして返します。

デフォルトでは self と other を Float に変換して [other, self] という配列にして返します。
Numeric のサブクラスは、このメソッドを適切に再定義しなければなりません。
以下は Rational の coerce のソースです。other が自身の知らない数値クラスであった場合、
super を呼んでいることに注意して下さい。


//emlist[例][ruby]{
# lib/rational.rb より

def co...

• Float
• Numeric
• Rational

Rational#truncate(precision = 0) -> Rational | Integer (9322.0)

• 2.3.0

• インスタンスメソッド

小数点以下を切り捨てて値を整数に変換します。

小数点以下を切り捨てて値を整数に変換します。

@param precision 計算結果の精度

@raise TypeError precision に整数以外のものを指定すると発生します。

//emlist[例][ruby]{
Rational(2, 3).to_i # => 0
Rational(3).to_i # => 3
Rational(300.6).to_i # => 300
Rational(98, 71).to_i # => 1
Rational(-31, 2).to_i # => -15
//}

precision を指定した場合は指定した桁数で切り...

• Rational

Bignum#eql?(other) -> bool (9040.0)

• 2.3.0

• インスタンスメソッド

self と other のクラスが等しくかつ同じ値である場合に true を返します。 そうでない場合に false を返します。

self と other のクラスが等しくかつ同じ値である場合に true を返します。
そうでない場合に false を返します。

@param other self と比較したい数値。

(1 << 64) == (1 << 64).to_f # => true
(1 << 64).eql?((1 << 64).to_f) # => false

• Bignum