検索結果

Float::DIG -> Integer (54307.0)

• 2.1.0

• 定数

Float が表現できる最大の 10 進桁数です。

...
Float が表現できる最大の 10 進桁数です。

通常はデフォルトで 15 です。...

Float::MANT_DIG -> Integer (18307.0)

• 2.1.0

• 定数

仮数部の Float::RADIX 進法での桁数です。

...仮数部の Float::RADIX 進法での桁数です。

通常はデフォルトで 53 です。...

Float#round(ndigits = 0) -> Integer | Float (304.0)

• 2.1.0

• インスタンスメソッド

自身ともっとも近い整数もしくは実数を返します。

...3.141592653589793
t.round(3) # => 3.142
t.round(0) # => 3
t.round(1) # => 3.1

t = t**10 # => 93648.04747608298
t.round(-0) # => 93648
t.round(-1) # => 93650
t.round(-2) # => 93600
t.round(-3) # => 94000
t.round(-100) # => 0
//}

@see Float#ceil, Float#floor, Float#truncate...

Float#to_d -> BigDecimal (22.0)

• 2.1.0

• インスタンスメソッド

自身を BigDecimal に変換します。

...自身を BigDecimal に変換します。

@param prec 計算結果の精度。省略した場合は Float::DIG + 1 です。

@return BigDecimal に変換したオブジェクト

//emlist[][ruby]{
require 'bigdecimal'
require 'bigdecimal/util'

p 1.0.to_d # => 0.1e1
p (1.0 / 0).to_d # => I...

• BigDecimal

Float#to_d(prec) -> BigDecimal (22.0)

• 2.1.0

• インスタンスメソッド

自身を BigDecimal に変換します。

...自身を BigDecimal に変換します。

@param prec 計算結果の精度。省略した場合は Float::DIG + 1 です。

@return BigDecimal に変換したオブジェクト

//emlist[][ruby]{
require 'bigdecimal'
require 'bigdecimal/util'

p 1.0.to_d # => 0.1e1
p (1.0 / 0).to_d # => I...

• BigDecimal

絞り込み条件を変える