検索結果

Float::DIG -> Fixnum (23001)

• 1.8.7
• 1.9.2
• 1.9.3

• 定数

Float が表現できる最大の 10 進桁数

...
Float が表現できる最大の 10 進桁数...

Float#to_d -> BigDecimal (7)

• 1.9.3

• インスタンスメソッド

自身を BigDecimal に変換します。

...身を BigDecimal に変換します。

@param prec 計算結果の精度。省略した場合は Float::DIG + 1 です。

@return BigDecimal に変換したオブジェクト

自身を一度 Float#to_s で文字列に変換してから
Kernel.#BigDecimal で生成するので、精度に注意...

• BigDecimal
• Float#to_s
• Float::DIG
• Kernel.#BigDecimal

Float#to_d(prec) -> BigDecimal (7)

• 1.9.3

• インスタンスメソッド

自身を BigDecimal に変換します。

...身を BigDecimal に変換します。

@param prec 計算結果の精度。省略した場合は Float::DIG + 1 です。

@return BigDecimal に変換したオブジェクト

自身を一度 Float#to_s で文字列に変換してから
Kernel.#BigDecimal で生成するので、精度に注意...

• BigDecimal
• Float#to_s
• Float::DIG
• Kernel.#BigDecimal