検索結果

Rational#to_d(nFig = 0) -> BigDecimal (3)

• 1.8.7
• 1.9.2
• 1.9.3

• インスタンスメソッド

自身を BigDecimal に変換します。

...まで計算を行います。

@param nFig 計算を行う桁数

@return BigDecimal に変換したオブジェクト


例:

require "rational"
require "bigdecimal"
require "bigdecimal/util"
Rational(1, 3).to_d(3).to_s # => "0.333E0"
Rational(1, 3).to_d(10).to_s # => "0.3333333333E0"...

...imal に変換したオブジェクト

@raise ArgumentError nFig に負の数を指定した場合に発生します。

例:

require "rational"
require "bigdecimal"
require "bigdecimal/util"
Rational(1, 3).to_d(3).to_s # => "0.333E0"
Rational(1, 3).to_d(10).to_s # => "0.3333333333E0"...

• BigDecimal
• BigDecimal.double_fig