8件ヒット
[1-8件を表示]
(0.010秒)
別のキーワード
検索結果
先頭5件
-
BigDecimal
# add(other , n) -> BigDecimal (28.0) -
和を計算します。
...の精度が n より大きい
ときは BigDecimal.mode で指定された方法で丸められます。
@param other self に足す数を指定します。
@param n 有効桁数を整数で指定します。0 を指定した場合は
BigDecimal#+ と同じ値を返します。
@raise A......rgumentError n に負の数を指定した場合に発生します。
@see BigDecimal#+... -
BigDecimal
# div(other , n) -> BigDecimal (28.0) -
商を計算します。
...度が n より大きい
ときは BigDecimal.mode で指定された方法で丸められます。
@param other self を割る数を指定します。
@param n 有効桁数を整数で指定します。省略するか 0 を指定した場合は
BigDecimal#/ と同じ値を返します。......@raise ArgumentError n に負の数を指定した場合に発生します。
@see BigDecimal#/... -
BigDecimal
# mult(other , n) -> BigDecimal (28.0) -
積を計算します。
...の精度が n より大きい
ときは BigDecimal.mode で指定された方法で丸められます。
@param other self に掛ける数を指定します。
@param n 有効桁数を整数で指定します。0 を指定した場合は
BigDecimal#* と同じ値を返します。
@rais......e ArgumentError n に負の数を指定した場合に発生します。
@see BigDecimal#*... -
BigDecimal
# sqrt(n) -> BigDecimal (28.0) -
self の有効桁 n 桁の平方根 (n の平方根ではありません) をニュートン法で 計算します。
self の有効桁 n 桁の平方根 (n の平方根ではありません) をニュートン法で
計算します。
@param n 有効桁数を整数で指定します。
@raise ArgumentError n に負の数を指定した場合に発生します。 -
BigDecimal
# sub(other , n) -> BigDecimal (28.0) -
差を計算します。
...の精度が n より大きい
ときは BigDecimal.mode で指定された方法で丸められます。
@param other self から引く数を指定します。
@param n 有効桁数を整数で指定します。0 を指定した場合は
BigDecimal#- と同じ値を返します。
@rais......e ArgumentError n に負の数を指定した場合に発生します。
@see BigDecimal#-... -
Float
# to _ d -> BigDecimal (25.0) -
自身を BigDecimal に変換します。
...自身を BigDecimal に変換します。
@param prec 計算結果の精度。省略した場合は Float::DIG + 1 です。
@return BigDecimal に変換したオブジェクト
//emlist[][ruby]{
require 'bigdecimal'
require 'bigdecimal/util'
p 1.0.to_d # => 0.1e1
p (1.0 / 0).to_d # => I... -
Float
# to _ d(prec) -> BigDecimal (25.0) -
自身を BigDecimal に変換します。
...自身を BigDecimal に変換します。
@param prec 計算結果の精度。省略した場合は Float::DIG + 1 です。
@return BigDecimal に変換したオブジェクト
//emlist[][ruby]{
require 'bigdecimal'
require 'bigdecimal/util'
p 1.0.to_d # => 0.1e1
p (1.0 / 0).to_d # => I... -
Rational
# to _ d(nFig) -> BigDecimal (25.0) -
自身を BigDecimal に変換します。
...自身を BigDecimal に変換します。
nFig 桁まで計算を行います。
@param nFig 計算を行う桁数
@return BigDecimal に変換したオブジェクト
@raise ArgumentError nFig に 0 以下を指定した場合に発生します。
//emlist[][ruby]{
require "bigdecimal"
requir...