4件ヒット
[1-4件を表示]
(0.084秒)
種類
- インスタンスメソッド (2)
- クラス (1)
- モジュール関数 (1)
ライブラリ
- ビルトイン (1)
- bigdecimal (2)
-
bigdecimal
/ math (1)
クラス
- BigDecimal (2)
モジュール
- BigMath (1)
検索結果
先頭4件
-
FloatDomainError (132001.0)
-
正負の無限大や NaN (Not a Number) を Bignum に変換しようとしたり、 NaN との比較を行ったときに発生します。
正負の無限大や NaN (Not a Number) を Bignum に変換しようとしたり、
NaN との比較を行ったときに発生します。 -
BigDecimal
# to _ i -> Integer (9019.0) -
self の小数点以下を切り捨てて整数に変換します。
self の小数点以下を切り捨てて整数に変換します。
@raise FloatDomainError self が無限大や NaN であった場合に発生します。 -
BigDecimal
# to _ int -> Integer (9019.0) -
self の小数点以下を切り捨てて整数に変換します。
self の小数点以下を切り捨てて整数に変換します。
@raise FloatDomainError self が無限大や NaN であった場合に発生します。 -
BigMath
. # sqrt(x , prec) -> BigDecimal (319.0) -
x の平方根を prec で指定した精度で計算します。
x の平方根を prec で指定した精度で計算します。
@param x 平方根を求める数。
@param prec 計算結果の精度。
@raise FloatDomainError x に 0 以下、もしくは NaN が指定された場合に発生します。
@raise ArgumentError prec に 0 未満が指定された場合に発生します。
//emlist[][ruby]{
require "bigdecimal/math"
puts BigMath::sqrt(BigDecimal('2'), 10) #=> 0.1414213562373095048666666667e...