検索結果

BigDecimal::NAN -> BigDecimal (117703.0)

• 2.3.0

• 定数

NaN を表す BigDecimal オブジェクトを返します。

NaN を表す BigDecimal オブジェクトを返します。

• BigDecimal

BigDecimal::EXCEPTION_NaN -> Integer (81418.0)

• 2.3.0

• 定数

BigDecimal の計算結果が NaN になった場合に例外を発生させるかどう かを設定、確認する際の値を返します。

BigDecimal の計算結果が NaN になった場合に例外を発生させるかどう
かを設定、確認する際の値を返します。

BigDecimal.mode の第 1 引数に指定します。

• BigDecimal

BigDecimal::SIGN_NaN -> Integer (81400.0)

• 2.3.0

• 定数

NaN に対応する BigDecimal#sign の値を返します。

NaN に対応する BigDecimal#sign の値を返します。

• BigDecimal

BigDecimal#nan? -> bool (81352.0)

• 2.3.0

• インスタンスメソッド

self が NaN のときに true を返します。それ以外のときに false を返します。

self が NaN のときに true を返します。それ以外のときに false を返します。

• BigDecimal

BigDecimal.mode(s) -> Integer | nil (64021.0)

• 2.3.0

• 特異メソッド

BigDecimal の計算処理の制御方法を設定、確認します。

BigDecimal の計算処理の制御方法を設定、確認します。

第2引数を省略、または nil を指定すると現状の設定値を返します。

@param s 制御方法の設定、確認を行う項目を BigDecimal::EXCEPTION_*、
BigDecimal::ROUND_MODE のいずれかで指定します。

@param v 引数 s が BigDecimal::ROUND_MODE の場合は
BigDecimal::ROUND_MODE 以外の BigDecimal::_ROUND* のいず
れかを指定します。指定した丸め処理が有効...

• BigDecimal

絞り込み条件を変える

BigDecimal.mode(s, v) -> Integer | nil (64021.0)

• 2.3.0

• 特異メソッド

BigDecimal の計算処理の制御方法を設定、確認します。

BigDecimal の計算処理の制御方法を設定、確認します。

第2引数を省略、または nil を指定すると現状の設定値を返します。

@param s 制御方法の設定、確認を行う項目を BigDecimal::EXCEPTION_*、
BigDecimal::ROUND_MODE のいずれかで指定します。

@param v 引数 s が BigDecimal::ROUND_MODE の場合は
BigDecimal::ROUND_MODE 以外の BigDecimal::_ROUND* のいず
れかを指定します。指定した丸め処理が有効...

• BigDecimal

BigDecimal#sign -> -3 | -2 | -1 | 0 | 1 | 2 | 3 (63415.0)

• 2.3.0

• インスタンスメソッド

自身の符号等の性質に応じて、Integer を返します。

自身の符号等の性質に応じて、Integer を返します。

符号が正であれば正の整数を返し、負であれば負の整数を返し、NaN であれば 0 を返します。

NaN であれば、 0。 BigDecimal::SIGN_NaN と同じです。
+0 であれば、 1。 BigDecimal::SIGN_POSITIVE_ZERO と同じです。
-0 であれば、-1。 BigDecimal::SIGN_NEGATIVE_ZERO と同じです。
有限の正の値 であれば、 2。 BigDecimal::SIGN_POSITIVE_FINITE ...

• BigDecimal
• Integer

BigDecimal::EXCEPTION_ALL -> Integer (63175.0)

• 2.3.0

• 定数

BigDecimal の計算において例外を発生させるかどうかを設定、確認する 際の値を返します。

BigDecimal の計算において例外を発生させるかどうかを設定、確認する
際の値を返します。

以下の例外全てが対象です。

* BigDecimal::EXCEPTION_INFINITY
* BigDecimal::EXCEPTION_NaN
* BigDecimal::EXCEPTION_OVERFLOW
* BigDecimal::EXCEPTION_UNDERFLOW
* BigDecimal::EXCEPTION_ZERODIVIDE

BigDecimal.mode の第 1 引数に指定します。

• BigDecimal

BigDecimal#split -> [Integer, String, Integer, Integer] (63151.0)

• 2.3.0

• インスタンスメソッド

BigDecimal 値を 0.xxxxxxx*10**n と表現したときに、 符号 (NaNのときは 0、それ以外は+1か-1になります)、 仮数部分の文字列("xxxxxxx")と、基数(10)、更に指数 n を配列で返します。

BigDecimal 値を 0.xxxxxxx*10**n と表現したときに、
符号 (NaNのときは 0、それ以外は+1か-1になります)、
仮数部分の文字列("xxxxxxx")と、基数(10)、更に指数 n を配列で返します。

//emlist[][ruby]{
require "bigdecimal"
a = BigDecimal("3.14159265")
f, x, y, z = a.split
//}

とすると、f = 1、x = "314159265"、y = 10、z = 1 になります。
従って、以下のようにする事で Float に変換することができます。

//em...

• BigDecimal
• Float

BigDecimal#finite? -> bool (63049.0)

• 2.3.0

• インスタンスメソッド

self が ∞または NaN でないときに true を返します。それ以外のときに false を返します。

self が ∞または NaN でないときに true を返します。それ以外のときに
false を返します。

• BigDecimal

絞り込み条件を変える

BigDecimal#to_i -> Integer (63019.0)

• 2.3.0

• インスタンスメソッド

self の小数点以下を切り捨てて整数に変換します。

self の小数点以下を切り捨てて整数に変換します。

@raise FloatDomainError self が無限大や NaN であった場合に発生します。

• BigDecimal

BigDecimal#to_int -> Integer (63019.0)

• 2.3.0

• インスタンスメソッド

self の小数点以下を切り捨てて整数に変換します。

self の小数点以下を切り捨てて整数に変換します。

@raise FloatDomainError self が無限大や NaN であった場合に発生します。

• BigDecimal

bigdecimal (19993.0)

• 2.3.0

• ライブラリ

bigdecimal は浮動小数点数演算ライブラリです。 任意の精度で 10 進表現された浮動小数点数を扱えます。

bigdecimal は浮動小数点数演算ライブラリです。
任意の精度で 10 進表現された浮動小数点数を扱えます。

//emlist[][ruby]{
require 'bigdecimal'
a = BigDecimal("0.123456789123456789")
b = BigDecimal("123456.78912345678", 40)
print a + b # => 0.123456912580245903456789e6
//}

一般的な 10 進数の計算でも有用です。2 進数の浮動小数点演算には微小な誤
差があるのに対し、BigDecimal では正確な値を得る事がで...

• BigDecimal
• BigMath
• bigdecimal/jacobian
• bigdecimal/ludcmp
• bigdecimal/math
• bigdecimal/newton
• bigdecimal/util

Matrix#determinant -> Numeric (9319.0)

• 2.3.0

• インスタンスメソッド

行列式 (determinant) の値を返します。

行列式 (determinant) の値を返します。

Float を使用すると、精度が不足するため、誤った結果が生じる可能性があることに注意してください。
代わりに、Rational や BigDecimal などの正確なオブジェクトを使用することを検討してください。

@raise ExceptionForMatrix::ErrDimensionMismatch 正方行列でない場合に発生します

//emlist[例][ruby]{
require 'matrix'

p Matrix[[2, 1], [-1, 2]].det #=> 5
p Matrix[[2.0, 1...

• BigDecimal
• Float
• Matrix
• Rational

BigMath.#atan(x, prec) -> BigDecimal (454.0)

• 2.3.0

• モジュール関数

x の逆正接関数を prec で指定した精度で計算します。単位はラジアンです。 x に無限大や NaN を指定した場合には NaN を返します。

x の逆正接関数を prec で指定した精度で計算します。単位はラジアンです。
x に無限大や NaN を指定した場合には NaN を返します。

@param x 計算対象の BigDecimal オブジェクト。単位はラジアン。

@param prec 計算結果の精度。

@raise ArgumentError x の絶対値が1以上の場合に発生します。

@raise ArgumentError prec に 0 以下が指定された場合に発生します。

//emlist[][ruby]{
require "bigdecimal/math"

puts BigMath::atan(BigD...

• BigMath

絞り込み条件を変える

BigMath.#cos(x, prec) -> BigDecimal (454.0)

• 2.3.0

• モジュール関数

x の余弦関数を prec で指定した精度で計算します。単位はラジアンです。x に無限大や NaN を指定した場合には NaN を返します。

x の余弦関数を prec で指定した精度で計算します。単位はラジアンです。x
に無限大や NaN を指定した場合には NaN を返します。

@param x 計算対象の BigDecimal オブジェクト。単位はラジアン。

@param prec 計算結果の精度。

@raise ArgumentError prec に 0 以下が指定された場合に発生します。

//emlist[][ruby]{
require "bigdecimal/math"

puts BigMath::cos(BigDecimal('0.5'), 10) #=> 0.877582561890372716116...

• BigMath

BigMath.#sin(x, prec) -> BigDecimal (454.0)

• 2.3.0

• モジュール関数

x の正弦関数を prec で指定した精度で計算します。単位はラジアンです。x に無限大や NaN を指定した場合には NaN を返します。

x の正弦関数を prec で指定した精度で計算します。単位はラジアンです。x
に無限大や NaN を指定した場合には NaN を返します。

@param x 計算対象の BigDecimal オブジェクト。単位はラジアン。

@param prec 計算結果の精度。

@raise ArgumentError prec に 0 以下が指定された場合に発生します。

//emlist[][ruby]{
require "bigdecimal/math"

puts BigMath::sin(BigDecimal('0.5'), 10) #=> 0.479425538604203000273...

• BigMath

BigMath.#exp(x, prec) -> BigDecimal (412.0)

• 2.3.0

• モジュール関数

x の指数関数を prec で指定した精度で計算します。

x の指数関数を prec で指定した精度で計算します。

x に正の無限大を指定した場合は正の無限大を返します。負の無限大を指定し
た場合には 0 を返します。NaN を指定した場合には NaNを返します。

@param x 計算対象の数値を Integer、BigDecimal、
Float、Rationalオブジェクトのいずれかで指定します。

@param prec 計算結果の精度を指定します。

@raise ArgumentError x に Integer、BigDecimal、
Float、Rational以外のオ...

• BigDecimal
• BigMath
• Integer

BigMath.#log(x, prec) -> BigDecimal (394.0)

• 2.3.0

• モジュール関数

x の自然対数を prec で指定した精度で計算します。

x の自然対数を prec で指定した精度で計算します。

x に無限大を指定した場合は無限大を返します。NaN を指定した場合には NaN
を返します。

@param x 計算対象の数値を Integer、Float、
Rational、BigDecimal オブジェクトのいずれかで指定
します。

@param prec 計算結果の精度を指定します。

@raise Math::DomainError x に 0 以下の数値か Complex オブジェクト
が指定された場合に発生します。

@rais...

• BigMath
• Complex
• Float
• Integer

BigMath.#sqrt(x, prec) -> BigDecimal (358.0)

• 2.3.0

• モジュール関数

x の平方根を prec で指定した精度で計算します。

x の平方根を prec で指定した精度で計算します。

@param x 平方根を求める数。

@param prec 計算結果の精度。

@raise FloatDomainError x に 0 以下、もしくは NaN が指定された場合に発生します。

@raise ArgumentError prec に 0 未満が指定された場合に発生します。

//emlist[][ruby]{
require "bigdecimal/math"

puts BigMath::sqrt(BigDecimal('2'), 10) #=> 0.1414213562373095048666666667e...

• BigMath

絞り込み条件を変える