検索結果

BigDecimal#exponent -> Integer (6203.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3

• インスタンスメソッド

self の指数部を整数値で返します。

self の指数部を整数値で返します。

• BigDecimal

BigDecimal::EXCEPTION_ALL -> Integer (6203.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3

• 定数

BigDecimal の計算において例外を発生させるかどうかを設定、確認する 際の値を返します。

...
BigDecimal の計算において例外を発生させるかどうかを設定、確認する
際の値を返します。

以下の例外全てが対象です。

* BigDecimal::EXCEPTION_INFINITY
* BigDecimal::EXCEPTION_NaN
* BigDecimal::EXCEPTION_OVERFLOW
* BigDecimal::EXCEPTION_UNDERFLOW
* B...

...igDecimal::EXCEPTION_ZERODIVIDE

BigDecimal.mode の第 1 引数に指定します。...

• BigDecimal

BigDecimal::EXCEPTION_INFINITY -> Integer (6203.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3

• 定数

BigDecimal の計算結果が無限大になった場合に例外を発生させるかどう かを設定、確認する際の値を返します。

...
BigDecimal の計算結果が無限大になった場合に例外を発生させるかどう
かを設定、確認する際の値を返します。

BigDecimal.mode の第 1 引数に指定します。...

• BigDecimal

BigDecimal::EXCEPTION_NaN -> Integer (6203.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3

• 定数

BigDecimal の計算結果が NaN になった場合に例外を発生させるかどう かを設定、確認する際の値を返します。

...
BigDecimal の計算結果が NaN になった場合に例外を発生させるかどう
かを設定、確認する際の値を返します。

BigDecimal.mode の第 1 引数に指定します。...

• BigDecimal

BigDecimal::EXCEPTION_OVERFLOW -> Integer (6203.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3

• 定数

BigDecimal の計算結果の指数部がオーバーフローした場合に例外を発生 させるかどうかを設定、確認する際の値を返します。

...
BigDecimal の計算結果の指数部がオーバーフローした場合に例外を発生
させるかどうかを設定、確認する際の値を返します。

BigDecimal.mode の第 1 引数に指定します。...

• BigDecimal

絞り込み条件を変える

BigDecimal::EXCEPTION_UNDERFLOW -> Integer (6203.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3

• 定数

BigDecimal の計算結果の指数部がアンダーフローした場合に例外を発生 させるかどうかを設定、確認する際の値を返します。

...
BigDecimal の計算結果の指数部がアンダーフローした場合に例外を発生
させるかどうかを設定、確認する際の値を返します。

BigDecimal.mode の第 1 引数に指定します。...

• BigDecimal

BigDecimal::EXCEPTION_ZERODIVIDE -> Integer (6203.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3

• 定数

BigDecimal に 0 による割り算を実行した場合に例外を発生させるかど うかを設定、確認する際の値を返します。

...
BigDecimal に 0 による割り算を実行した場合に例外を発生させるかど
うかを設定、確認する際の値を返します。

BigDecimal.mode の第 1 引数に指定します。...

• BigDecimal

Newton.#nlsolve(f, x) -> Integer (3102.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3

• モジュール関数

ニュートン法を用いて非線形方程式 f(x) = 0 の解 x を求めます。

...いて非線形方程式 f(x) = 0 の解 x を求めます。

@param f 関数を表すオブジェクトを指定します。詳細は
bigdecimal/newton をご覧ください。

@param x 探索を開始する点を数値の配列で指定します。解が複数ある場合、初...

• Newton

LUSolve.#ludecomp(a, n, zero = 0, one = 1) -> [Integer] (208.0)

• 2.1.0
• 2.2.0
• 2.3.0
• 2.4.0
• 2.5.0
• 2.6.0
• 2.7.0
• 3.0
• 3.1
• 3.2
• 3.3

• モジュール関数

n 次正方行列を表す配列 a を破壊的に変更し、返り値と併せて元の行列の LU 分解を提供します。

...a 行列を BigDecimal の配列で指定します。(各要素を
Row-major order で 1 次元の配列にしたオブジェクトを指定し
ます)

@param n 引数 a の次元を整数で指定します。

@param zero 0 を表す値を指定します。

@param one 1 を表...

...す値を指定します。

@return ピボットの位置を表す Integer の配列を返します。

@raise RuntimeError 引数 a に特異行列を指定した場合に発生します。...

• BigDecimal
• Integer
• LUSolve

BigDecimal.double_fig -> Integer (109.0)

• 2.5.0

• 特異メソッド

Ruby の Float クラスが保持できる有効数字の数を返します。

...Ruby の Float クラスが保持できる有効数字の数を返します。

//emlist[][ruby]{
require 'bigdecimal'
p BigDecimal::double_fig # ==> 16 (depends on the CPU etc.)
//}

double_figは以下の C プログラムの結果と同じです。

double v = 1.0;
int double_fig = 0;...

• BigDecimal
• Float

絞り込み条件を変える