種類
- 定数 (14)
- インスタンスメソッド (9)
- 特異メソッド (3)
- ライブラリ (1)
ライブラリ
- bigdecimal (26)
クラス
- BigDecimal (26)
キーワード
-
EXCEPTION
_ ALL (1) -
EXCEPTION
_ INFINITY (1) -
EXCEPTION
_ NaN (1) -
EXCEPTION
_ OVERFLOW (1) -
EXCEPTION
_ UNDERFLOW (1) -
EXCEPTION
_ ZERODIVIDE (1) -
ROUND
_ CEILING (1) -
ROUND
_ DOWN (1) -
ROUND
_ FLOOR (1) -
ROUND
_ HALF _ DOWN (1) -
ROUND
_ HALF _ EVEN (1) -
ROUND
_ HALF _ UP (1) -
ROUND
_ MODE (1) -
ROUND
_ UP (1) - add (1)
- bigdecimal (1)
- div (1)
- limit (1)
- mult (1)
- round (3)
-
save
_ exception _ mode (1) -
save
_ rounding _ mode (1) - sub (1)
検索結果
先頭5件
-
BigDecimal
. mode(s) -> Integer | nil (154999.0) -
BigDecimal の計算処理の制御方法を設定、確認します。
BigDecimal の計算処理の制御方法を設定、確認します。
第2引数を省略、または nil を指定すると現状の設定値を返します。
@param s 制御方法の設定、確認を行う項目を BigDecimal::EXCEPTION_*、
BigDecimal::ROUND_MODE のいずれかで指定します。
@param v 引数 s が BigDecimal::ROUND_MODE の場合は
BigDecimal::ROUND_MODE 以外の BigDecimal::_ROUND* のいず
れかを指定します。指定した丸め処理が有効... -
BigDecimal
. mode(s , v) -> Integer | nil (154999.0) -
BigDecimal の計算処理の制御方法を設定、確認します。
BigDecimal の計算処理の制御方法を設定、確認します。
第2引数を省略、または nil を指定すると現状の設定値を返します。
@param s 制御方法の設定、確認を行う項目を BigDecimal::EXCEPTION_*、
BigDecimal::ROUND_MODE のいずれかで指定します。
@param v 引数 s が BigDecimal::ROUND_MODE の場合は
BigDecimal::ROUND_MODE 以外の BigDecimal::_ROUND* のいず
れかを指定します。指定した丸め処理が有効... -
BigDecimal
:: EXCEPTION _ ALL -> Integer (127075.0) -
BigDecimal の計算において例外を発生させるかどうかを設定、確認する 際の値を返します。
BigDecimal の計算において例外を発生させるかどうかを設定、確認する
際の値を返します。
以下の例外全てが対象です。
* BigDecimal::EXCEPTION_INFINITY
* BigDecimal::EXCEPTION_NaN
* BigDecimal::EXCEPTION_OVERFLOW
* BigDecimal::EXCEPTION_UNDERFLOW
* BigDecimal::EXCEPTION_ZERODIVIDE
BigDecimal.mode の第 1 引数に指定します。 -
BigDecimal
# save _ exception _ mode { . . . } -> object (127000.0) -
例外処理に関する BigDecimal.mode の設定を保存してブロックを評価し ます。ブロック中で変更した設定はブロックの評価後に復元されます。
例外処理に関する BigDecimal.mode の設定を保存してブロックを評価し
ます。ブロック中で変更した設定はブロックの評価後に復元されます。
ブロックの評価結果を返します。 -
BigDecimal
# save _ rounding _ mode { . . . } -> object (127000.0) -
丸め処理に関する BigDecimal.mode の設定を保存してブロックを評価します。 ブロック中で変更した設定はブロックの評価後に復元されます。
丸め処理に関する BigDecimal.mode の設定を保存してブロックを評価します。
ブロック中で変更した設定はブロックの評価後に復元されます。
ブロックの評価結果を返します。 -
BigDecimal
:: ROUND _ HALF _ EVEN -> Integer (126985.0) -
BigDecimal の計算結果の丸め処理で四捨六入するかどうかを設定、確認 する際の値を返します。5の時は上位1桁が奇数の時のみ繰り上げます (Banker's rounding)。
BigDecimal の計算結果の丸め処理で四捨六入するかどうかを設定、確認
する際の値を返します。5の時は上位1桁が奇数の時のみ繰り上げます
(Banker's rounding)。
BigDecimal.mode の第 2 引数に指定します。 -
BigDecimal
:: ROUND _ HALF _ DOWN -> Integer (117985.0) -
BigDecimal の計算結果の丸め処理で五捨六入するかどうかを設定、確認 する際の値を返します。
BigDecimal の計算結果の丸め処理で五捨六入するかどうかを設定、確認
する際の値を返します。
BigDecimal.mode の第 2 引数に指定します。 -
BigDecimal
:: ROUND _ HALF _ UP -> Integer (117985.0) -
BigDecimal の計算結果の丸め処理で四捨五入するかどうかを設定、確認 する際の値を返します。
BigDecimal の計算結果の丸め処理で四捨五入するかどうかを設定、確認
する際の値を返します。
BigDecimal.mode の第 2 引数に指定します。 -
BigDecimal
:: ROUND _ MODE -> Integer (117724.0) -
BigDecimal の計算結果の丸め処理を設定、確認する際の値を返します。
BigDecimal の計算結果の丸め処理を設定、確認する際の値を返します。
BigDecimal.mode の第 1 引数に指定します。詳細については
BigDecimal.mode を参照してください。 -
BigDecimal
:: EXCEPTION _ NaN -> Integer (108685.0) -
BigDecimal の計算結果が NaN になった場合に例外を発生させるかどう かを設定、確認する際の値を返します。
BigDecimal の計算結果が NaN になった場合に例外を発生させるかどう
かを設定、確認する際の値を返します。
BigDecimal.mode の第 1 引数に指定します。 -
BigDecimal
:: EXCEPTION _ OVERFLOW -> Integer (108685.0) -
BigDecimal の計算結果の指数部がオーバーフローした場合に例外を発生 させるかどうかを設定、確認する際の値を返します。
BigDecimal の計算結果の指数部がオーバーフローした場合に例外を発生
させるかどうかを設定、確認する際の値を返します。
BigDecimal.mode の第 1 引数に指定します。 -
BigDecimal
:: EXCEPTION _ UNDERFLOW -> Integer (108685.0) -
BigDecimal の計算結果の指数部がアンダーフローした場合に例外を発生 させるかどうかを設定、確認する際の値を返します。
BigDecimal の計算結果の指数部がアンダーフローした場合に例外を発生
させるかどうかを設定、確認する際の値を返します。
BigDecimal.mode の第 1 引数に指定します。 -
BigDecimal
:: ROUND _ CEILING -> Integer (108685.0) -
BigDecimal の計算結果の丸め処理で数値の大きい方に繰り上げるかどう かを設定、確認する際の値を返します。
BigDecimal の計算結果の丸め処理で数値の大きい方に繰り上げるかどう
かを設定、確認する際の値を返します。
BigDecimal.mode の第 2 引数に指定します。 -
BigDecimal
# add(other , n) -> BigDecimal (100276.0) -
和を計算します。
和を計算します。
self + other を最大で n 桁まで計算します。計算結果の精度が n より大きい
ときは BigDecimal.mode で指定された方法で丸められます。
@param other self に足す数を指定します。
@param n 有効桁数を整数で指定します。0 を指定した場合は
BigDecimal#+ と同じ値を返します。
@raise ArgumentError n に負の数を指定した場合に発生します。
@see BigDecimal#+ -
BigDecimal
# mult(other , n) -> BigDecimal (100276.0) -
積を計算します。
積を計算します。
self * other を最大で n 桁まで計算します。計算結果の精度が n より大きい
ときは BigDecimal.mode で指定された方法で丸められます。
@param other self に掛ける数を指定します。
@param n 有効桁数を整数で指定します。0 を指定した場合は
BigDecimal#* と同じ値を返します。
@raise ArgumentError n に負の数を指定した場合に発生します。
@see BigDecimal#* -
BigDecimal
. limit(n = nil) -> Integer (99865.0) -
生成されるBigDecimalオブジェクトの最大桁数をn桁に制限します。 n を指定しない、または n が nil の場合は、現状の最大桁数が返ります。
生成されるBigDecimalオブジェクトの最大桁数をn桁に制限します。
n を指定しない、または n が nil の場合は、現状の最大桁数が返ります。
戻り値は設定する前の値です。設定値のデフォルト値は0で、桁数無制限を表しています。
計算を続行する間に、数字の桁数が無制限に増えてしまうような場合 limit で
予め桁数を制限できます。この場合 BigDecimal.mode で指定された丸め処理が
実行されます。ただし、インスタンスメソッド (BigDecimal#truncate /
BigDecimal#round / BigDecimal#ceil / BigDecimal#... -
BigDecimal
:: ROUND _ FLOOR -> Integer (99685.0) -
BigDecimal の計算結果の丸め処理で数値の小さい方に繰り下げるかどう かを設定、確認する際の値を返します。
BigDecimal の計算結果の丸め処理で数値の小さい方に繰り下げるかどう
かを設定、確認する際の値を返します。
BigDecimal.mode の第 2 引数に指定します。 -
BigDecimal
:: EXCEPTION _ INFINITY -> Integer (99385.0) -
BigDecimal の計算結果が無限大になった場合に例外を発生させるかどう かを設定、確認する際の値を返します。
BigDecimal の計算結果が無限大になった場合に例外を発生させるかどう
かを設定、確認する際の値を返します。
BigDecimal.mode の第 1 引数に指定します。 -
BigDecimal
:: EXCEPTION _ ZERODIVIDE -> Integer (99385.0) -
BigDecimal に 0 による割り算を実行した場合に例外を発生させるかど うかを設定、確認する際の値を返します。
BigDecimal に 0 による割り算を実行した場合に例外を発生させるかど
うかを設定、確認する際の値を返します。
BigDecimal.mode の第 1 引数に指定します。 -
BigDecimal
# round(n) -> BigDecimal (91909.0) -
クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した BigDecimal::ROUND_MODE に従って丸め操作を実行します。
クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した
BigDecimal::ROUND_MODE に従って丸め操作を実行します。
@param n 小数点以下の桁数を整数で指定します。
@param b 丸め処理の方式として、BigDecimal.mode の第 1 引数と同じ
値を指定します。
BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で何も指定せず、
かつ、引数を指定しない場合は
「小数点以下第一位の数を四捨五入して整数(BigDecimal 値)」に... -
BigDecimal
# round(n , b) -> BigDecimal (91909.0) -
クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した BigDecimal::ROUND_MODE に従って丸め操作を実行します。
クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した
BigDecimal::ROUND_MODE に従って丸め操作を実行します。
@param n 小数点以下の桁数を整数で指定します。
@param b 丸め処理の方式として、BigDecimal.mode の第 1 引数と同じ
値を指定します。
BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で何も指定せず、
かつ、引数を指定しない場合は
「小数点以下第一位の数を四捨五入して整数(BigDecimal 値)」に... -
BigDecimal
# div(other , n) -> BigDecimal (91276.0) -
商を計算します。
商を計算します。
self / other を最大で n 桁まで計算します。計算結果の精度が n より大きい
ときは BigDecimal.mode で指定された方法で丸められます。
@param other self を割る数を指定します。
@param n 有効桁数を整数で指定します。省略するか 0 を指定した場合は
BigDecimal#/ と同じ値を返します。
@raise ArgumentError n に負の数を指定した場合に発生します。
@see BigDecimal#/ -
BigDecimal
# sub(other , n) -> BigDecimal (91276.0) -
差を計算します。
差を計算します。
self - other を最大で n 桁まで計算します。計算結果の精度が n より大きい
ときは BigDecimal.mode で指定された方法で丸められます。
@param other self から引く数を指定します。
@param n 有効桁数を整数で指定します。0 を指定した場合は
BigDecimal#- と同じ値を返します。
@raise ArgumentError n に負の数を指定した場合に発生します。
@see BigDecimal#- -
BigDecimal
# round -> Integer (91009.0) -
クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した BigDecimal::ROUND_MODE に従って丸め操作を実行します。
クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した
BigDecimal::ROUND_MODE に従って丸め操作を実行します。
@param n 小数点以下の桁数を整数で指定します。
@param b 丸め処理の方式として、BigDecimal.mode の第 1 引数と同じ
値を指定します。
BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で何も指定せず、
かつ、引数を指定しない場合は
「小数点以下第一位の数を四捨五入して整数(BigDecimal 値)」に... -
BigDecimal
:: ROUND _ DOWN -> Integer (90385.0) -
BigDecimal の計算結果の丸め処理で全て切り捨てるかどうかを設定、確 認する際の値を返します。
BigDecimal の計算結果の丸め処理で全て切り捨てるかどうかを設定、確
認する際の値を返します。
BigDecimal.mode の第 2 引数に指定します。 -
BigDecimal
:: ROUND _ UP -> Integer (90385.0) -
BigDecimal の計算結果の丸め処理で全て切り上げするかどうかを設定、 確認する際の値を返します。
BigDecimal の計算結果の丸め処理で全て切り上げするかどうかを設定、
確認する際の値を返します。
BigDecimal.mode の第 2 引数に指定します。 -
bigdecimal (74245.0)
-
bigdecimal は浮動小数点数演算ライブラリです。 任意の精度で 10 進表現された浮動小数点数を扱えます。
bigdecimal は浮動小数点数演算ライブラリです。
任意の精度で 10 進表現された浮動小数点数を扱えます。
//emlist[][ruby]{
require 'bigdecimal'
a = BigDecimal("0.123456789123456789")
b = BigDecimal("123456.78912345678", 40)
print a + b # => 0.123456912580245903456789e6
//}
一般的な 10 進数の計算でも有用です。2 進数の浮動小数点演算には微小な誤
差があるのに対し、BigDecimal では正確な値を得る事がで...