検索結果

bigdecimal (115813.0)

• 2.2.0

• ライブラリ

bigdecimal は浮動小数点数演算ライブラリです。 任意の精度で 10 進表現された浮動小数点数を扱えます。

bigdecimal は浮動小数点数演算ライブラリです。
任意の精度で 10 進表現された浮動小数点数を扱えます。

//emlist[][ruby]{
require 'bigdecimal'
a = BigDecimal("0.123456789123456789")
b = BigDecimal("123456.78912345678", 40)
print a + b # => 0.123456912580245903456789e6
//}

一般的な 10 進数の計算でも有用です。2 進数の浮動小数点演算には微小な誤
差があるのに対し、BigDecimal では正確な値を得る事がで...

• BigDecimal
• BigMath
• bigdecimal/jacobian
• bigdecimal/ludcmp
• bigdecimal/math
• bigdecimal/newton
• bigdecimal/util

BigDecimal#round(n) -> BigDecimal (106342.0)

• 2.2.0

• インスタンスメソッド

クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した BigDecimal::ROUND_MODE に従って丸め操作を実行します。

クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した
BigDecimal::ROUND_MODE に従って丸め操作を実行します。

@param n 小数点以下の桁数を整数で指定します。

@param b 丸め処理の方式として、BigDecimal.mode の第 1 引数と同じ
値を指定します。

BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で何も指定せず、
かつ、引数を指定しない場合は
「小数点以下第一位の数を四捨五入して整数(BigDecimal 値)」に...

• BigDecimal

BigDecimal#round(n, b) -> BigDecimal (106342.0)

• 2.2.0

• インスタンスメソッド

クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した BigDecimal::ROUND_MODE に従って丸め操作を実行します。

クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した
BigDecimal::ROUND_MODE に従って丸め操作を実行します。

@param n 小数点以下の桁数を整数で指定します。

@param b 丸め処理の方式として、BigDecimal.mode の第 1 引数と同じ
値を指定します。

BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で何も指定せず、
かつ、引数を指定しない場合は
「小数点以下第一位の数を四捨五入して整数(BigDecimal 値)」に...

• BigDecimal

BigDecimal#round -> Integer (106042.0)

• 2.2.0

• インスタンスメソッド

クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した BigDecimal::ROUND_MODE に従って丸め操作を実行します。

クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した
BigDecimal::ROUND_MODE に従って丸め操作を実行します。

@param n 小数点以下の桁数を整数で指定します。

@param b 丸め処理の方式として、BigDecimal.mode の第 1 引数と同じ
値を指定します。

BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で何も指定せず、
かつ、引数を指定しない場合は
「小数点以下第一位の数を四捨五入して整数(BigDecimal 値)」に...

• BigDecimal

BigDecimal::ROUND_MODE -> Integer (69388.0)

• 2.2.0

• 定数

BigDecimal の計算結果の丸め処理を設定、確認する際の値を返します。

BigDecimal の計算結果の丸め処理を設定、確認する際の値を返します。

BigDecimal.mode の第 1 引数に指定します。詳細については
BigDecimal.mode を参照してください。

• BigDecimal

絞り込み条件を変える

BigDecimal::ROUND_CEILING -> Integer (69370.0)

• 2.2.0

• 定数

BigDecimal の計算結果の丸め処理で数値の大きい方に繰り上げるかどう かを設定、確認する際の値を返します。

BigDecimal の計算結果の丸め処理で数値の大きい方に繰り上げるかどう
かを設定、確認する際の値を返します。

BigDecimal.mode の第 2 引数に指定します。

• BigDecimal

BigDecimal::ROUND_DOWN -> Integer (69370.0)

• 2.2.0

• 定数

BigDecimal の計算結果の丸め処理で全て切り捨てるかどうかを設定、確 認する際の値を返します。

BigDecimal の計算結果の丸め処理で全て切り捨てるかどうかを設定、確
認する際の値を返します。

BigDecimal.mode の第 2 引数に指定します。

• BigDecimal

BigDecimal::ROUND_FLOOR -> Integer (69370.0)

• 2.2.0

• 定数

BigDecimal の計算結果の丸め処理で数値の小さい方に繰り下げるかどう かを設定、確認する際の値を返します。

BigDecimal の計算結果の丸め処理で数値の小さい方に繰り下げるかどう
かを設定、確認する際の値を返します。

BigDecimal.mode の第 2 引数に指定します。

• BigDecimal

BigDecimal::ROUND_HALF_DOWN -> Integer (69370.0)

• 2.2.0

• 定数

BigDecimal の計算結果の丸め処理で五捨六入するかどうかを設定、確認 する際の値を返します。

BigDecimal の計算結果の丸め処理で五捨六入するかどうかを設定、確認
する際の値を返します。

BigDecimal.mode の第 2 引数に指定します。

• BigDecimal

BigDecimal::ROUND_HALF_EVEN -> Integer (69370.0)

• 2.2.0

• 定数

BigDecimal の計算結果の丸め処理で四捨六入するかどうかを設定、確認 する際の値を返します。5の時は上位1桁が奇数の時のみ繰り上げます (Banker's rounding)。

BigDecimal の計算結果の丸め処理で四捨六入するかどうかを設定、確認
する際の値を返します。5の時は上位1桁が奇数の時のみ繰り上げます
(Banker's rounding)。

BigDecimal.mode の第 2 引数に指定します。

• BigDecimal

絞り込み条件を変える

BigDecimal::ROUND_HALF_UP -> Integer (69370.0)

• 2.2.0

• 定数

BigDecimal の計算結果の丸め処理で四捨五入するかどうかを設定、確認 する際の値を返します。

BigDecimal の計算結果の丸め処理で四捨五入するかどうかを設定、確認
する際の値を返します。

BigDecimal.mode の第 2 引数に指定します。

• BigDecimal

BigDecimal::ROUND_UP -> Integer (69370.0)

• 2.2.0

• 定数

BigDecimal の計算結果の丸め処理で全て切り上げするかどうかを設定、 確認する際の値を返します。

BigDecimal の計算結果の丸め処理で全て切り上げするかどうかを設定、
確認する際の値を返します。

BigDecimal.mode の第 2 引数に指定します。

• BigDecimal

BigDecimal#save_rounding_mode { ... } -> object (69349.0)

• 2.2.0

• インスタンスメソッド

丸め処理に関する BigDecimal.mode の設定を保存してブロックを評価します。 ブロック中で変更した設定はブロックの評価後に復元されます。

丸め処理に関する BigDecimal.mode の設定を保存してブロックを評価します。
ブロック中で変更した設定はブロックの評価後に復元されます。

ブロックの評価結果を返します。

• BigDecimal

BigDecimal.mode(s) -> Integer | nil (52129.0)

• 2.2.0

• 特異メソッド

BigDecimal の計算処理の制御方法を設定、確認します。

BigDecimal の計算処理の制御方法を設定、確認します。

第2引数を省略、または nil を指定すると現状の設定値を返します。

@param s 制御方法の設定、確認を行う項目を BigDecimal::EXCEPTION_*、
BigDecimal::ROUND_MODE のいずれかで指定します。

@param v 引数 s が BigDecimal::ROUND_MODE の場合は
BigDecimal::ROUND_MODE 以外の BigDecimal::_ROUND* のいず
れかを指定します。指定した丸め処理が有効...

• BigDecimal

BigDecimal.mode(s, v) -> Integer | nil (52129.0)

• 2.2.0

• 特異メソッド

BigDecimal の計算処理の制御方法を設定、確認します。

BigDecimal の計算処理の制御方法を設定、確認します。

第2引数を省略、または nil を指定すると現状の設定値を返します。

@param s 制御方法の設定、確認を行う項目を BigDecimal::EXCEPTION_*、
BigDecimal::ROUND_MODE のいずれかで指定します。

@param v 引数 s が BigDecimal::ROUND_MODE の場合は
BigDecimal::ROUND_MODE 以外の BigDecimal::_ROUND* のいず
れかを指定します。指定した丸め処理が有効...

• BigDecimal

絞り込み条件を変える

BigDecimal.limit(n = nil) -> Integer (51265.0)

• 2.2.0

• 特異メソッド

生成されるBigDecimalオブジェクトの最大桁数をn桁に制限します。 n を指定しない、または n が nil の場合は、現状の最大桁数が返ります。

生成されるBigDecimalオブジェクトの最大桁数をn桁に制限します。
n を指定しない、または n が nil の場合は、現状の最大桁数が返ります。

戻り値は設定する前の値です。設定値のデフォルト値は0で、桁数無制限を表しています。

計算を続行する間に、数字の桁数が無制限に増えてしまうような場合 limit で
予め桁数を制限できます。この場合 BigDecimal.mode で指定された丸め処理が
実行されます。ただし、インスタンスメソッド (BigDecimal#truncate /
BigDecimal#round / BigDecimal#ceil / BigDecimal#...

• BigDecimal