ライブラリ
- ビルトイン (3)
- bigdecimal (36)
-
bigdecimal
/ ludcmp (1) -
bigdecimal
/ newton (1) -
bigdecimal
/ util (1) - matrix (1)
クラス
- BigDecimal (36)
- Integer (4)
- Matrix (1)
キーワード
- ** (1)
-
1
. 6 . 8から1 . 8 . 0への変更点(まとめ) (1) - BASE (1)
-
EXCEPTION
_ ALL (1) -
EXCEPTION
_ INFINITY (1) -
EXCEPTION
_ NaN (1) -
EXCEPTION
_ OVERFLOW (1) -
EXCEPTION
_ UNDERFLOW (1) -
EXCEPTION
_ ZERODIVIDE (1) -
ROUND
_ CEILING (1) -
ROUND
_ DOWN (1) -
ROUND
_ FLOOR (1) -
ROUND
_ HALF _ DOWN (1) -
ROUND
_ HALF _ EVEN (1) -
ROUND
_ HALF _ UP (1) -
ROUND
_ MODE (1) -
ROUND
_ UP (1) -
SIGN
_ NEGATIVE _ FINITE (1) -
SIGN
_ NEGATIVE _ INFINITE (1) -
SIGN
_ NEGATIVE _ ZERO (1) -
SIGN
_ NaN (1) -
SIGN
_ POSITIVE _ FINITE (1) -
SIGN
_ POSITIVE _ INFINITE (1) -
SIGN
_ POSITIVE _ ZERO (1) - ceil (1)
-
double
_ fig (1) - exponent (1)
- floor (1)
- hash (1)
- limit (1)
- ludecomp (1)
- mode (2)
- nlsolve (1)
- pow (2)
- precs (1)
- rank (1)
- round (1)
- split (1)
-
to
_ d (1) -
to
_ i (1) -
to
_ int (1) - truncate (1)
検索結果
先頭5件
-
bigdecimal (115813.0)
-
bigdecimal は浮動小数点数演算ライブラリです。 任意の精度で 10 進表現された浮動小数点数を扱えます。
bigdecimal は浮動小数点数演算ライブラリです。
任意の精度で 10 進表現された浮動小数点数を扱えます。
//emlist[][ruby]{
require 'bigdecimal'
a = BigDecimal("0.123456789123456789")
b = BigDecimal("123456.78912345678", 40)
print a + b # => 0.123456912580245903456789e6
//}
一般的な 10 進数の計算でも有用です。2 進数の浮動小数点演算には微小な誤
差があるのに対し、BigDecimal では正確な値を得る事がで... -
Integer
# pow(other , modulo) -> Integer (72640.0) -
算術演算子。冪(べき乗)を計算します。
算術演算子。冪(べき乗)を計算します。
@param other 二項演算の右側の引数(対象)
@param modulo 指定すると、計算途中に巨大な値を生成せずに (self**other) % modulo と同じ結果を返します。
@return 計算結果
@raise TypeError 2引数 pow で Integer 以外を指定した場合に発生します。
@raise RangeError 2引数 pow で other に負の数を指定した場合に発生します。
//emlist[][ruby]{
2 ** 3 # => 8
2 ** 0 # => 1
0 ** 0 # => 1
... -
Integer
# to _ d -> BigDecimal (72418.0) -
自身を BigDecimal に変換します。BigDecimal(self) と同じです。
自身を BigDecimal に変換します。BigDecimal(self) と同じです。
@return BigDecimal に変換したオブジェクト -
Integer
# **(other) -> Numeric (72040.0) -
算術演算子。冪(べき乗)を計算します。
算術演算子。冪(べき乗)を計算します。
@param other 二項演算の右側の引数(対象)
@param modulo 指定すると、計算途中に巨大な値を生成せずに (self**other) % modulo と同じ結果を返します。
@return 計算結果
@raise TypeError 2引数 pow で Integer 以外を指定した場合に発生します。
@raise RangeError 2引数 pow で other に負の数を指定した場合に発生します。
//emlist[][ruby]{
2 ** 3 # => 8
2 ** 0 # => 1
0 ** 0 # => 1
... -
Integer
# pow(other) -> Numeric (72040.0) -
算術演算子。冪(べき乗)を計算します。
算術演算子。冪(べき乗)を計算します。
@param other 二項演算の右側の引数(対象)
@param modulo 指定すると、計算途中に巨大な値を生成せずに (self**other) % modulo と同じ結果を返します。
@return 計算結果
@raise TypeError 2引数 pow で Integer 以外を指定した場合に発生します。
@raise RangeError 2引数 pow で other に負の数を指定した場合に発生します。
//emlist[][ruby]{
2 ** 3 # => 8
2 ** 0 # => 1
0 ** 0 # => 1
... -
BigDecimal
# to _ int -> Integer (60910.0) -
self の小数点以下を切り捨てて整数に変換します。
self の小数点以下を切り捨てて整数に変換します。
@raise FloatDomainError self が無限大や NaN であった場合に発生します。 -
BigDecimal
# split -> [Integer , String , Integer , Integer] (52912.0) -
BigDecimal 値を 0.xxxxxxx*10**n と表現したときに、 符号 (NaNのときは 0、それ以外は+1か-1になります)、 仮数部分の文字列("xxxxxxx")と、基数(10)、更に指数 n を配列で返します。
BigDecimal 値を 0.xxxxxxx*10**n と表現したときに、
符号 (NaNのときは 0、それ以外は+1か-1になります)、
仮数部分の文字列("xxxxxxx")と、基数(10)、更に指数 n を配列で返します。
//emlist[][ruby]{
require "bigdecimal"
a = BigDecimal("3.14159265")
f, x, y, z = a.split
//}
とすると、f = 1、x = "314159265"、y = 10、z = 1 になります。
従って、以下のようにする事で Float に変換することができます。
//em... -
BigDecimal
. mode(s) -> Integer | nil (52483.0) -
BigDecimal の計算処理の制御方法を設定、確認します。
BigDecimal の計算処理の制御方法を設定、確認します。
第2引数を省略、または nil を指定すると現状の設定値を返します。
@param s 制御方法の設定、確認を行う項目を BigDecimal::EXCEPTION_*、
BigDecimal::ROUND_MODE のいずれかで指定します。
@param v 引数 s が BigDecimal::ROUND_MODE の場合は
BigDecimal::ROUND_MODE 以外の BigDecimal::_ROUND* のいず
れかを指定します。指定した丸め処理が有効... -
BigDecimal
. mode(s , v) -> Integer | nil (52483.0) -
BigDecimal の計算処理の制御方法を設定、確認します。
BigDecimal の計算処理の制御方法を設定、確認します。
第2引数を省略、または nil を指定すると現状の設定値を返します。
@param s 制御方法の設定、確認を行う項目を BigDecimal::EXCEPTION_*、
BigDecimal::ROUND_MODE のいずれかで指定します。
@param v 引数 s が BigDecimal::ROUND_MODE の場合は
BigDecimal::ROUND_MODE 以外の BigDecimal::_ROUND* のいず
れかを指定します。指定した丸め処理が有効... -
BigDecimal
# precs -> [Integer , Integer] (52207.0) -
self の有効数字と最大有効数字の配列を返します。
self の有効数字と最大有効数字の配列を返します。 -
BigDecimal
# round -> Integer (52078.0) -
クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した BigDecimal::ROUND_MODE に従って丸め操作を実行します。
クラスメソッド BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で指定した
BigDecimal::ROUND_MODE に従って丸め操作を実行します。
@param n 小数点以下の桁数を整数で指定します。
@param b 丸め処理の方式として、BigDecimal.mode の第 1 引数と同じ
値を指定します。
BigDecimal.mode(BigDecimal::ROUND_MODE,flag) で何も指定せず、
かつ、引数を指定しない場合は
「小数点以下第一位の数を四捨五入して整数(BigDecimal 値)」に... -
BigDecimal
. limit(n = nil) -> Integer (51850.0) -
生成されるBigDecimalオブジェクトの最大桁数をn桁に制限します。 n を指定しない、または n が nil の場合は、現状の最大桁数が返ります。
生成されるBigDecimalオブジェクトの最大桁数をn桁に制限します。
n を指定しない、または n が nil の場合は、現状の最大桁数が返ります。
戻り値は設定する前の値です。設定値のデフォルト値は0で、桁数無制限を表しています。
計算を続行する間に、数字の桁数が無制限に増えてしまうような場合 limit で
予め桁数を制限できます。この場合 BigDecimal.mode で指定された丸め処理が
実行されます。ただし、インスタンスメソッド (BigDecimal#truncate /
BigDecimal#round / BigDecimal#ceil / BigDecimal#... -
BigDecimal
:: EXCEPTION _ ALL -> Integer (51760.0) -
BigDecimal の計算において例外を発生させるかどうかを設定、確認する 際の値を返します。
BigDecimal の計算において例外を発生させるかどうかを設定、確認する
際の値を返します。
以下の例外全てが対象です。
* BigDecimal::EXCEPTION_INFINITY
* BigDecimal::EXCEPTION_NaN
* BigDecimal::EXCEPTION_OVERFLOW
* BigDecimal::EXCEPTION_UNDERFLOW
* BigDecimal::EXCEPTION_ZERODIVIDE
BigDecimal.mode の第 1 引数に指定します。 -
BigDecimal
# ceil -> Integer (51715.0) -
self 以上の整数のうち、最も小さい整数を計算し、その値を返します。
self 以上の整数のうち、最も小さい整数を計算し、その値を返します。
@param n 小数点以下の桁数を整数で指定します。
//emlist[][ruby]{
require "bigdecimal"
BigDecimal("1.23456").ceil # => 2
BigDecimal("-1.23456").ceil # => -1
//}
以下のように引数を与えて、小数点以下 n+1 位の数字を操作することもできます。
n >= 0 なら、小数点以下 n + 1 位の数字を操作します
(小数点以下を、最大 n 桁にします)。
n が負のときは小数点以上 n 桁目を操作... -
BigDecimal
# floor -> Integer (51715.0) -
self 以下の最大整数を返します。
self 以下の最大整数を返します。
@param n 小数点以下の桁数を整数で指定します。
//emlist[][ruby]{
require "bigdecimal"
BigDecimal("1.23456").floor # => 1
BigDecimal("-1.23456").floor # => -2
//}
以下のように引数 n を与えることもできます。
n >= 0 なら、小数点以下 n + 1 位の数字を操作します
(小数点以下を、最大 n 桁にします)。
n が負のときは小数点以上 n 桁目を操作します
(小数点位置から左に少なくとも n 個の 0 が並びます... -
BigDecimal
:: ROUND _ MODE -> Integer (51688.0) -
BigDecimal の計算結果の丸め処理を設定、確認する際の値を返します。
BigDecimal の計算結果の丸め処理を設定、確認する際の値を返します。
BigDecimal.mode の第 1 引数に指定します。詳細については
BigDecimal.mode を参照してください。 -
BigDecimal
:: EXCEPTION _ INFINITY -> Integer (51670.0) -
BigDecimal の計算結果が無限大になった場合に例外を発生させるかどう かを設定、確認する際の値を返します。
BigDecimal の計算結果が無限大になった場合に例外を発生させるかどう
かを設定、確認する際の値を返します。
BigDecimal.mode の第 1 引数に指定します。 -
BigDecimal
:: EXCEPTION _ NaN -> Integer (51670.0) -
BigDecimal の計算結果が NaN になった場合に例外を発生させるかどう かを設定、確認する際の値を返します。
BigDecimal の計算結果が NaN になった場合に例外を発生させるかどう
かを設定、確認する際の値を返します。
BigDecimal.mode の第 1 引数に指定します。 -
BigDecimal
:: EXCEPTION _ OVERFLOW -> Integer (51670.0) -
BigDecimal の計算結果の指数部がオーバーフローした場合に例外を発生 させるかどうかを設定、確認する際の値を返します。
BigDecimal の計算結果の指数部がオーバーフローした場合に例外を発生
させるかどうかを設定、確認する際の値を返します。
BigDecimal.mode の第 1 引数に指定します。 -
BigDecimal
:: EXCEPTION _ UNDERFLOW -> Integer (51670.0) -
BigDecimal の計算結果の指数部がアンダーフローした場合に例外を発生 させるかどうかを設定、確認する際の値を返します。
BigDecimal の計算結果の指数部がアンダーフローした場合に例外を発生
させるかどうかを設定、確認する際の値を返します。
BigDecimal.mode の第 1 引数に指定します。 -
BigDecimal
:: EXCEPTION _ ZERODIVIDE -> Integer (51670.0) -
BigDecimal に 0 による割り算を実行した場合に例外を発生させるかど うかを設定、確認する際の値を返します。
BigDecimal に 0 による割り算を実行した場合に例外を発生させるかど
うかを設定、確認する際の値を返します。
BigDecimal.mode の第 1 引数に指定します。 -
BigDecimal
:: ROUND _ CEILING -> Integer (51670.0) -
BigDecimal の計算結果の丸め処理で数値の大きい方に繰り上げるかどう かを設定、確認する際の値を返します。
BigDecimal の計算結果の丸め処理で数値の大きい方に繰り上げるかどう
かを設定、確認する際の値を返します。
BigDecimal.mode の第 2 引数に指定します。 -
BigDecimal
:: ROUND _ DOWN -> Integer (51670.0) -
BigDecimal の計算結果の丸め処理で全て切り捨てるかどうかを設定、確 認する際の値を返します。
BigDecimal の計算結果の丸め処理で全て切り捨てるかどうかを設定、確
認する際の値を返します。
BigDecimal.mode の第 2 引数に指定します。 -
BigDecimal
:: ROUND _ FLOOR -> Integer (51670.0) -
BigDecimal の計算結果の丸め処理で数値の小さい方に繰り下げるかどう かを設定、確認する際の値を返します。
BigDecimal の計算結果の丸め処理で数値の小さい方に繰り下げるかどう
かを設定、確認する際の値を返します。
BigDecimal.mode の第 2 引数に指定します。 -
BigDecimal
:: ROUND _ HALF _ DOWN -> Integer (51670.0) -
BigDecimal の計算結果の丸め処理で五捨六入するかどうかを設定、確認 する際の値を返します。
BigDecimal の計算結果の丸め処理で五捨六入するかどうかを設定、確認
する際の値を返します。
BigDecimal.mode の第 2 引数に指定します。 -
BigDecimal
:: ROUND _ HALF _ EVEN -> Integer (51670.0) -
BigDecimal の計算結果の丸め処理で四捨六入するかどうかを設定、確認 する際の値を返します。5の時は上位1桁が奇数の時のみ繰り上げます (Banker's rounding)。
BigDecimal の計算結果の丸め処理で四捨六入するかどうかを設定、確認
する際の値を返します。5の時は上位1桁が奇数の時のみ繰り上げます
(Banker's rounding)。
BigDecimal.mode の第 2 引数に指定します。 -
BigDecimal
:: ROUND _ HALF _ UP -> Integer (51670.0) -
BigDecimal の計算結果の丸め処理で四捨五入するかどうかを設定、確認 する際の値を返します。
BigDecimal の計算結果の丸め処理で四捨五入するかどうかを設定、確認
する際の値を返します。
BigDecimal.mode の第 2 引数に指定します。 -
BigDecimal
:: ROUND _ UP -> Integer (51670.0) -
BigDecimal の計算結果の丸め処理で全て切り上げするかどうかを設定、 確認する際の値を返します。
BigDecimal の計算結果の丸め処理で全て切り上げするかどうかを設定、
確認する際の値を返します。
BigDecimal.mode の第 2 引数に指定します。 -
BigDecimal
# truncate -> Integer (51661.0) -
小数点以下の数を切り捨てて整数にします。
小数点以下の数を切り捨てて整数にします。
@param n 小数点以下の桁数を整数で指定します。
以下のように引数を与えて、小数点以下 n+1 位の数字を操作することもできます。
n が正の時は、小数点以下 n+1 位の数字を切り捨てます
(小数点以下を、最大 n 桁にします)。
n が負のときは小数点以上 n 桁目を操作します
(小数点位置から左に少なくとも n 個の 0 が並びます)。
//emlist[][ruby]{
require "bigdecimal"
BigDecimal("1.23456").truncate(4).to_f # => 1.2345
BigDec... -
BigDecimal
. double _ fig -> Integer (51658.0) -
Ruby の Float クラスが保持できる有効数字の数を返します。
Ruby の Float クラスが保持できる有効数字の数を返します。
//emlist[][ruby]{
require 'bigdecimal'
p BigDecimal::double_fig # ==> 16 (depends on the CPU etc.)
//}
double_figは以下の C プログラムの結果と同じです。
double v = 1.0;
int double_fig = 0;
while (v + 1.0 > 1.0) {
++double_fig;
v /= 10;
} -
BigDecimal
:: SIGN _ NEGATIVE _ FINITE -> Integer (51652.0) -
負の値に対応する BigDecimal#sign の値を返します。
負の値に対応する BigDecimal#sign の値を返します。 -
BigDecimal
:: SIGN _ NEGATIVE _ INFINITE -> Integer (51652.0) -
負の無限大に対応する BigDecimal#sign の値を返します。
負の無限大に対応する BigDecimal#sign の値を返します。 -
BigDecimal
:: SIGN _ NEGATIVE _ ZERO -> Integer (51652.0) -
負の 0 に対応する BigDecimal#sign の値を返します。
負の 0 に対応する BigDecimal#sign の値を返します。 -
BigDecimal
:: SIGN _ NaN -> Integer (51652.0) -
NaN に対応する BigDecimal#sign の値を返します。
NaN に対応する BigDecimal#sign の値を返します。 -
BigDecimal
:: SIGN _ POSITIVE _ FINITE -> Integer (51652.0) -
正の値に対応する BigDecimal#sign の値を返します。
正の値に対応する BigDecimal#sign の値を返します。 -
BigDecimal
:: SIGN _ POSITIVE _ INFINITE -> Integer (51652.0) -
正の無限大に対応する BigDecimal#sign の値を返します。
正の無限大に対応する BigDecimal#sign の値を返します。 -
BigDecimal
:: SIGN _ POSITIVE _ ZERO -> Integer (51652.0) -
正の 0 に対応する BigDecimal#sign の値を返します。
正の 0 に対応する BigDecimal#sign の値を返します。 -
BigDecimal
# to _ i -> Integer (51610.0) -
self の小数点以下を切り捨てて整数に変換します。
self の小数点以下を切り捨てて整数に変換します。
@raise FloatDomainError self が無限大や NaN であった場合に発生します。 -
BigDecimal
# exponent -> Integer (51604.0) -
self の指数部を整数値で返します。
self の指数部を整数値で返します。 -
BigDecimal
# hash -> Integer (51604.0) -
self のハッシュ値を返します。
self のハッシュ値を返します。
符号、小数部、指数部が同じ場合に同じハッシュ値を返します。 -
BigDecimal
:: BASE -> Integer (51604.0) -
ライブラリ内部で使用します。
ライブラリ内部で使用します。 -
LUSolve
. # ludecomp(a , n , zero = 0 , one = 1) -> [Integer] (640.0) -
n 次正方行列を表す配列 a を破壊的に変更し、返り値と併せて元の行列の LU 分解を提供します。
n 次正方行列を表す配列 a を破壊的に変更し、返り値と併せて元の行列の LU 分解を提供します。
LUSolve.#lusolve の引数を構築するために使います。
@param a 行列を BigDecimal の配列で指定します。(各要素を
Row-major order で 1 次元の配列にしたオブジェクトを指定し
ます)
@param n 引数 a の次元を整数で指定します。
@param zero 0 を表す値を指定します。
@param one 1 を表す値を指定します。
@return ピボットの位置を表す Integer の配... -
Matrix
# rank -> Integer (622.0) -
階数 (rank) を返します。
階数 (rank) を返します。
Float を使用すると、精度が不足するため、誤った結果が生じる可能性があることに注意してください。
代わりに、Rational や BigDecimal などの正確なオブジェクトを使用することを検討してください。
//emlist[][ruby]{
require 'matrix'
m = Matrix[[2, 6], [1, 3]]
m.rank # => 1
//} -
Newton
. # nlsolve(f , x) -> Integer (622.0) -
ニュートン法を用いて非線形方程式 f(x) = 0 の解 x を求めます。
ニュートン法を用いて非線形方程式 f(x) = 0 の解 x を求めます。
@param f 関数を表すオブジェクトを指定します。詳細は
bigdecimal/newton をご覧ください。
@param x 探索を開始する点を数値の配列で指定します。解が複数ある場合、初
期値によって得られる解が異なります。また,初期値によっては収束
せずに RuntimeError が発生する場合があります。実行後は引
数 x に指定したオブジェクトに解が代入されます。
実行後は解を表す値が代入されています。
... -
1
. 6 . 8から1 . 8 . 0への変更点(まとめ) (217.0) -
1.6.8から1.8.0への変更点(まとめ) * ((<1.6.8から1.8.0への変更点(まとめ)/インタプリタの変更>)) * ((<1.6.8から1.8.0への変更点(まとめ)/追加されたクラス/モジュール>)) * ((<1.6.8から1.8.0への変更点(まとめ)/追加されたメソッド>)) * ((<1.6.8から1.8.0への変更点(まとめ)/追加された定数>)) * ((<1.6.8から1.8.0への変更点(まとめ)/拡張されたクラス/メソッド(互換性のある変更)>)) * ((<1.6.8から1.8.0への変更点(まとめ)/変更されたクラス/メソッド(互換性のない変更)>)) * ((<1.6.8から1.8.0への変更点(まとめ)/文法の変更>)) * ((<1.6.8から1.8.0への変更点(まとめ)/正規表現>)) * ((<1.6.8から1.8.0への変更点(まとめ)/Marshal>)) * ((<1.6.8から1.8.0への変更点(まとめ)/Windows 対応>)) * ((<1.6.8から1.8.0への変更点(まとめ)/廃止された(される予定の)機能>)) * ((<1.6.8から1.8.0への変更点(まとめ)/ライブラリ>)) * ((<1.6.8から1.8.0への変更点(まとめ)/拡張ライブラリAPI>)) * ((<1.6.8から1.8.0への変更点(まとめ)/バグ修正>)) * ((<1.6.8から1.8.0への変更点(まとめ)/サポートプラットフォームの追加>))
1.6.8から1.8.0への変更点(まとめ)
* ((<1.6.8から1.8.0への変更点(まとめ)/インタプリタの変更>))
* ((<1.6.8から1.8.0への変更点(まとめ)/追加されたクラス/モジュール>))
* ((<1.6.8から1.8.0への変更点(まとめ)/追加されたメソッド>))
* ((<1.6.8から1.8.0への変更点(まとめ)/追加された定数>))
* ((<1.6.8から1.8.0への変更点(まとめ)/拡張されたクラス/メソッド(互換性のある変更)>))
* ((<1.6.8から1.8.0への変更点(まとめ)/変更されたクラス/メソッド(互換性のない変更)>))...