432件ヒット
[1-100件を表示]
（0.162秒）
:![[x]](/images/drop-condition-icon.png "条件を削除"){kind=icon}
ライブラリ
- ビルトイン (135)
- bigdecimal (154)
-
bigdecimal
/ math (44) - json (44)
- matrix (22)
クラス
- Array (19)
- BigDecimal (132)
- Complex (22)
- Float (33)
- Matrix (11)
-
Matrix
:: LUPDecomposition (11) - String (22)
キーワード
-
EXCEPTION
_ ALL (11) -
EXCEPTION
_ NaN (11) - Float (6)
- FloatDomainError (11)
- Marshal フォーマット (11)
-
SIGN
_ NaN (11) - atan (11)
- bigdecimal (11)
- cos (11)
- determinant (11)
-
determinant
_ e (11) - exp (11)
- finite? (22)
- format (11)
- generate (11)
- inspect (22)
- load (11)
- log (11)
- mode (22)
- nan? (11)
- pack (19)
- pack テンプレート文字列 (11)
- restore (11)
- sign (11)
- sin (11)
- split (11)
- sprintf (11)
- sqrt (11)
-
to
_ f (11) -
to
_ i (11) -
to
_ int (11) -
to
_ s (22) - unpack (11)
- unparse (11)
検索結果
先頭5件
-
BigDecimal
:: NAN -> BigDecimal (24317.0) -
NaN を表す BigDecimal オブジェクトを返します。
...
NaN を表す BigDecimal オブジェクトを返します。... -
BigDecimal
:: SIGN _ NaN -> Integer (18217.0) -
NaN に対応する BigDecimal#sign の値を返します。
...
NaN に対応する BigDecimal#sign の値を返します。... -
BigDecimal
:: EXCEPTION _ NaN -> Integer (15217.0) -
BigDecimal の計算結果が NaN になった場合に例外を発生させるかどう かを設定、確認する際の値を返します。
...BigDecimal の計算結果が NaN になった場合に例外を発生させるかどう
かを設定、確認する際の値を返します。
BigDecimal.mode の第 1 引数に指定します。... -
BigDecimal
# nan? -> bool (12217.0) -
self が NaN のときに true を返します。それ以外のときに false を返します。
...self が NaN のときに true を返します。それ以外のときに false を返します。... -
BigDecimal
# split -> [Integer , String , Integer , Integer] (12216.0) -
BigDecimal 値を 0.xxxxxxx*10**n と表現したときに、 符号 (NaNのときは 0、それ以外は+1か-1になります)、 仮数部分の文字列("xxxxxxx")と、基数(10)、更に指数 n を配列で返します。
...BigDecimal 値を 0.xxxxxxx*10**n と表現したときに、
符号 (NaNのときは 0、それ以外は+1か-1になります)、
仮数部分の文字列("xxxxxxx")と、基数(10)、更に指数 n を配列で返します。
//emlist[][ruby]{
require "bigdecimal"
a = BigDecimal("3.14159265")
f......, x, y, z = a.split
//}
とすると、f = 1、x = "314159265"、y = 10、z = 1 になります。
従って、以下のようにする事で Float に変換することができます。
//emlist[][ruby]{
s = "0."+x
b = f*(s.to_f)*(y**z)
//}
@see BigDecimal#to_f... -
BigDecimal
:: EXCEPTION _ ALL -> Integer (12206.0) -
BigDecimal の計算において例外を発生させるかどうかを設定、確認する 際の値を返します。
...BigDecimal の計算において例外を発生させるかどうかを設定、確認する
際の値を返します。
以下の例外全てが対象です。
* BigDecimal::EXCEPTION_INFINITY
* BigDecimal::EXCEPTION_NaN
* BigDecimal::EXCEPTION_OVERFLOW
* BigDecimal::EXCEPTION_UNDERFLOW
* Bi......gDecimal::EXCEPTION_ZERODIVIDE
BigDecimal.mode の第 1 引数に指定します。... -
Matrix
:: LUPDecomposition # determinant -> Numeric (12200.0) -
元の行列の行列式の値を返します。 LUP 分解の結果を利用して計算します。
...元の行列の行列式の値を返します。
LUP 分解の結果を利用して計算します。
@see Matrix#determinant... -
BigDecimal
# sign -> -3 | -2 | -1 | 0 | 1 | 2 | 3 (12124.0) -
自身の符号等の性質に応じて、Integer を返します。
...て、Integer を返します。
符号が正であれば正の整数を返し、負であれば負の整数を返し、NaN であれば 0 を返します。
NaN であれば、 0。 BigDecimal::SIGN_NaN と同じです。
+0 であれば、 1。 BigDecimal::SIGN_POSITIVE_ZERO......BigDecimal::SIGN_NEGATIVE_ZERO と同じです。
有限の正の値 であれば、 2。 BigDecimal::SIGN_POSITIVE_FINITE と同じです。
有限の負の値 であれば、-2。 BigDecimal::SIGN_NEGATIVE_FINITE と同じです。
+Infinity であれば、 3。 BigDecimal::SIGN_POSITIVE_IN......FINITE と同じです。
-Infinity であれば、-3。 BigDecimal::SIGN_NEGATIVE_INFINITE と同じです。
BigDecimal は、 0 であっても、+ か - の符号を持つことに注意して下さい。
(「lib:bigdecimal#internal_structure」を参照)
//emlist[][ruby]{
require "bigdecim... -
bigdecimal (12090.0)
-
bigdecimal は浮動小数点数演算ライブラリです。 任意の精度で 10 進表現された浮動小数点数を扱えます。
...bigdecimal は浮動小数点数演算ライブラリです。
任意の精度で 10 進表現された浮動小数点数を扱えます。
//emlist[][ruby]{
require 'bigdecimal'
a = BigDecimal("0.123456789123456789")
b = BigDecimal("123456.78912345678", 40)
print a + b # => 0.123456912580245903456......BigDecimal では正確な値を得る事ができます。
//emlist[例1: 0.0001 を 10000 回足す場合。][ruby]{
sum = 0
for i in (1..10000)
sum = sum + 0.0001
end
print sum # => 0.9999999999999062
//}
//emlist[例2: 0.0001 を 10000 回足す場合。(BigDecimal)][ruby]{
require 'bigdecim......cimal("+Infinity") # => Infinity
BigDecimal("-Infinity") # => -Infinity
//}
==== 非数(Not a Number)
0 / 0 のような未定義の計算を行った場合、非数(Not a Number)を表す値を返
します。
//emlist[][ruby]{
require "bigdecimal"
BigDecimal("0.0") / BigDecimal("0.0") # => NaN... -
FloatDomainError (12032.0)
-
正負の無限大や NaN (Not a Number) を Bignum に変換しようとしたり、 NaN との比較を行ったときに発生します。
...正負の無限大や NaN (Not a Number) を Bignum に変換しようとしたり、
NaN との比較を行ったときに発生します。...